光学互连破局AI芯片内存带宽瓶颈：HBM分离封装新架构登场

为突破人工智能芯片长期面临的内存带宽瓶颈，全球存储与先进封装领域正共同探索一种创新架构方案：将图形处理器与高带宽内存分离封装，并借助光学互连技术实现高效数据传输。

据一位来自韩国存储企业的研发人员介绍，当前业界在提升高带宽内存带宽与容量方面已触及结构性天花板。为突破图形处理器芯片物理边界的约束，企业正与下游客户深入探讨采用光学互连路径，在芯片外围拓展内存部署空间，从而支持更大规模的高带宽内存集成。

长期以来，高带宽内存均采用与图形处理器紧邻的二维半封装方式，目的在于最大限度压缩信号传输延迟。然而，图形处理器芯片边缘尺寸已趋近物理制造极限，周边可用布线与堆叠空间几近枯竭。与此同时，垂直堆叠路线同样面临严峻挑战——高带宽内存堆叠层数正从十二层、十六层向二十层以上演进，工艺复杂度随之呈指数级攀升。

在此背景下，新架构将高带宽内存移至距离图形处理器数厘米的位置，可沿其外围环形排布，亦可在电路板中央设置独立内存区域。得益于光信号极高的传输速率，这一物理距离的适度增加并不会带来显著延迟影响。

光学互连技术已在实践中获得验证。二零二五年举办的高性能芯片大会上，已有企业公开展示其光子互连模块，该模块可环绕图形处理器封装构建光学输入输出通道，有效释放芯片周边空间用于内存扩展。

一位国际封测服务提供商高管指出，光学互连已成为行业共识的发展方向。其落地路径将遵循由大到小的演进逻辑：率先应用于机架之间、服务器之间的连接，随后延伸至单块电路板内部的芯片级互连。而芯片与芯片之间的光互连，或将比预期更早成为现实。