大模型规模持续扩张,成千上万颗AI加速芯片需要不间断交换海量数据,芯片之间的数据传输能力,已经成为制约AI训练与推理性能的关键瓶颈。
长期以来,AI服务器内部依靠金属铜线完成芯片互联,但铜线受物理特性约束,速率越高,信号衰减、功耗发热问题就越突出,传输距离也被限制在单机架内部,很难实现跨机架大规模GPU集群高效协同。
美国硅谷初创企业 Ayar Labs,提出一套全新的共封装光互连方案,尝试用激光与光纤替代传统金属铜线,重塑AI算力集群内部的数据通信方式。
一、铜线互联的物理天花板
传统AI集群依靠铜线、铜背板完成GPU、AI加速器之间的数据交互。电子在铜线传输过程中会产生电阻损耗,高速传输下,大量电能转化为热量,不仅拉高数据中心制冷成本,还会造成信号失真。
为保障信号质量,铜线高速链路的传输距离被大幅压缩,大型AI集群往往只能把大量加速芯片局限在同一个机架之内,跨机架通信效率急剧下降。
对于万亿参数大模型,训练过程需要数千颗AI芯片协同运算,持续同步模型权重、梯度与中间计算结果。一旦芯片之间通信带宽不足、延迟过高,大量算力会被闲置,硬件的实际利用率显著降低。行业普遍意识到,单纯升级芯片算力已经不够,互联技术的革新迫在眉睫。
二、Ayar Labs 的技术方案:TeraPHY光I/O芯粒
Ayar Labs 的核心产品为 TeraPHY光输入输出芯粒,也是全球首款兼容UCIe标准的光互连芯粒,把硅光子器件与传统CMOS电路集成在一起,可以直接和GPU、AI加速器封装在同一个封装基板内部,完成电信号与光信号的相互转换,对外通过光纤传输激光信号,替代原本的金属铜线通路。
整套系统分为两大组件。TeraPHY芯粒放置在算力芯片旁边,负责光电信号转换;SuperNova多波长激光光源独立布置在封装外部,通过光纤把多路激光输送到TeraPHY芯粒,规避激光器发热对算力芯片的干扰,同时方便后期运维更换。
在性能指标上,这套方案双向带宽最高可达8Tbps,相比传统铜互联实现5‑10倍带宽提升,功耗效率提升3‑5倍,单芯粒延迟低至10纳秒,传输距离可以覆盖毫米级芯片内部连接,一直延伸到数公里的数据中心链路,打破铜线的距离限制。
基于微环谐振器的光调制技术,让整套光器件可以在15‑100摄氏度的宽温度区间稳定工作,适配数据中心复杂的运行环境。
三、TeraPHY光I/O芯粒的产业价值
把激光光纤引入芯片封装内部,最直接的改变是解除单机架的束缚。以往大量GPU只能集中在一个机架才能保障通信效率,借助光互连,不同机架的加速芯片可以像单颗巨型芯片一样协同工作,大规模扩展AI集群的规模上限,提升GPU整体利用率,降低大模型训练的综合成本。
从能耗角度,光信号传输损耗远小于电信号,能够降低互联链路的功耗开销,缓解AI数据中心的供电与散热压力,也为未来内存解耦、资源池化的数据中心架构提供硬件基础。
TeraPHY光I/O芯粒方案遵循UCIe、CW‑WDM等开放行业标准,不绑定特定厂商算力芯片,可以对接英伟达、AMD等多家厂商的AI硬件产品,便于产业链落地推广。
四、TeraPHY光I/O芯粒的前景
Ayar Labs 脱胎于麻省理工、加州伯克利等高校的硅光子科研项目,获得英伟达、AMD、联发科等芯片巨头的战略投资。2026年完成E轮5亿美元融资,总融资规模达到8.7亿美元,企业估值37.5亿美元,资金主要用于扩大量产与测试能力,推动共封装光学技术规模化落地。
英伟达首席科学家 Bill Dally 公开表示,光互联是未来大规模AI集群必不可少的技术路径,Ayar Labs 的 TeraPHY光I/O芯粒技术方案契合下一代硅光架构的发展方向。
AI行业竞争不只有芯片算力的比拼,芯片之间如何高效传递数据同样至关重要。Ayar Labs 代表的共封装光互连路线,正在改写AI数据中心底层硬件逻辑。当传统铜线走到物理极限,用光代替电,已经成为下一代AI基础设施最重要的技术方向之一。
不过据 Aodok.com 了解,TeraPHY光I/O芯粒这项深度硬件改造技术,依然面临封装工艺、成本控制、产业链配套等现实挑战,距离大规模普及还有一段产业化周期。