Nvidia集成光子学路线：CPO破局通信瓶颈，OIO重构芯片互联

图片

      在生成式AI爆发的今天，AI模型参数量与算力需求正以指数级速度增长。从2011年的AlexNet到2023年的PaLM，AI训练算力需求已从百teraFLOPs跃升至百万petaFLOPs级别。英伟达资深研究科学家Nandish Mehta在ECTC 2025会议上的报告指出，光子集成技术已成为破解现代AI数据中心算力与通信挑战的核心方案，其通过革命性的硬件架构创新，正在重塑AI基础设施的未来形态。

图片

图片

◆ 生成式AI时代：算力需求的指数级跃迁与硬件进化路径

图片

     AI计算硬件的进化呈现出惊人的加速趋势。2016年推出的Pascal架构GPU算力仅为19 TFLOPS，而2024年的Blackwell架构已实现20,000 TFLOPS算力，八年间算力提升达1000倍。这种进化不仅是单一芯片的性能提升，更体现为大规模训练集群的算力聚合——xAI的Colossus集群已部署10万台H100 GPU，而未来数月内将升级至20万台（含5万台H200），成为全球最强AI训练系统。

图片

模型架构的变革是算力需求爆发的直接推手。Transformer架构的引入使模型参数量突破万亿级别，如PaLM模型训练算力需求达10^15 FLOPs。为应对这种需求，AI数据中心已从单机计算转向大规模分布式集群——Meta的训练集群包含2.4万台H100 GPU，MLPerf测试中也出现了4320台H100与10752台A100的超大规模集群。这种规模化趋势带来了全新的系统挑战：当GPU数量超过万台时，通信时间占比已逼近计算时间，传统电气互连架构面临带宽与能耗的双重瓶颈。

图片

◆ 现代AI数据中心的核心挑战：通信瓶颈与能耗困境

图片

      分布式训练中的通信效率已成为系统性能的决定性因素。数据并行、流水线并行、张量并行等多种并行策略的应用，本质上都是对通信架构的优化尝试。但随着GPU数量增加，一个核心矛盾日益凸显：更快的GPU需要更高的通信性能，更多的GPU更需要通信架构的革命性升级。以Blackwell架构为例，其HBM3e内存访问带宽达8 TByte/s，NVLink 5.0的GPU间互连带宽为1.8 TByte/s，单个NVLink域可连接576台GPU，但长距离扩展仍依赖InfiniBand或以太网（800G端口），这些都对光通信技术提出了迫切需求。

图片

      能耗问题已成为AI数据中心规模化的现实障碍。当前超大规模数据中心的规划功率已达300-1000MW，这相当于传统铝加工等重工业的能耗规模。更严峻的是，大规模同步训练与其他计算阶段的能耗波动，会导致数兆瓦级的功率震荡。研究表明，光网络能耗已占数据中心总能耗的8%-10%，在传统可插拔光模块方案中，每1.6Tb/s带宽的功耗高达30W（含20W DSP与10W激光），这种能耗密度难以支撑未来十万级GPU集群的扩展。

图片

◆ 光子集成技术：从CPO到CIO的架构创新与性能突破

图片

图片

      英伟达推出的共封装光学（CPO）技术代表了当前光互连的最前沿进展。其Quantum-X光子交换机实现了115.2 Tb/s的惊人带宽，核心在于采用硅光子（SiPh）引擎与CMOS工艺的深度集成：每个SiPh引擎包含200 Gb/s微环调制器，单个光学子组件可提供4.8 Tb/s吞吐量，而18个引擎的集成使Quantum-X800 ASIC达到28.8 Tb/s吞吐量。这种架构带来了3.5倍的功耗优化——相比传统30W的可插拔模块，CPO方案将1.6Tb/s带宽的功耗降至9W（7W光学引擎+2W激光源）。

图片

      CPO的技术优势源自物理层的彻底重构。传统方案中，电信号在连接器、PCB和基板上的损耗高达22dB，而CPO将光学组件直接集成在基板上，损耗仅为4dB，信号完整性提升63倍。此外还有激光器光源的高效利用：传统方案每1.6Tb/s需要8个激光器，而CPO仅需2个，激光数量减少75%，这不仅降低了成本，更显著提升了系统可靠性——将多个光学组件集成至单一芯片后，故障点数量大幅减少。而在散热方面也可以采用更高效的液冷散热处理方式。

图片

图片

图片

图片

      在更高层级的系统集成中，英伟达提出了共集成光学（CIO）概念，将光学组件直接部署在中介层上，也就是常说的OIO(2.5D集成)的概念。通过TSMC COUPE技术实现的3D堆叠电子/光子集成（EIC/PIC），使带宽密度突破传统限制。当前硅中介层可实现超过2 Tb/s/mm的带宽密度，未来可扩展至10 Tb/s/mm。

      CIO技术创新的方向会聚焦于更低的pJ/bit能耗与更高的集成度。初步基于16波长DWDM微环谐振器的架构（25GBd OOK调制，单光纤400G）研究，后续通过增加波长数量、提升波特率（如50GBd）、采用PAM4调制及偏振复用等手段持续优化。CIO采用的DWDM链路架构进一步优化了能耗——激光能耗为2 pJ/bit，光传输能耗1 pJ/bit，全链路总能耗仅3.5 pJ/bit，相比传统方案实现数量级优化。

图片

◆ 结论：光子集成技术重塑AI基础设施

      NVIDIA在HPC与网络系统中集成光子学的实践，标志着数据中心从“铜缆主导”向“全光通信”的潜在范式转变趋势。CPO与OIO技术通过解决通信带宽、能效与可靠性挑战，为AI算力的指数级增长提供了物理层支撑。未来，随着硅光技术与3D封装的成熟，集成光子学将进一步渗透至芯片内部，推动AI基础设施向更低功耗、更高密度的方向演进。

图片