Gartner：以太网的进步将终结 InfiniBand 在 AI 网络领域的领先地位

Gartner 终于下场了

最新推出的新兴技术报告

由分析师Anushree Verma撰写

为生成式 AI 网络提供前瞻性的见解

核心观点

对于那些考虑 InfiniBand 的人，Verma写道，有必要“通过评估基于 InfiniBand 的交换机与基于超以太网的交换机，重新评估网络选择的性能、可靠性、可扩展性和价格。”

InfiniBand

鉴于GPU由单一供应商主导，InfiniBand 是生成式 AI 应用中以太网的可行替代方案；然而，InfiniBand网络的价格较高，并且没有开放的生态系统 InfiniBand 比以太网更贵，并且这种情况将持续五年。但是预计 30% 的生成式 AI 流量将在InfiniBand上运行，目前这一比例还不到 20% Gartner 认为它“具有可扩展性限制，并且需要特殊技能来管理”，这意味着一些网络设计人员会因为难以管理的复杂性避免使用IB

以太网

标准配置的以太网并不适合人工智能训练。然而，鉴于此类网络的开放生态系统和可靠性，使用无损以太网或超以太网的融合以太网 (RoCE) 上的远程直接内存访问 (RDMA) 可能被证明是有效的替代方案 到 2028 年，45% 的生成式 AI 流量将在以太网上运行，目前这一比例还不到 20% Gartner 认为目前以太网用于 AI 训练 “不理想”，但三项创新将使以太网成为 InfiniBand 的有力竞争者，甚至是更出色的竞争者： RoCE – 将允许通过以太网在设备之间直接进行内存访问，从而提高性能并降低 CPU 利用率 无损以太网 – 将带来先进的流量控制、改进的拥塞处理、提升哈希性能、Buffering以及先进的流量遥测，从而提高现代交换机的功能 UEC 2024 年规范 – 专门为以太网的 AI 应用而设计 由于以太网是开放的，预计更多供应商将基于上述创新为买家提供选择并创造出竞争局面。

光学互联

芯片间光互连使数据中心能够为生成式 AI 任务扩展计算集群，并提高能效和带宽。 目前用于AI的网络中只有不到 1% 采用光学互连技术，但预测到 2030 年这一比例将上升至 25% Verma 警告说，虽然该技术拥有英特尔、台积电和 HPE 等大力支持，但它要到 2028 年左右才会得到广泛应用。一旦成熟，用户可以期望它将计算集群的可扩展性提高到 100Tbit/秒以上，同时也比电交换机功耗低

PCIe 与 CXL

当与使用 PCIe 的服务器配合使用 CXL 规范跨总线共享内存时，Gartner 预计 AI 任务会同时采用PCIe 与 CXL Verna 再次预测，普及还需要几年时间：CXL 于 2023 年初首次亮相，她认为大规模采用将在 2026 年开始，同时她预计 PCIe 6.0 的实施将会加速