前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >十万卡规模GPU集群选择以太网,英伟达也慌啊!

十万卡规模GPU集群选择以太网,英伟达也慌啊!

作者头像
用户6874558
发布2024-06-07 19:44:48
880
发布2024-06-07 19:44:48
举报

英伟达的财报全球瞩目

NVDA 25Q1 计算产品销售

同比增长 5.8 倍环比增长 28.7%

但网络产品收入同比仅增长了 2.4 倍

IB缺货 Spectrum以太网产品增长尚未起量

早前字节跳动

在论文中宣布万卡GPU集群

采用标准以太网技术搭建网络拓扑

很快Meta官宣

32K GPU LLM训练集群

同样将基于以太网技术搭建

英伟达也慌啊

就在此次财报大会上

英伟达终于提升了Spectrum

也就是基于以太网技术方案的地位

宣布某十万卡GPU集群将基于以太网方案

“Spectrum-X is ramping in volume with multiple customers, including a massive 100,000 GPU cluster, Spectrum-X opens a brand-new market to Nvidia networking and enables Ethernet only data centers to accommodate large-scale AI. We expect Spectrum-X to jump to a multibillion-dollar product line within a year.”

十万卡不是终点

就在昨晚的台北Computex

黄教主更是放出了百万卡以太互联规划

无论是源于金主的强势

还是英伟达面对IB缺货的应对

开放的以太在AI网络中将越来越重要

甚至于在Scale Up网络中以太也跃跃欲试

ETH-X超节点项目

就是一个用以太网技术来互联GPU

从而扩展GPU与GPU/CPU/内存带宽的方案

仿真结果显示

基于以太网方案的实现

在训练和推理方面都毫不逊色

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-06-03,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 云深知网络 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档