首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

马斯克20万块GPU打造的Grok 3,真的是地表最强AI还是能耗巨兽?

近日,科技界围绕Grok 3是否已成为地表最强AI展开了热烈讨论。尽管争议不断,但Grok 3在能耗方面的“壮举”却无人能否认。这款AI大模型的训练耗电量惊人,据估算,其能源消耗量相当于一座小城市一年的总用电量,或等同于4万多辆燃油车一年的碳排放。

Grok 3的问世,再次凸显了当前AI发展所面临的能耗挑战。在开源趋势盛行、性价比日益受到重视的行业背景下,如何在提升模型效率与降低能耗之间找到平衡点,成为了Grok 3亟需攻克的难题。其背后的“规模扩展”模式,依旧是以巨大的能源消耗为代价。

2月18日,马斯克在X平台的一次直播活动中,亲自发布了Grok 3模型,并进行了现场演示。他展示的PPT中提到,基准测试结果显示,Grok 3在包括AIME'24数学能力测试、GPQA科学知识评估以及LCB Oct - Feb编程能力测试在内的多项测试中,均击败了包括谷歌Gemini 2 Pro、DeepSeek V3、Anthropic的Claude 3.5 sonnet和OpenAI的GPT-4o在内的多个竞争对手。

在大模型竞技场Chatbot Arena LLM排行榜上,代号为巧克力的Grok 3早期版本更是以突破1400分的成绩荣登榜首,成为首个达到这一高度的模型。然而,值得注意的是,这一分数仅比DeepSeek R1高出2.9%。PPT中的柱状图之所以呈现出显著的差距,是因为截图起始点选择了1300分,从而产生了“放大”效果。

尽管Grok 3的1400分看似遥遥领先,但实际上与其他大模型的差距并不悬殊。柱状图的起始点选择,使得这一优势被人为放大。直播过程中,还出现了多次“翻车”情况。例如,当马斯克尝试用Grok 3演示飞向火星的代码时,输出直接崩溃,两次生成均失败,直到第三次后台重新生成才成功。

直播结束后,部分X用户测试了最新的Beta版Grok 3,并提出了一个经典难题:“9.11与9.9哪个大?”令人意外的是,号称最聪明的Grok 3竟然给出了错误答案。这一事件再次引发了外界对Grok 3实用性的质疑。

回顾Grok 2发布时的轰动效应,以及后续在实际应用中的表现并不尽如人意,人们不禁担心Grok 3是否会重蹈覆辙。不过,可以肯定的是,马斯克口中的“地球上最聪明的AI”是依靠算力堆叠而成的,其背后的训练成本极为高昂。

马斯克在直播中透露,Grok 3的训练量是Grok 2的10倍,这一庞大的训练任务是在人工智能初创公司xAI位于孟菲斯的超级计算机集群上完成的。该集群在短短数月内从10万块NVIDIA H100 GPU扩展到了20万块,仅第二阶段的建设就耗时92天。据估算,仅硬件消耗就已超过30亿美元。

相比之下,DeepSeek V3在配备2048块算力受限的英伟达H800 GPU集群上训练,整个流程仅用时278.8万个H800 GPU小时,总成本仅为557.6万美元。DeepSeek V3在GPU用量、训练用时和算力成本上均大幅缩减,其低成本却能与闭源模型比肩的表现,让硅谷的“烧钱模式”受到了质疑。

分析指出,尽管Grok 3在数学推理和编程能力上表现更优异,但其算力消耗却是DeepSeek V3的263倍。这凸显了两者在资源使用上的巨大差异。在能耗方面,Grok 3使用的GPU总能耗相当于一个小城市的用电量,产生的碳排放量也大致相当于4万多辆燃油车一年的碳排放。

有网友形象地比喻道:“Grok 3像是20支AK绑在一起狂射,而DeepSeek则像是在练定向狙击。一个是土豪堆装备的打法,一个是在算力有限的情况下压缩能耗实现性能最大化。后者强调了人类在其中的作用和价值,这才是真正的AI精神和未来的方向。”

xAI的超级计算机集群在孟菲斯还引发了环保争议。据报道,xAI计划继续使用燃气轮机为其超级计算机供电,这一举措引发了当地环保组织的担忧。他们指出,这些燃气轮机自去年夏季以来一直在运行,且未向公众发出通知也未受到监管,使得孟菲斯本已不佳的空气质量更加恶化。

环保组织南方环境法中心的发言人表示,xAI在未获得空气许可证的情况下使用燃气轮机供电,违反了相关规定。管理当地电网的孟菲斯电力、煤气和水务公司也表示,xAI的算力扩充计划需要额外的150MW电力,他们仍在研究这对于当地电力系统的影响。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O5FNhHK0E92PAH59JHDkQGLA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券