20万块GPU“烧出”的Grok 3到底是不是地表最强AI?对此不乏争议。但无谓置疑的是,Grok 3皆备是有史以来能耗最高的大模子。磨真金不怕火浪费的动力很是于一座小城市一年的用电量,好像4万多辆燃油车一年的碳排放量。
Grok 3的降生折射出其仍未解脱以能耗换性能的传统“边界扩展”模式。在全行业开源之风渐浓、越来越珍惜性价比确当下,如安在优化模子服从与降死板耗之间达到均衡,是Grok 3亟需责罚的挑战。
2月18日,马斯克在X平台直播发布Grok 3模子并进行现场演示。其我方给出的PPT上写着基准测试贬抑标明Grok 3在AIME'24数学才气测试、GPQA科学学问评估、LCB Oct - Feb编程才气测试等多项测试中打败了谷歌Gemini 2 Pro、DeepSeek V3、Anthropic的Claude 3.5 sonnet和OpenAI的GPT-4o。
在大模子竞技场Chatbot Arena LLM排名榜上,代号巧克力的Grok 3早期版块登上榜一,成为有史以来第一个打破1400分的模子,各大模子高高在上。不外这一分数也只比DeepSeek R1高2.9%。PPT上柱状图之是以高下出入权贵,是因为图片是从1300初始截图,就是自带“放大”后果。

Grok 3的1400分与其他大模子差距有限。之是以看起来“遥遥早先”,是因为柱状图的肇始点为1300,自带“放大”后果
事实上,直播也有屡次“翻车”,比如马斯克用Grok 3演示飞向火星代码,输出班师崩溃:两次生成失败。马斯克只可与责任主谈主员尬聊撑时辰,让后台第三次生成才告捷。
直播后,部分X用户测试了最新的Beta版Grok 3,并建议了阿谁经典的用来刁难大模子的问题:“9.11与9.9哪个大?”堪称最聪慧的Grok 3果真答错了。
有计划到Grok 2发布时亦然极其颤动,但而后使用后果却不够AI,此次Grok 3会不会重蹈“跑分没输过,实用没赢过”,一经未知数。不外现在不错细主见是,这款马斯克口中“地球上最聪慧的AI”靠的是算力堆叠,这背后的磨真金不怕火资本极其辽远。
他在直播中初度裸露,Grok 3的磨真金不怕火量是Grok 2的10倍,基于东谈主工智能初创公司xAI位于孟菲斯的超等臆想机集群进行。该集群建树的第一阶段,xAI在122天内建成了领有10万块NVIDIA H100 GPU的超等臆想集群,第二阶段拓展到20万块GPU集群,仅耗时92天。
有东谈主臆想了xAI在孟菲斯GPU的资本,仅以10万块H100、每块GPU用度30000好意思元臆想,Grok 3的总硬件浪费就已超出30亿好意思元。
比较之下,6710亿参数的DeepSeek V3在配备2048块算力受限的英伟达H800 GPU集群上磨真金不怕火,通盘磨真金不怕火历程用时278.8万个H800 GPU小时,合约交易总资本为557.6万好意思元。在GPU用量、磨真金不怕火用时、算力资本上,较同等性能的闭源模子大幅缩减。低资本并列对标的闭源模子,DeepSeek的横空出世令硅谷的“烧钱模式”遭到历害质疑。
有分析称,Grok 3的算力浪费为DeepSeek V3的263倍,尽管前者在数学推理和编程才气上推崇更优异,但这彰显了两者在资源使用上的极大各异。能耗方面,H100的典型功耗约为700瓦,以此臆想,Grok 3使用的GPU总能耗很是于一个小城市的用电量。假定电力起首为搀和动力(平均碳排放扫数0.5千克二氧化碳/千瓦时),Grok 3磨真金不怕火产生的碳排放约莫很是于4万多辆燃油车一年的碳排放量。
“Grok 3像20支AK绑在全部狂射,DeepSeek像在练定向狙击,一个是土豪堆装备的叮属、一个是在算力有限的情况下压缩能耗达成性能最大化,后者强调了东谈主类在其中的作用和价值,是委果的AI精神和往日的标的。”有网友如是比方谈。
马斯克与xAI团队在Grok 3直播演示中称,20万块GPU需邀功率多达250MW的电力。“(濒临电力缺口)咱们最初租借了一大堆发电机……又租用了好意思国四分之一的制冷才气……从来莫得东谈主建树过如斯大边界的液冷数据中心。”他们同期预报,xAI已在入辖下手商榷下一个更强劲的算力集群,所需电力高达1.2GW。
不久之前,xAI的超等臆想机集群在场所地再度激励环保争议。究其本色,恰是能耗巨兽Grok 3带来的环境压力。
据好意思国田纳西州孟菲斯市当地媒体日前报谈,xAI策画在往日延续使用燃气轮机为其超等臆想机供电。本年1月,xAI附庸公司CTC Property向田纳西州谢尔比县央求了15台燃气轮机的运营许可证,许可证将允许这些燃机从2025年6月至2030年6月捏续运行。
这批燃气轮机激励了环境方面的担忧。xAI的形式位于前伊莱克斯工场,据当地媒体征引许可证央求文献数据,该燃机每年受控和不受控无益空气稠浊物(HAP)的排放量为11.51吨,逾越好意思国环保署(EPA)对单一转放源HAP缔造的每年10吨上限。在xAI形式邻近5英里边界内居住的住户接近2.2万东谈主。
环保组织南边环境法中心(Southern Environmental Law Center)发言东谈主称,这些燃气轮机自2024年夏令以来一直在运行,xAI在未向公众发出见知,也未受到监管的情况下启用燃机,使得孟菲斯本就很差的空气质料愈加倒霉。
xAI与当地环保群体之间的矛盾存在已久。客岁8月,南边环境法中心向当地环保当局建议质疑,条件核实xAI是否在莫得空气许可证的情况下使用燃气轮机为其超等臆想机供电。
照看当地电网的孟菲斯电力、煤气和水务公司(MLGW)在1月份告诉市议会,燃气轮机是暂时的,xAI的算力膨胀策画需要零散的150MW电力,MLGW仍在商榷这关于当地电力系统的影响。