通信人家园

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索
查看: 1432|回复: 21
打印

一年囤了近50万颗GPU [复制链接]

军衔等级:

  大元帅

注册:2007-12-101705
跳转到指定楼层
1#
发表于 2024-12-20 10:09:11 |只看该作者 |倒序浏览

12月18日,据英国《金融时报》报道,OpenAI的最大投资者微软,购买了其主要竞争对手Meta两倍数量的英伟达GPU芯片,达48.5万颗。



市场调研机构Omdia最新数据表明,微软今年购入了48.5万颗英伟达的“Hopper”芯片,这使得微软的芯片储备在打造下一代人工智能(AI)的竞赛中占据了优势。英伟达在美国的第二大客户Meta仅仅购买了22.4万颗“Hopper”芯片,而微软也同样领先于其在云计算领域的对手亚马逊和谷歌,据预测,它们分别购买了约19.6万颗与16.9万颗“Hopper”芯片。



这两年来,科技巨头已经在数据中心上投入了数百亿美元用于运行英伟达的最新芯片。自微软投资130亿美元(约合人民币949亿)的OpenAI推出ChatGPT以来,各个科技巨头包括并不限于谷歌、Anthropic、xAI、字节、腾讯等,都在投资以争夺下一代人工智能的主导地位。



微软是美国大型科技公司中在建设数据中心基础设施方面最为积极的公司之一,其数据中心基础设施不仅用于运行自己的Copilot等AI服务,还通过Azure云计算向客户出租算力,目前Azure被用于训练OpenAI最新的o1模型。



Omdia估计,字节跳动和腾讯今年分别订购了约23万片英伟达的芯片,包括“Hopper”的低功率版本H20。尽管有着出口限制,字节跳动和腾讯仍然成为了英伟达今年最大客户之二。



据Omdia预测,2024年全球科技公司将在服务器上投入约2290亿美元(约合人民币1.67万亿),其中微软支出310亿美元(约合2262亿人民币),亚马逊支出260亿美元(约合人民币1897亿)。目前,包括初创企业xAI和英伟达支持的CoreWeave在内的前10大数据中心基础设施买家,占全球计算能力投资总额的60%。



Omdia的云和数据中心研究主管Vlad Galabov表示“英伟达GPU占据了相当高的市场份额。”



2024年,服务器的支出中约有43%流向了英伟达。



自人工智能投资热潮以来,英伟达最先进的GPU一直供不应求,这些芯片已成为硅谷最热门的商品。今年,大型科技公司争相组装越来越多的英伟达GPU集群。目前,英伟达的新一代Backwell架构GPU已经也开始交付。尽管因为环境因素,势头已经有所减缓,英伟达的市值还是飙升至逾3万亿美元。



不过,分析师称,Meta、亚马逊和谷歌正在加大对自有定制AI芯片的投入来替代英伟达的芯片。谷歌已经花了十年时间开发TPU,而Meta去年推出了第一代Meta Training和Inference Accelerator芯片。两家公司各自部署了约150万片自家芯片。亚马逊今年在为云计算客户投资开发Trainium和Inferentia芯片,并部署了约130万片。本月,该公司表示计划使用数十万片其最新款Trainium芯片,为OpenAI竞争对手Anthropic建立一个新的集群,以训练下一代人工智能模型。



相比之下,虽然微软(Microsoft)在打造与英伟达(Nvidia)竞争的人工智能加速器方面要早得多,但在今年仅安装了约20万颗微软定制的Maia芯片。微软Azure全球基础设施高级总监Alistair Speirs称,使用英伟达的芯片仍然需要微软在自己的技术上进行大量投资,以向客户提供“独特”的服务。



2024年,微软对英伟达芯片订单数量是其在2023年的三倍多,尽管当时英伟达已经为了应对ChatGPT的爆红在加紧生产“Hopper”芯片。



“良好的数据中心基础设施是非常复杂的、资本密集型的项目,”Speirs称,“它们需要数年的规划。因此,对我们的增长进行适度的预测并预留一定的缓冲区是很重要的。”



虽然英伟达仍主导着AI芯片市场,但其位于硅谷的竞争对手AMD已经取得了进展。Omdia称,今年Meta购买了17.3万颗AMD的MI300芯片,而微软购买了9.6万颗。


举报本楼

本帖有 21 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系我们 |网站地图  

GMT+8, 2024-12-22 00:02 , Processed in 0.247327 second(s), 17 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部