- 经验
- 51268
- 分贝
- 0
- 家园分
- 148422
- 在线时间:
- 3622 小时
- 最后登录:
- 2024-11-26
- 帖子:
- 32708
- 精华:
- 2
- 注册时间:
- 2007-12-10
- UID:
- 200345
注册:2007-12-101654
|
在一则 X 帖子中,马斯克透露,他想在在明年夏天之前购买 30 万块英伟达最新的 Blackwell B200 GPU,金额高达 90 亿美元(652 亿元人民币)。这批新 GPU 将升级 X 现有的 AI GPU 集群,该集群目前由 10 万块上一代 H100 GPU 组成。[color=rgba(0, 0, 0, 0.901960784313726)]
[color=rgba(0, 0, 0, 0.901960784313726)]
10 万块 H100 GPU 已经是庞大的算力了,不过 Elon 表示,考虑到 AI GPU 领域的发展速度,长期使用 X 的一大堆 H100 GPU 阵列不明智,主要是由于能耗高达 1 千兆瓦。
X 将这一大堆 AI GPU 用于 AI 机器人 Grok。
Musk 的想法有其道理。AI GPU 领域的竞赛是近年来科技行业看到的最激烈的赛道之一,堪比几十年前的 CPU 领域大战。
英伟达的新 Blackwell B200 比 H100 有了大幅升级,提供了 4 倍的训练性能和 30 倍的推理性能。
从技术上讲,B200 的能耗确实更高。
然而,B200 的巨大性能改进意味着这款芯片的运行效率明显高于 H100。
以 Musk 的 X 为例,把 10 万块 H100 换成 30 万块 B200 依然很划算,因为后者拥有令人难以置信的出色的 AI 性能。
至于 Musk 何时果真买到所有 30 万块 B200 GPU,还需拭目以待。
如果说英伟达的 H100 教会了我们什么,那就是其 AI GPU 需求总是超过实际供应。
|
|