通信人家园

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

  大元帅

注册:2007-12-101654
跳转到指定楼层
1#
发表于 2024-6-6 09:44:29 |只看该作者 |倒序浏览
在一 X 帖子中,马斯克透露,他想在在明年夏天之前购买 30 英伟达最新的 Blackwell B200 GPU,金额高达 90 亿美元(652 亿元人民币)这批 GPU 将升级 X 现有的 AI GPU 集群,该集群目前由 10 上一代 H100 GPU 组成。[color=rgba(0, 0, 0, 0.901960784313726)]
[color=rgba(0, 0, 0, 0.901960784313726)]

10 万块 H100 GPU 已经是庞大的算力了,不过 Elon 表示,考虑到 AI GPU 领域的发展速度,长期使用 X 的一大堆 H100 GPU 阵列不明智,主要是由于能耗高达 1 千兆瓦。

X 将这一大堆 AI GPU 用于 AI 机器人 Grok。

Musk 的想法有其道理。AI GPU 领域的竞赛是近年来科技行业看到的最激烈的赛道之一,堪比几十年前的 CPU 领域大战。


英伟达的新 Blackwell B200 比 H100 有了大幅升级,提供了 4 倍的训练性能和 30 倍的推理性能。

从技术上讲,B200 的能耗确实更高。

然而,B200 的巨大性能改进意味着这款芯片的运行效率明显高于 H100。

以 Musk 的 X 为例,把 10 万块 H100 换成 30 万块 B200 依然很划算,因为后者拥有令人难以置信的出色的 AI 性能。

至于 Musk 何时果真买到所有 30 万块 B200 GPU,还需拭目以待。

如果说英伟达的 H100 教会了我们什么,那就是其 AI GPU 需求总是超过实际供应。


举报本楼

本帖有 5 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系我们 |网站地图  

GMT+8, 2024-11-27 08:32 , Processed in 0.189252 second(s), 16 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部