通信人家园

标题: 不是NVIDIA！苹果官宣AI模型训练用的谷歌芯片 [查看完整版帖子] [打印本页]

时间: 2024-7-30 12:14

作者: gythy1978 标题: 不是NVIDIA！苹果官宣AI模型训练用的谷歌芯片

快科技7月30日消息，苹果公司在其技术论文中透露，其人工智能系统Apple Intelligence所依赖的模型并非基于NVIDIA芯片，而是在谷歌设计的云端芯片上进行预训练的。

NVIDIA的GPU一直以高价位和高需求著称，是许多大型科技公司AI训练的首选。

然而，苹果选择了谷歌的张量处理单元（TPU），这可能预示着大型科技公司在AI基础设施上的多样化选择。

苹果在其论文中详细介绍了使用TPU v4和TPU v5p芯片进行模型预训练的过程。

据悉，苹果的设备端AI模型是在2048个TPU v5p芯片上训练的，而服务器端模型则使用了8192个TPU v4芯片。

尽管苹果初期使用了谷歌的硬件，但它已经部署基于自研Apple Silicon芯片的硬件来处理Apple Intelligence的查询，并启动了“Project ACDC”项目，以优化数据中心内的AI应用。

此外，苹果还计划在未来两年内投入超过50亿美元用于AI服务器的升级，并购买数万台AI服务器，同时收购了专注于压缩AI查询数据的公司，以加速其在AI领域的竞争力。

通信人家园 (https://www.txrjy.com/)