通信人家园

标题: 壁仞科技：单个国产AI芯片不强但数量多、软件加持就不一样了 [查看完整版帖子] [打印本页]

时间: 2024-7-10 12:09

作者: gythy1978 标题: 壁仞科技：单个国产AI芯片不强但数量多、软件加持就不一样了

快科技7月10日消息，近日，壁仞科技副总裁兼AI软件首席架构师丁云帆在谈及计算瓶颈时表示，解决算力瓶颈问题需要从三个维度考虑：硬件集群算力、软件有效算力、异构聚合算力。

他认为，做好这三个维度的工作，即使国产AI芯片单个算力不强，也能通过综合手段提升算力，满足国内大模型训练的需求。

“我们2020年设计的第一代产品里就做了chiplet架构，国外巨头在今年发布的产品如英伟达B100和英特尔Gaudi 3也采用了同样的思路，他们用最先进的制程，但也需要chiplet来突破摩尔定律限制来提升单卡算力。”丁云帆说道。

据他介绍，壁仞科技用三级的异步checkpoint技术，结合GPU的显存和CPU内存，甚至是多节点内存的备份系统去达到一个平衡，目前已能够大幅降低故障恢复成本。

之前，壁仞科技发布首款通用GPU芯片BR100，创下全球算力纪录，16位浮点算力达到1000T以上、8位定点算力达到2000T以上，单芯片峰值算力达到PFLOPS级别。

当时，壁仞科技给出的数据显示，其首款旗舰产品BR100对比英伟达在售的旗舰GPU峰值算力在Int8、BF16、TF32/TF32+、FP32数据格式下最少有3.3倍的峰值性能优势，在FP32数据格式下性能优势更是达到了13.1倍。

时间: 2024-7-10 12:31

作者: laozhu

指标这么厉害，看着有点慌呢

时间: 2024-7-14 01:59

作者: 客观事实

提示: 作者被禁止或删除内容自动屏蔽

时间: 2024-7-14 08:14

作者: axuan

查一下咱一个算力中心能力抵的上几块A100吧……

时间: 2024-7-14 11:33

作者: 清河人

axuan 发表于 2024-7-14 08:14
查一下咱一个算力中心能力抵的上几块A100吧……

一块昇腾顶一块A100，价格也差不多

时间: 2024-7-14 11:45

作者: axuan

芯片产业再来一个陈进大家就要吃奥利给了

时间: 2024-7-16 17:04

作者: 清河人

axuan 发表于 2024-7-14 11:45
芯片产业再来一个陈进大家就要吃奥利给了

汉*思想要不得，现在国产芯片一单就上百亿

时间: 2024-7-17 01:35

作者: shuijiao

阿Q活了吗

通信人家园 (https://www.txrjy.com/)