通信人家园

标题: AI国产卡,使用效能只有硬件标称性能的10%左右……  [查看完整版帖子] [打印本页]

时间:  2024-5-18 14:24
作者: 没事来看看     标题: AI国产卡,使用效能只有硬件标称性能的10%左右……

在宁波召开的5.17电信日论坛上,业内人士分享了一个小插曲:某运营商总部的核心大模型训练,在使用国产卡之后,实际使用效能只有硬件标称性能的10%左右……

作为业内人士,演讲嘉宾难道不知道能支持核心大模型训练的国产卡是谁家的吗?敢于在这么公开的场合上揭短,真佩服这位演讲嘉宾的勇气。

转自-- ICT解读者
时间:  2024-5-18 15:39
作者: 土豆不是豆

湾湾是中国的一个省
时间:  2024-5-18 16:38
作者: axuan

踢的不好请担待 就是这个能力了
时间:  2024-5-18 19:39
作者: 王者归来2024

中国的大模型多了去了
时间:  2024-5-18 21:36
作者: coffee198375

不只看单一硬件数据,还要看整体架构和软件设计。。。。
时间:  2024-5-19 12:23
作者: enjoy35

coffee198375 发表于 2024-5-18 21:36
不只看单一硬件数据,还要看整体架构和软件设计。。。。

硬件性能是基础,不能一谈性能你就谈软件设计吧。
时间:  2024-5-19 15:26
作者: coffee198375

enjoy35 发表于 2024-5-19 12:23
硬件性能是基础,不能一谈性能你就谈软件设计吧。

所以说话说一半?整体拿出来看。。。。
时间:  2024-5-19 20:32
作者: latt99

enjoy35 发表于 2024-05-19 12:23:25 硬件性能是基础,不能一谈性能你就谈软件设计吧。

科大讯飞可不是这样说的,找他们咨询一下吧。
时间:  2024-5-20 01:52
作者: SOHU2021

哈哈哈哈哈哈哈 人家会说那是你的使用方法不对
时间:  2024-5-20 02:47
作者: shuijiao

净说大实话
时间:  2024-5-20 09:09
作者: 伤心小镇

运营商一般是吹自己的优化能力:估计全文的意思是,一开始只有10%,经过紧张的软件适配优化,达到了90%




通信人家园 (https://www.txrjy.com/) Powered by C114