在 AI 应用落地需求日益增长的当下，企业应如何紧抓端侧大模型机遇，推动行业应用和业务增长？研发人员又该如何提升技能，将大模型部署于各类终端设备？致力于大模型技术升级的「端侧 AI 大模型开发与应用实践」技术论坛于 10 月 26 日在上海漕河泾会议中心圆满收官。本次论坛由机器之心、世界人工智能大会组委会办公室、上海市漕河泾新兴技术开发区发展总公司主办。
嘉宾精彩分享
每一位嘉宾都带来了精彩的分享，现场收获满满。
报告分享环节
论坛邀请到上海交通大学长聘教轨副教授，无问芯穹联合创始人兼首席科学家戴国浩围绕端侧 AI 大模型做相关技术解读报告，讨论了端侧 AI 大模型的发展趋势及大模型时代端侧推理的挑战与解决方案。
商汤科技执行研发总监钱晨、面壁智能副总裁贾超、安谋科技产品总监鲍敏祺、中科加禾研发总监朱天阳则分别以部署端侧 AI 大模型过程中的关键技术为主题作深入报告。
蔚来汽车高级总监、资深算法专家、自动驾驶研发规划与控制团队负责人秦海龙、算能科技高级副总裁高鹏、OPPO AI 中心端侧 AI 高级工程师李路长、中国惠普有限公司业务拓展经理施冲分别就端侧 AI 模型在不同领域内的实际应用进行解读并分享落地案例。
动手实操环节
下午设置 1.5 个小时的实操环节，通过此次实操，参会人员通过学习TPU-MLIR 大模型部署的核心技术，掌握TPU 编译器的原理、大模型量化的核心技术与端侧 AI 大模型部署完整流程。
