⌘ K
… 读取采集状态 同步中...
雷
原文
甲子光年· 王博·· 13 小时前AI 评分57

江波龙在骁龙8平台上跑通30B模型,存储厂商切入端侧AI推理链路

江波龙在骁龙8上跑通30B模型,存储的角色变了|甲子光年

AI 导读

江波龙与高通合作,在第六代骁龙8超级至尊版移动平台上成功部署30B MoE模型,模型权重存储于UFS闪存并实时加载至内存,使内存需求降低超50%,预填充吞吐超330 Token/s。这一合作标志着存储厂商从提供标准器件转变为参与模型、推理引擎和SoC的协同调优,成为端侧AI架构中的主动调度方。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:甲子光年 · mp.weixin.qq.com