⌘ K
… 读取采集状态 同步中...
雷
原文
量子位· 量子位·· 13 小时前精选AI 评分83

面壁开源MiniCPM-V 4.7:35B MoE模型仅需3G内存流畅运行

iPhone断网跑35B多模态!国产开源新模型,只占3G内存

AI 导读

面壁智能与OpenBMB开源MiniCPM-V 4.7多模态模型,其35B-A3B MoE版本仅需3G内存即可在iOS、安卓设备流畅运行。该模型支持4倍至16倍视觉压缩,在OmniDocBench v1.6上得分94.24,结合前瞻专家调度与自回放微调技术,显著提升了端侧推理速度与模型定制效率。

推荐理由

原文拆解了3G内存运行35B模型的前瞻专家调度技术,展示了端侧AI在速度上的突破。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:量子位 · mp.weixin.qq.com