⌘ K
… 读取采集状态 同步中...
雷
原文
Google Research·· 2026-06-27AI 评分50

Google 在 Pixel 设备上为 Gemini Nano v3 部署冻结式 Multi-Token Prediction 加速推理

Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

AI 导读

Google 宣布将冻结式 Multi-Token Prediction (MTP) 架构应用于 Gemini Nano v3，在 Pixel 9 和 10 系列设备上实现免微调推理加速。该零拷贝架构直接复用主模型 KV cache，减少 130MB 运行时内存占用，并消除独立草稿模型的竞争。实验显示，相比同等参数规模的独立草稿模型，MTP 在 Pixel 9 上的生成速度提升超过 50%。

本文当前提供导读和图片预览，完整图文请查看原文。

来源：Google Research · research.google

#教程/实践#端侧#推理#Google