⌘ K
… 读取采集状态 同步中...
雷
原文
新智元· 新智元·· 2026-09-05AI 评分25

北航等团队提出近似投机解码ASD,免训练即插即用提速大模型推理

给大模型「投机解码」松绑:免训练,即插即用近似验证,速度再提15%

AI 导读

北航、清华、港大、北大联合团队提出近似投机解码(ASD),这是一种免训练的即插即用验证器模块,旨在突破标准投机解码首个分歧即截断的限制。在DSpark、EAGLE3、Medusa等框架测试中,该方法平均吞吐提升7.52%,最高提速15.26%,且在DeepSeek-V4-Flash上验证端接受率提升10%–16%。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:新智元 · mp.weixin.qq.com