给大模型「投机解码」松绑：免训练，即插即用近似验证，速度再提15% **新智元报道** 大语言模型「逐字蹦」式的自回归生成，是推理慢、成本高的核心瓶颈。**投机解码**（Speculative Decoding）让一个轻量「草稿模型」先猜好一整块字、再由大模型一次并行「批改」，是近年最主流的免费提速思路之一，已被vLLM等主流框架广泛采用。 但它有一条「严格」的批改规则：**草稿只要在第一个字上和大模型的最优选择不一致，验证立即停止，后面的草稿全部作废，**哪怕大模型其实已经把这一整段都批改完了。 北京航空航天大学、清华大学、香港大学、北京大学联合团队提出的**近似投机解码（Approximate Speculative Decoding，ASD）**，给这条规则「松了绑」：在严格可控的预算内，有选择地接受极少数「大模型本来也几乎想选」的分歧字，并把后面仍然正确、且已经算好的内容**捡回来接着用**。 论文链接：** https://arxiv.org/abs/2608.03447 开源代码：** https://github.com/Kissmetothemoon/ASD 几个关键数