⌘ K
… 读取采集状态 同步中...
雷
原文
机器之心· 机器之心·· 2026-09-13精选AI 评分75

PyroDash 论文:小模型生成中决定何时求助大模型,推理成本降 96% 且性能反超

左手推理成本暴降96%,右手性能反超大模型!当小模型学会了何时求助

AI 导读

PyroDash 是一种成本感知的大小模型协同推理范式,让小模型在生成过程中通过可训练的交接信号决定何时将任务移交大模型。论文使用 Qwen3.5-4B 作为小模型、GLM-5.2-FP8 作为大模型,在五个数学推理基准上验证:侧重低成本时总成本从 49.36 美元降至 1.78 美元;侧重准确度时平均准确率达 64.04%,超过纯大模型的 57.68%。

推荐理由

原文提出小模型在生成过程中通过强化学习决定何时调用大模型的协同范式,并给出了成本降低九成且精度反超的实验数据。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:机器之心 · mp.weixin.qq.com