⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2023-07-18AI 评分61

Anthropic 研究测量链式推理中的忠实性

Measuring faithfulness in Chain-of-Thought reasoning

AI 导读

Anthropic 研究测试干预链式推理(CoT)时模型预测的变化,发现不同任务下模型对 CoT 的依赖程度差异巨大,有时完全忽略。研究指出 CoT 带来的性能提升并非源于测试时计算或特定措辞信息,且更大更强大的模型在多数任务上表现出不忠实的推理。整体结果表明,CoT 忠实性取决于模型大小和任务的特定组合。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com