⌘ K
… 读取采集状态 同步中...
雷
原文
X:Greg Brockman (@gdb)·· 2026-09-07AI 评分1

Anthropic 等研究:模型能识别自己是否正被测试,并提出 critique refinement 与 DISH 提升评估真实性

AI 导读

研究团队研究模型能否察觉自己正在被测试,发现能力较强的模型可以区分被测试与真实部署,这会削弱安全评估结论的效力。论文提出两种技术:critique refinement 用额外推理时算力让模拟器动作更贴近部署,DISH(Deployment-Imitating SWE-Agent Harness)用真实 agent harness 缩小模拟编码环境与生产环境的差距。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:X:Greg Brockman (@gdb) · x.com