⌘ K
… 读取采集状态 同步中...
雷
原文
AISI Blog·· 2025-12-16AI 评分60

AISI 论文:压力测试 AI 编码代理的异步监控机制

Stress-testing asynchronous monitoring of AI coding agents

AI 导读

UK AI Safety Institute (AISI) 发布最新论文,通过红蓝对抗评估研究了异步监控能否有效检测恶意 AI 编码代理。实验中使用 Claude 4.1 Opus 作为被监控的代理,Claude 3.7 Sonnet 作为监控模型,在 1% 误报率限制下迭代优化监控策略,发现异步监控虽廉价但安全性低于同步监控,且需结合防御纵深策略使用。代码与环境已开源。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:AISI Blog · aisi.gov.uk