⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic News·· 2024-06-13AI 评分34

Anthropic 分享 AI 系统红队测试的挑战与多种方法

Challenges in red teaming AI systems

AI 导读

Anthropic 分享了其在 AI 系统红队测试中采用的多种方法及面临的挑战,旨在建立标准化实践以客观比较不同系统的安全性。文章涵盖了领域专家测试、信任与安全策略漏洞测试、国家安全前沿威胁测试(如 CBRN、网络安全)、多语言及多文化红队测试(与新加坡 IMDA 合作),以及利用语言模型进行自动化红队测试等。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic News · anthropic.com