⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic News·· 2023-07-26精选AI 评分75

Anthropic 前沿威胁红队测试揭示 AI 生物安全风险

Frontier threats red teaming for AI safety

AI 导读

Anthropic 开展了前沿威胁红队测试,评估了 AI 模型在生物安全领域的潜在风险。在过去六个月中,团队与顶尖生物安全专家进行了超过 150 小时的测试,发现前沿模型有时能输出专家级的有害生物知识,且模型越大能力越强,接入工具后能力会进一步提升。

推荐理由

Anthropic通过150小时的红队测试发现大模型存在生物安全风险,并提出了通过模型调整和过滤器减轻风险的具体方案。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic News · anthropic.com