⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2024-06-06AI 评分40

Anthropic 如何通过 PVT 和自动化评估测试及缓解选举相关风险

Testing and mitigating elections-related risks

AI 导读

Anthropic 采用“政策漏洞测试”(PVT)与大规模自动化评估相结合的方式,识别并缓解其模型在选举查询中输出错误信息或违反使用政策的风险。通过外部专家协作构建对抗性提示,团队已识别约 10 项缓解措施,包括限制模型对争议政治话题的主观意见,并引导用户参考权威来源及知识截止日期。Anthropic 同步发布了部分自动化评估工具,以协助其他方改进选举完整性工作。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com