⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2023-12-08AI 评分42

评估和减轻语言模型决策中的歧视

Evaluating and Mitigating Discrimination in Language Model Decisions

AI 导读

Anthropic 提出一种方法,通过生成涵盖 70 个社会决策场景的潜在提示词并系统改变人口统计信息,以评估大语言模型在贷款和住房资格等高风险场景中的潜在歧视影响。该研究表明,在 Claude 2.0 模型中,不加干预时会出现正向和负向歧视模式,但通过细致的提示词工程可以显著降低这两种歧视,为更安全的部署提供路径。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com