⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2024-10-25AI 评分42

评估特征引导:缓解社会偏见案例研究

Evaluating feature steering: A case study in mitigating social biases

AI 导读

Anthropic 对 Claude 3 Sonnet 中 29 个社会偏见相关特征进行引导实验,评估其对模型偏见与能力的双重影响。研究发现存在一个“甜蜜点”,在此区间内引导特征可有效缓解偏见且不显著损害 MMLU 等基准测试下的模型通用能力,但超出该范围可能导致模型能力大幅下降甚至不可用。此外,部分特征在针对性降低性别偏见时可能意外影响年龄偏见等目标之外的维度。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com