⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2022-12-15精选AI 评分74

Constitutional AI: 通过 AI 反馈实现无害性

Constitutional AI: Harmlessness from AI feedback

AI 导读

Anthropic 提出 Constitutional AI 方法,通过定义原则列表替代直接的人类有害输出标注来训练无害 AI 助手。该方法分为两个阶段:首先在监督学习阶段生成自我批评与修订并微调模型,随后在强化学习阶段利用 AI 偏好数据训练偏好模型并以 RLAIF 进行优化。

推荐理由

提出无需人类标注有害输出的训练范式,结合监督微调与RLAIF流程展示了提升无害性的技术路径。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com