⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic News·· 2023-05-09精选AI 评分78

Anthropic公布Claude宪法及价值观对齐原则

Claude’s constitution

AI 导读

Anthropic官方发布Claude“宪法”,详细公开其训练模型所依据的原则体系,包括基于联合国人权宣言、苹果服务条款、DeepMind Sparrow规则及自身研究的价值观条目。该方法通过宪法原则指导模型自我批评与修订,并在强化学习阶段用AI生成的反馈替代大规模人工偏好,以提升模型在处理恶意输入时的安全性与有用性。

推荐理由

Anthropic官方公开其Constitutional AI方法的具体原则集,展示了AI系统价值观如何被显性化、调整并与模型安全对齐的机制。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic News · anthropic.com