⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2023-10-17AI 评分31

Anthropic 与 Collective Intelligence Project 协作:公众参与起草宪法以对齐 AI 模型

Collective Constitutional AI: Aligning a language model with public input

AI 导读

Anthropic 联合 Collective Intelligence Project 邀请约 1,000 名美国人参与公共输入,利用 Polis 平台起草用于对齐 AI 系统的宪法。研究人员使用 Constitutional AI 方法训练模型,发现公众宪法与内部宪法在概念上有约 50% 重合,但公众版本更侧重客观性、公正性及无障碍访问。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com