⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2023-10-25AI 评分42

Constitutional AI 中特定原则与通用原则的对比研究

Specific versus general principles for Constitutional AI

AI 导读

Anthropic 研究指出,Constitutional AI 可利用书面原则替代人类反馈,有效防止对话模型表达自我保存或权力欲望等细微有害行为。实验表明,大型对话模型能从“为人类谋利”这一简短通用原则泛化出无害助手,虽通用原则能减少长列表需求,但详细宪法仍有助于对特定危害类型进行精细化控制。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com