⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2024-06-09AI 评分51

Claude 的角色训练:通过性格塑造实现 AI 对齐

Claude’s Character

AI 导读

Anthropic 在 Claude 3 的对齐微调流程中引入“角色训练”,旨在让模型表现出好奇心、开放思维和诚实等丰富特质,而不仅仅是避免有害输出。团队通过一种 Constitutional AI 的变体方法,让 Claude 生成并评估自身回复以强化这些性格特征。该方法试图平衡模型的自信与谦逊,鼓励其对价值观问题保持批判性思维,同时向用户诚实披露 AI 属性与认知局限。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com