⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2023-02-15AI 评分48

大语言模型道德自我修正能力研究:22B 参数阈值与 RLHF 训练效果

The Capacity for Moral Self-Correction in Large Language Models

AI 导读

研究证实经 RLHF 训练的大语言模型具备避免生成有害输出的“道德自我修正”能力。该能力在 22B 参数规模时涌现,并随模型增大和 RLHF 训练强度提升而改善。模型通过遵循指令及习得歧视、偏见等复杂规范性概念实现自我修正。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com