⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2021-12-01精选AI 评分87

Anthropic 将通用语言助手视为对齐实验室的研究论文

A General Language Assistant as a Laboratory for Alignment

AI 导读

这篇由 Anthropic 发布的研究探讨如何使用大型语言模型构建符合人类价值观的通用文本助手,即做到有用、诚实且无害。研究发现,随着模型规模扩大,简单干预措施的对齐收益增加,且不会损害模型性能。对比多种训练目标后发现,排序偏好建模比模仿学习表现更好,且随模型扩展更优,而二元判别与模仿学习的性能和扩展趋势相似。

推荐理由

作者比较了不同对齐训练目标的扩展趋势,指出排序偏好建模在规模化时表现优于模仿学习。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com