⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2022-02-15AI 评分28

大型生成模型中的可预测性与意外性:政策影响分析

Predictability and Surprise in Large Generative Models

AI 导读

该研究探讨了大型预训练生成模型(如 GPT-3)在损失降低方面具有可预测性,但具体能力、输入和输出存在不可预测性的反直觉特征。这种矛盾使得模型部署后果难以预见,并可能导致社会危害。文章分析了开发者的部署动机与挑战,并提出了旨在增强模型有益影响的干预措施建议,供政策制定者与技术人员参考。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com