⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2025-02-26AI 评分53

Anthropic 研究人员提出基于幂律分布的模型危险行为预测方法

Forecasting rare language model behaviors

AI 导读

Anthropic Alignment Science 团队发布研究,旨在解决模型部署中罕见危险行为难以预见的难题。该研究通过计算最高风险查询的风险概率并绘制幂律分布曲线,验证了缩放规律的有效性。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com