⌘ K
… 读取采集状态 同步中...
雷

#行业动态

今日 1 条
5月9日周二
  1. Anthropic News78

    Anthropic公布Claude宪法及价值观对齐原则

    Anthropic官方发布Claude“宪法”,详细公开其训练模型所依据的原则体系,包括基于联合国人权宣言、苹果服务条款、DeepMind Sparrow规则及自身研究的价值观条目。该方法通过宪法原则指导模型自我批评与修订,并在强化学习阶段用AI生成的反馈替代大规模人工偏好,以提升模型在处理恶意输入时的安全性与有用性。

    推荐理由:Anthropic官方公开其Constitutional AI方法的具体原则集,展示了AI系统价值观如何被显性化、调整并与模型安全对齐的机制。

4月26日周三
2月3日周五
4月29日周五
  1. Anthropic News66

    Anthropic 完成 $580M B 轮融资以建设更安全可控的 AI 系统

    Anthropic 宣布完成 $580M B 轮融资,资金将用于建设大规模实验基础设施以探索计算密集型模型的安全特性。公司自 2021 年成立以来在可解释性、可操控性与鲁棒性上取得进展,包括逆向工程小型语言模型行为、开发让 LLM 更有帮助无害的基线技术及发布对齐数据集。本轮融资由 FTX 前 CEO Sam Bankman-Fried 领投,Anthropic 团队目前在旧金山约有 40 人。

    推荐理由:Anthropic 官方说明 $580M 融资将用于扩大安全实验基础设施并推进可解释性与对齐研究,便于读者判断其技术路线与团队规模变化。

5月28日周五