⌘ K
… 读取采集状态 同步中...
雷

Anthropic / Claude

Anthropic 的全部动态：Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。

407条精选相关主题OpenAI / ChatGPTGoogle / Gemini安全对齐

最新精选

第 401–407 条 · 共 407 条
7月11日周二
  1. Anthropic News92

    Anthropic 发布 Claude 2 模型

    Anthropic 正式发布新一代模型 Claude 2，该模型提升了性能并支持更长响应，同时提供 API 接入及面向公众的 beta 网站 claude.ai。Claude 2 的上下文窗口扩展至 100K tokens，可处理数百页技术文档；在 Codex HumanEval 编码测试中得分从 56.0% 提升至 71.2%，GRE 阅读与写作成绩超过 90th percentile。

    推荐理由：发布官方基准数据与上下文窗口扩容细节，展示新一代模型在核心能力上的量化进展。

5月11日周四
  1. Anthropic News88

    Anthropic 将 Claude 上下文窗口从 9K 扩展至 100K

    Anthropic 宣布将 Claude 模型的上下文窗口从 9K tokens 扩展至 100K tokens，相当于约 75,000 个单词。该更新支持对长达数小时或数天的内容进行分析，例如在 22 秒内识别出《了不起的盖茨比》修改后的文本差异。100K 上下文窗口现已通过 API 提供，可处理财务文档、代码库、法律文本及音频转录等复杂任务，相比向量搜索方法在跨文档知识综合方面更具优势。

    推荐理由：原文给出了具体的性能提升数据和适用场景，展示了处理超长文本的实际效果。

5月9日周二
  1. Anthropic News78

    Anthropic公布Claude宪法及价值观对齐原则

    Anthropic官方发布Claude“宪法”，详细公开其训练模型所依据的原则体系，包括基于联合国人权宣言、苹果服务条款、DeepMind Sparrow规则及自身研究的价值观条目。该方法通过宪法原则指导模型自我批评与修订，并在强化学习阶段用AI生成的反馈替代大规模人工偏好，以提升模型在处理恶意输入时的安全性与有用性。

    推荐理由：Anthropic官方公开其Constitutional AI方法的具体原则集，展示了AI系统价值观如何被显性化、调整并与模型安全对齐的机制。

3月14日周二
  1. Anthropic News65

    Anthropic 正式发布 Claude 和 Claude Instant 模型

    Anthropic 正式开放 Claude 访问权限，作为基于安全研究的下一代 AI 助手，提供聊天界面和 API，可执行总结、编码等任务。官方提供两种版本：高性能的 Claude 和更轻快、低成本的 Claude Instant。早期合作伙伴如 Notion 和 Quora 评价其对话感更强且更易于控制。

    推荐理由：明确了 Claude 的两款版本差异，及其在 Quora、Notion 等业务场景中的实际表现与定位。

12月15日周四
  1. Anthropic Research74

    Constitutional AI: 通过 AI 反馈实现无害性

    Anthropic 提出 Constitutional AI 方法，通过定义原则列表替代直接的人类有害输出标注来训练无害 AI 助手。该方法分为两个阶段：首先在监督学习阶段生成自我批评与修订并微调模型，随后在强化学习阶段利用 AI 偏好数据训练偏好模型并以 RLAIF 进行优化。

    推荐理由：提出无需人类标注有害输出的训练范式，结合监督微调与RLAIF流程展示了提升无害性的技术路径。

4月29日周五
  1. Anthropic News66

    Anthropic 完成 $580M B 轮融资以建设更安全可控的 AI 系统

    Anthropic 宣布完成 $580M B 轮融资，资金将用于建设大规模实验基础设施以探索计算密集型模型的安全特性。公司自 2021 年成立以来在可解释性、可操控性与鲁棒性上取得进展，包括逆向工程小型语言模型行为、开发让 LLM 更有帮助无害的基线技术及发布对齐数据集。本轮融资由 FTX 前 CEO Sam Bankman-Fried 领投，Anthropic 团队目前在旧金山约有 40 人。

    推荐理由：Anthropic 官方说明 $580M 融资将用于扩大安全实验基础设施并推进可解释性与对齐研究，便于读者判断其技术路线与团队规模变化。

12月1日周三
  1. Anthropic Research87

    Anthropic 将通用语言助手视为对齐实验室的研究论文

    这篇由 Anthropic 发布的研究探讨如何使用大型语言模型构建符合人类价值观的通用文本助手，即做到有用、诚实且无害。研究发现，随着模型规模扩大，简单干预措施的对齐收益增加，且不会损害模型性能。对比多种训练目标后发现，排序偏好建模比模仿学习表现更好，且随模型扩展更优，而二元判别与模仿学习的性能和扩展趋势相似。

    推荐理由：作者比较了不同对齐训练目标的扩展趋势，指出排序偏好建模在规模化时表现优于模仿学习。