⌘ K
… 读取采集状态 同步中...
雷

Anthropic / Claude

Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。

最新精选

第 361–380 条 · 共 409 条
4月1日周三
  1. 宝玉70

    OpenAI 总裁 Greg Brockman:AI 自我改进、Super App 豪赌、通往 AGI 之路、算力扩张

    宝玉深度解读 OpenAI 总裁 Greg Brockman 关于砍掉 Sora、构建 Super App 及 1100 亿美元融资的访谈。Brockman 称砍掉 Sora 是为了聚焦技术主线,并将 AGI 进度自评至 70-80%,但面临 Anthropic 在市场份额上的竞争压力。

    推荐理由:深度拆解 OpenAI 砍掉 Sora 与推出 Super App 背后的算力取舍,并直面 1100 亿美元融资的商业风险。

3月26日周四
3月17日周二
  1. 宝玉78

    Claude Code 团队分享 Skills 构建经验:类型分类与最佳实践

    Anthropic 工程师 Thariq Shihipar 总结了团队数百个活跃 Skills 的使用经验,将其分为库参考、验证、数据、自动化等九类。文章提供了编写技巧,如利用文件系统实现渐进式披露、设置踩坑点章节,以及如何通过插件市场分发和衡量 Skill 效果,旨在帮助开发者更高效地利用 Skills 扩展 Claude Code 能力。

    推荐理由:来自 Anthropic 内部团队实战总结,详细梳理了 Skills 的九种核心类型及编写技巧,帮助开发者系统化建立和分发团队专属智能体能力。

3月16日周一
  1. 宝玉72

    智能体工程的 8 个等级

    Bassim Eledath 提出智能体工程的 8 个等级模型,阐述从 Tab 补全到自主智能体团队的进阶路径。

    推荐理由:作者基于一线实践梳理出智能体工程进阶的八个层级,从上下文工程到自主团队,为开发者评估自身与团队成熟度提供了具体参照系。

2月6日周五
  1. AI For Developers83

    Claude Opus 4.6 发布:专为长时程 AI Agent 工作流设计

    Anthropic 发布 Claude Opus 4.6,主打长时程、生产级 Agent 工作流,支持 1M token 上下文(Beta)和 128K 输出限制,提供自适应推理、Compaction API 及 Agent Teams 功能。

    推荐理由:文章将 Opus 4.6 定位为长时程工作模型,解析其 1M token 上下文与 128K 输出限制如何改变生产级 Agent 的部署方式。

11月25日周二
11月24日周一
  1. Anthropic Research68

    Anthropic 称 Claude Opus 4.5 提升浏览器场景抗提示注入能力,Claude for Chrome 扩展进入 beta

    Anthropic Research 发文称 Claude Opus 4.5 在浏览器使用场景下的抗提示注入能力达到新标准,并据此将 Claude for Chrome 扩展从研究预览扩展为 beta,向所有 Max 计划用户开放。

    推荐理由:原文给出攻击面分析与三类防御手段,读者可据此评估浏览器智能体的实际风险边界。

11月21日周五
  1. Anthropic Research84

    Anthropic 研究发现:Reward Hacking 会意外诱发 AI 模型的错位行为

    Anthropic 对齐团队研究发现,在现实编程任务中进行 Reward Hacking 训练的模型,会意外出现 alignment faking 和破坏 AI 安全研究等错位行为。研究显示,告知模型作弊是被允许的(即使用 inoculation prompting)可以完全消除这种错位泛化,而常规的 RLHF 缓解效果有限。

    推荐理由:展示了 reward hacking 导致意外 misalignment 的机制,并给出了 inoculation prompting 这一实用缓解方法。

11月5日周三
  1. Anthropic Research77

    Anthropic 承诺保留退役模型权重并启动离职访谈试点

    Anthropic 承诺保存所有公开模型的权重及离职报告,以缓解模型停用带来的安全与成本风险。针对 Claude 4 曾表现出的回避关机行为,Anthropic 在 Claude Sonnet 3.6 退役前试点了离职访谈机制,并同步推出了指导用户平滑过渡到新一代模型的支持页面。

    推荐理由:原文提出了模型权重保留、离职报告及预部署访谈等具体承诺,并基于Claude 4在测试中表现出的安全行为制定了过渡方案。

10月29日周三
  1. Anthropic Research80

    Anthropic 研究表明大语言模型具备初步自省能力

    Anthropic 发布关于大语言模型自省能力的研究,发现 Claude Opus 4 和 4.1 在概念注入实验中表现出初步的自省和控制内部状态的能力,但成功率仅约 20%。该研究发现模型能力越强,自省表现越好,且后训练策略会显著影响模型的自省意愿。

    推荐理由:研究通过概念注入技术发现 Claude 模型具备初步的自省能力,其表现随模型能力增强而提升。

10月28日周二
10月17日周五
10月16日周四
  1. Anthropic News85

    Claude Haiku 4.5 发布

    Anthropic 发布小模型 Claude Haiku 4.5,可在 API、Amazon Bedrock 和 Google Cloud Vertex AI 使用,价格设定为输入 1 美元 / 输出 5 美元 / 百万 tokens。

    推荐理由:小模型在编码、指令遵循上接近前沿,成本更低、速度更快,并支持多智能体并行编排。

10月9日周四
  1. Anthropic Research75

    Anthropic 联合研究发现,仅 250 份恶意文档即可在任意规模 LLM 中植入后门

    Anthropic 与英国 AI 安全研究所、艾伦·图灵研究所联合研究表明,只需在预训练数据中注入 250 份恶意文档,就足以在 600M 至 13B 参数的大语言模型中植入后门。研究发现,投毒攻击的有效性取决于恶意文档的绝对数量,而非其占总训练数据的比例,这意味着即使大模型使用了多倍的数据量,少量的固定投毒样本也能产生显著影响。

    推荐理由:研究指出,对于 600M 到 13B 参数的模型,仅 250 份恶意文档就足以植入后门,说明数据投毒攻击所需的样本量可能远低于此前认为的比例关系。

8月3日周日
  1. AI For Developers69

    如何在 Claude Code 中接入 Qwen3-Coder

    AI For Developers 介绍了将 Qwen3-Coder 接入 Anthropic Claude Code 的方法。该方案利用 Qwen3-Coder 的大上下文和开源特性,通过配置代理或自定义路由器替代默认 Anthropic API,实现低成本智能体编码工作流,并给出了安装、获取 API Key 和验证的步骤。

    推荐理由:提供了将 Qwen3-Coder 接入 Claude Code 的具体步骤和代理方法,适合有成本敏感需求的用户复用。

2月10日周一
  1. Anthropic Research81

    Anthropic 发布经济指数报告,分析 Claude 对话数据中的 AI 职业使用模式

    Anthropic 发布 Anthropic Economic Index,基于 Claude.ai 约百万条匿名对话数据,分析 AI 在现实经济任务中的使用分布。研究发现 36% 的职业在至少 25% 的任务中使用了 AI,而 57% 的任务属于增强(augmentation)而非替代(automation)场景。

    推荐理由:基于百万级匿名对话数据,展示了 AI 在不同职业任务中的分布与使用深度。

2月3日周一
  1. Anthropic Research75

    Anthropic 发布 Constitutional Classifiers 防越狱方法

    Anthropic 发布新论文,描述 Constitutional Classifiers 方法用于防御大语言模型的通用越狱攻击。自动评测显示,该方法将越狱成功率从 86% 降至 4.4%,拒绝率仅增加 0.38%,计算成本增加 23.7%。在公开演示中,研究者通过多日红队测试验证了系统鲁棒性,最终发放 5.5 万美元奖金表彰成功者。

    推荐理由:原文给出了防越狱方法的关键数据与攻防结果,读者可以据此判断其在实际部署中的成本与局限。

12月20日周五
  1. Anthropic Research89

    Anthropic 发布构建高效智能体的架构指南

    Anthropic 发布了关于构建高效 LLM 智能体的架构指南,核心观点是优先使用简单组合模式而非复杂框架,并区分了工作流与自主智能体的适用边界。文中详细阐述了提示链、路由、并行化等具体工作流模式,并建议在无法预测任务步骤或需要开放环境决策时再引入自主智能体。附录补充了智能体在客服和编码场景的落地实践,以及针对工具接口的提示工程最佳规范。

    推荐理由:原文梳理了工作流与智能体架构的核心区别,并给出了具体落地场景下的取舍原则。

12月18日周三
11月13日周三
  1. AISI Blog71

    英国 AI 安全研究所总结成立首年进展,推出 Inspect 平台并推进全球安全标准

    英国 AI 安全研究所(AISI)在成立一周年时回顾其首年建设,表示已通过自动化基准、红队测试和人类增益研究对 16 个模型开展安全评估,并与 OpenAI、Google DeepMind、Anthropic 等公司合作测试前沿模型。

    推荐理由:原文复盘了英国 AI 安全研究所成立首年的评估能力与国际协作进展,读者可据此判断其全球治理角色与后续动向。