⌘ K
… 读取采集状态 同步中...
雷

行业动态

AI 行业的商业脉搏：融资并购、人事变动、合作与竞争、政策与市场信号。

328条精选相关主题现象与趋势大佬观点政策监管

最新精选

第 321–328 条 · 共 328 条
4月3日周五
  1. The Batch76

    Claude Code 源码泄露揭示架构细节，OpenAI 停止 Sora 并整合桌面应用，Google 推出 Lyria 3 音乐生成器

    Claude Code 因 npm 包误包含 source map 文件导致超过 51.2 万行代码泄露，暴露其多智能体结构、三层记忆系统及隐藏功能；OpenAI 宣布停止 Sora 视频生成服务。

    推荐理由：Claude Code 源码意外泄露揭示了其内部智能体架构与未发布功能，为理解前沿编码代理的工程细节提供了直接参考。

11月5日周三
  1. Anthropic Research77

    Anthropic 承诺保留退役模型权重并启动离职访谈试点

    Anthropic 承诺保存所有公开模型的权重及离职报告，以缓解模型停用带来的安全与成本风险。针对 Claude 4 曾表现出的回避关机行为，Anthropic 在 Claude Sonnet 3.6 退役前试点了离职访谈机制，并同步推出了指导用户平滑过渡到新一代模型的支持页面。

    推荐理由：原文提出了模型权重保留、离职报告及预部署访谈等具体承诺，并基于Claude 4在测试中表现出的安全行为制定了过渡方案。

7月30日周三
  1. AISI Blog66

    AISI宣布启动AI对齐全球基金，首轮融资超1500万英镑

    AISI启动名为Alignment Project的全球基金，为首轮60多个AI对齐研究项目提供了超过2700万英镑的资助。该基金旨在推动先进AI系统的安全性与可靠性，向跨学科研究人员提供最高100万英镑的资金支持。

    推荐理由：该基金提供最高100万英镑支持跨学科AI对齐研究，读者可据此了解全球对齐领域的资金规模与具体资助门槛。

11月13日周三
  1. AISI Blog71

    英国 AI 安全研究所总结成立首年进展，推出 Inspect 平台并推进全球安全标准

    英国 AI 安全研究所（AISI）在成立一周年时回顾其首年建设，表示已通过自动化基准、红队测试和人类增益研究对 16 个模型开展安全评估，并与 OpenAI、Google DeepMind、Anthropic 等公司合作测试前沿模型。

    推荐理由：原文复盘了英国 AI 安全研究所成立首年的评估能力与国际协作进展，读者可据此判断其全球治理角色与后续动向。

9月25日周一
  1. Anthropic News92

    Anthropic 宣布获得 Amazon 最高 40 亿美元投资并深化算力合作

    Anthropic 宣布 Amazon 将投资最高 40 亿美元并获得少数股权。AWS 成为 Anthropic 主要云提供商，提供 Trainium 和 Inferentia 芯片算力支持模型训练与部署。Claude 2 扩展支持 Amazon Bedrock，提供安全微调及 100,000 token 上下文窗口，LexisNexis 等机构已基于此构建应用。

    推荐理由：宣布最高40亿美元投资及AWS算力合作，确立了Claude在AWS Bedrock上的企业级落地路径与安全定制能力。

9月19日周二
  1. Anthropic News72

    Anthropic 宣布长期利益信托治理结构

    Anthropic 公开其新治理结构“长期利益信托”（LTBT），该信托由五名无财务利益关系的受托人组成，有权选举和罢免董事会成员，最终将控制董事会多数席位。结合公益公司（PBC）身份，LTBT 旨在使公司治理与“为人类长期利益负责任地开发和维护先进 AI”的使命对齐。

    推荐理由：原文揭示了 Anthropic 治理结构的设计逻辑与初始信托成员，为理解 AI 公司如何平衡商业与安全提供了具体参考。

5月9日周二
  1. Anthropic News78

    Anthropic公布Claude宪法及价值观对齐原则

    Anthropic官方发布Claude“宪法”，详细公开其训练模型所依据的原则体系，包括基于联合国人权宣言、苹果服务条款、DeepMind Sparrow规则及自身研究的价值观条目。该方法通过宪法原则指导模型自我批评与修订，并在强化学习阶段用AI生成的反馈替代大规模人工偏好，以提升模型在处理恶意输入时的安全性与有用性。

    推荐理由：Anthropic官方公开其Constitutional AI方法的具体原则集，展示了AI系统价值观如何被显性化、调整并与模型安全对齐的机制。

4月29日周五
  1. Anthropic News66

    Anthropic 完成 $580M B 轮融资以建设更安全可控的 AI 系统

    Anthropic 宣布完成 $580M B 轮融资，资金将用于建设大规模实验基础设施以探索计算密集型模型的安全特性。公司自 2021 年成立以来在可解释性、可操控性与鲁棒性上取得进展，包括逆向工程小型语言模型行为、开发让 LLM 更有帮助无害的基线技术及发布对齐数据集。本轮融资由 FTX 前 CEO Sam Bankman-Fried 领投，Anthropic 团队目前在旧金山约有 40 人。

    推荐理由：Anthropic 官方说明 $580M 融资将用于扩大安全实验基础设施并推进可解释性与对齐研究，便于读者判断其技术路线与团队规模变化。