⌘ K
… 读取采集状态 同步中...
雷

#OpenAI

今日 9 条
1月28日周二
  1. Qwen Blog79

    Qwen2.5-Max 发布：大规模 MoE 模型通过阿里云 API 开放

    Qwen 团队发布 Qwen2.5-Max，这是一个预训练于超过 20 万亿 tokens 的大规模 MoE 模型，并经过 SFT 和 RLHF 后训练。在 Arena-Hard、LiveBench、LiveCodeBench 和 GPQA-Diamond 等基准上，Qwen2.5-Max 表现优于 DeepSeek V3。

    推荐理由：原文给出了大规模 MoE 模型的训练规模、后训练方法，以及在关键基准上对比 DeepSeek V3 的领先结果，读者可以据此判断其在推理与编码上的相对位置。

12月18日周三
  1. AISI Blog73

    US AISI 与 UK AISI 对 OpenAI o1 模型的部署前评估报告

    US AISI 和 UK AISI 对 OpenAI o1 进行了部署前安全评估，重点考察网络安全、生物及软件开发能力。在网络安全测试中，o1 解决了 45% 的公开挑战，高于最佳参考模型的 35%。在生物任务中，o1 表现与参考模型相当，结合生物信息学工具后在 DNA 和蛋白质测序任务上有所提升。

    推荐理由：展示了 o1 在网络安全及生物领域的具体表现对比，提供了部署前安全评估的实践参考。

11月19日周二
  1. AISI Blog60

    Anthropic Claude 3.5 Sonnet 升级版本部署前联合评估结果发布

    英国和美国 AI 安全研究所联合对 Anthropic 升级版 Claude 3.5 Sonnet 进行了部署前安全评估。测试显示该模型在 40 道网络安全挑战中成功解决了 32.5%；在软件工程任务中成功率达 66%，优于最佳参考模型。生物研究任务表现接近人类专家基线，且模型内置的安全防护可被常规越狱手段绕过。

11月14日周四
  1. AISI Blog29

    AI 安全研究院发布“无能力”论据安全论证模板

    AI Safety Institute 与 AI 治理中心合作发布论文，提供用于当前 AI 系统的安全论证模板。该模板通过 Claims, Arguments, Evidence 结构，证明系统缺乏增加网络风险的能力，属于概念验证。AISI 指出随着能力提升，此类“无能力”论证的置信度将降低，未来需结合安全措施论证更高能力系统的安全性。

11月13日周三
  1. AISI Blog71

    英国 AI 安全研究所总结成立首年进展，推出 Inspect 平台并推进全球安全标准

    英国 AI 安全研究所（AISI）在成立一周年时回顾其首年建设，表示已通过自动化基准、红队测试和人类增益研究对 16 个模型开展安全评估，并与 OpenAI、Google DeepMind、Anthropic 等公司合作测试前沿模型。

    推荐理由：原文复盘了英国 AI 安全研究所成立首年的评估能力与国际协作进展，读者可据此判断其全球治理角色与后续动向。

10月23日周三
  1. Anthropic News92

    Anthropic 发布具备计算机操作能力的 Claude 3.5 Sonnet

    Claude 3.5 Sonnet 新增公开测试的计算机操作能力，可模拟人类操作屏幕移动光标、点击并输入，在 OSWorld 评测中以 14.9% 的成绩领先竞品 7.7%。Anthropic 指出该功能降低了 AI 应用门槛但存在提示词注入风险，目前仍处 AI Safety Level 2 级别。

    推荐理由：Claude 3.5 Sonnet 通过计算机操作能力在 OSWorld 评测中超越竞品，展示了 AI 直接操控软件界面的可行性与安全风险。

10月17日周四
10月3日周四
  1. AISI Blog26

    Geoffrey Irving 为何加入 AISI

    Geoffrey Irving 加入英国 AI 安全研究所（AISI）从事政策导向的安全技术工作。他认为直接技术工作至关重要，但安全进展相对 AI 发展速度过慢，且协调工作资源不足。他现负责失控风险安全论证，认为 AISI 在推动 Bletchley Park 和首尔峰会达成平衡 AI 进展与风险的承诺中发挥了核心作用。

9月23日周一
  1. AISI Blog45

    AISI 分享前沿 AI 开放式问答评估开发的早期洞察

    AI 安全研究所（AISI）分享了开发开放式问答评估的实践经验，强调该方法比多项选择更能反映模型在真实对话场景中的能力。文章提出了开发鲁棒问答评估的五个步骤，重点包括起草具有挑战性的问题以及制定具体、全面的评分指导。该评估流程通过 Inspect 框架运行，旨在为前沿模型评估提供更快速、广泛的工具。

9月17日周二
8月2日周五
5月20日周一
  1. AISI Blog66

    英国AI安全研究所发布第四份进展报告：开源Inspect平台并推进国际AI风险评估

    英国AI安全研究所（AISI）发布第四份进展报告，面向即将举办的首尔AI安全峰会披露多项动作：开源AI安全评测平台Inspect；发布首份针对公共前沿模型在Cyber。

    推荐理由：英国AISI开源了评估平台Inspect，并公布了30国AI风险科学综述，政府主导的开源与评测协同细节对安全评测从业者有直接参考价值。

4月21日周日
4月17日周三
  1. Mistral News82

    Mistral 开源 Mixtral 8x22B 模型

    Mistral 发布开源模型 Mixtral 8x22B，采用稀疏混合专家架构，141B 总参数中仅 39B 激活。模型支持 64K 上下文，在数学、编码和多语言任务上表现优于其他开源模型，并以 Apache 2.0 许可开放。

    推荐理由：Mistral 开源发布 Mixtral 8x22B，提供 Apache 2.0 许可和 64K 上下文窗口，兼顾推理效率与多语言表现。

3月20日周三
9月25日周一
  1. Anthropic News92

    Anthropic 宣布获得 Amazon 最高 40 亿美元投资并深化算力合作

    Anthropic 宣布 Amazon 将投资最高 40 亿美元并获得少数股权。AWS 成为 Anthropic 主要云提供商，提供 Trainium 和 Inferentia 芯片算力支持模型训练与部署。Claude 2 扩展支持 Amazon Bedrock，提供安全微调及 100,000 token 上下文窗口，LexisNexis 等机构已基于此构建应用。

    推荐理由：宣布最高40亿美元投资及AWS算力合作，确立了Claude在AWS Bedrock上的企业级落地路径与安全定制能力。

5月23日周二
  1. Anthropic News63

    Anthropic 完成 4.5 亿美元 C 轮融资

    Anthropic 宣布完成 4.5 亿美元 C 轮融资，Spark Capital 领投，Google、Salesforce Ventures 等跟投。资金将用于开发 Claude 等 AI 产品、支持企业部署及推进 AI 对齐与安全研究，包括扩展 100K 上下文窗口功能；Spark Capital 的 Yasmin Razavi 加入董事会。

3月14日周二
  1. Anthropic News65

    Anthropic 正式发布 Claude 和 Claude Instant 模型

    Anthropic 正式开放 Claude 访问权限，作为基于安全研究的下一代 AI 助手，提供聊天界面和 API，可执行总结、编码等任务。官方提供两种版本：高性能的 Claude 和更轻快、低成本的 Claude Instant。早期合作伙伴如 Notion 和 Quora 评价其对话感更强且更易于控制。

    推荐理由：明确了 Claude 的两款版本差异，及其在 Quora、Notion 等业务场景中的实际表现与定位。

11月14日周一
  1. Qwen Blog61

    OFA: 统一架构、任务与模态的通用多模态预训练模型

    Qwen团队发布统一多模态预训练模型OFA，将视觉、语言和图像生成任务整合到单一序列到序列框架中，并基于8项任务进行多任务预训练。模型包含5个参数规模（33M至930M），在视觉问答、图像描述、视觉定位等任务上达到或接近该规模下最优性能，且在自然语言理解基准GLUE上可与RoBERTa等单模态模型竞争。论文同步开源了预训练和微调模型、代码库及在线演示，并指出多模态基础模型将在此方向上快速发展。

5月28日周五