⌘ K
… 读取采集状态 同步中...
雷

#Google

今日 1 条
12月11日周四
  1. AISI Blog41

    AISI 与 Google DeepMind 深化研究伙伴关系

    AISI 宣布与 Google DeepMind 启动新的研究伙伴关系，深化双方在 AI 安全与安全领域的合作。新签署的研究 MOU 将促进数据与理念共享、联合发表及团队专职合作。初始研究重点包括监测思维链以对齐、探究社会情感对齐以及分析 AI 对经济活动和劳动力市场的影响。

  2. Google Gemini API Release Notes62

    Gemini API 发布 Interactions API 和 Deep Research 智能体预览版

    Gemini API 发布了 Interactions API，提供了与 Gemini 模型和智能体交互的统一接口。同时 Gemini Deep Research 智能体以预览版上线，能够自主规划、执行和综合多步骤研究任务的结果。

    推荐理由：原文给出了 Interactions API 和 Deep Research agent 的官方功能定位，读者可以据此判断 Gemini 生态在自主研究与交互接口上的变化。

12月10日周三
  1. Google Gemini API Release Notes68

    Google 发布 Gemini 2.5 Flash TTS 与 Pro TTS 预览版

    Google 发布 Gemini 2.5 Flash TTS 和 Gemini 2.5 Pro TTS 预览版，前者侧重低延迟优化，后者侧重音质优化。两款模型均支持增强表达力、精准节奏控制及无缝对话能力。

    推荐理由：原文明确了两款新TTS模型在延迟和音质上的侧重，便于开发者根据场景快速选型。

12月9日周二
11月19日周三
10月24日周五
8月29日周五
  1. AISI Blog31

    管理能力日益增强的开源权重 AI 系统风险

    英国 AISI 指出，随着强大推理开源模型发布，其可被任意修改且防护易被移除的风险上升。AISI 与 EleutherAI、牛津大学合作研究显示，在预训练数据中过滤有害内容比训练后防御抵御对抗性微调的效果高 10 倍以上，且不显著牺牲性能。文章强调构建包含数据策展与全权限审计的多元化策略，以在保障开放创新的同时最小化潜在危害。

7月3日周四
  1. AISI Blog25

    英国 AI 安全研究所探讨 AI 如何助长未来犯罪

    英国 AI 安全研究所（AISI）针对前沿 AI 被用于犯罪的问题提出应对框架，重点研究多模态生成、高级规划推理及 AI Agent 三大能力带来的风险。研究所通过多模态评估、派生应用分析及红队测试等方法建立证据基础，旨在探索模型与部署层面的干预措施。目前，AISI 正在招聘犯罪滥用工作流负责人及研究人员以推进相关研究。

6月27日周五
  1. Qwen Blog53

    Qwen-TTS 发布：支持中英双语及北京、上海、四川方言生成

    Qwen 团队通过 Qwen API 更新 Qwen-TTS，模型在数百万小时语音数据上训练，能根据输入文本自动调整韵律、语速与情感表达，并支持北京话、上海话、四川话三种中文方言。目前提供 Cherry、Ethan、Chelsie、Serena 及方言角色 Dylan、Jada、Sunny 共 7 种中英双语音色，后续将增加更多语言与风格选项。

4月11日周五
3月11日周二
1月13日周一
  1. Mistral News68

    Mistral AI 发布 Codestral 25.01 编码模型

    Mistral AI 发布 Codestral 25.01，其架构和分词器经过优化，代码生成和补全速度比原版快约2倍。该模型在权重级别内成为编码任务领先者，在FIM用例中达到SOTA水平，并在LMsys copilot arena排行榜上位列第一。

    推荐理由：Codestral 25.01在FIM任务上展现出SOTA性能，速度提升2倍，成为同级别编码模型的领先者。

11月13日周三
  1. AISI Blog71

    英国 AI 安全研究所总结成立首年进展，推出 Inspect 平台并推进全球安全标准

    英国 AI 安全研究所（AISI）在成立一周年时回顾其首年建设，表示已通过自动化基准、红队测试和人类增益研究对 16 个模型开展安全评估，并与 OpenAI、Google DeepMind、Anthropic 等公司合作测试前沿模型。

    推荐理由：原文复盘了英国 AI 安全研究所成立首年的评估能力与国际协作进展，读者可据此判断其全球治理角色与后续动向。

  2. AISI Blog62

    英国 AISI 发布 Inspect Evals 开源评测仓库

    英国 AISI 宣布推出 Inspect Evals，这是一个包含数十个高质量开源 LLM 基准评测的仓库。该仓库基于 Inspect AI 框架构建，覆盖编码、数学、网络安全、推理等安全研究领域，并整合了 GAIA、SWE-Bench、GDM CTF 等智能体基准。用户可通过 Python 包安装或命令行单条指令，在任意模型上运行这些评测。

11月5日周二
10月15日周二
  1. AISI Blog45

    AISI 开放系统性 AI 安全资助项目申请

    AI Security Institute (AISI) 开放第一阶段系统性 AI 安全资助申请，旨在理解并缓解 AI 部署带来的广泛社会风险。项目支持英国及国际研究者探索前沿 AI 在关键领域的影响，通过资助技术、治理及行业协作研究，提升系统韧性并促进跨领域合作。

10月9日周三
  1. Anthropic News28

    Anthropic 发布 2024 美国大选 AI 安全应对措施

    Anthropic 公布针对 2024 年美国大选的准备措施，禁止使用 Claude 进行政治竞选、游说及生成相关虚假信息，并仅输出文本以规避深度伪造风险。公司部署自动化系统与人工审计以执行政策，实施政治中立性测试和漏洞测试，同时在用户查询投票信息时将其重定向至 TurboVote 等权威资源。

10月3日周四
  1. AISI Blog26

    Geoffrey Irving 为何加入 AISI

    Geoffrey Irving 加入英国 AI 安全研究所（AISI）从事政策导向的安全技术工作。他认为直接技术工作至关重要，但安全进展相对 AI 发展速度过慢，且协调工作资源不足。他现负责失控风险安全论证，认为 AISI 在推动 Bletchley Park 和首尔峰会达成平衡 AI 进展与风险的承诺中发挥了核心作用。

8月23日周五
5月20日周一
  1. AISI Blog66

    英国AI安全研究所发布第四份进展报告：开源Inspect平台并推进国际AI风险评估

    英国AI安全研究所（AISI）发布第四份进展报告，面向即将举办的首尔AI安全峰会披露多项动作：开源AI安全评测平台Inspect；发布首份针对公共前沿模型在Cyber。

    推荐理由：英国AISI开源了评估平台Inspect，并公布了30国AI风险科学综述，政府主导的开源与评测协同细节对安全评测从业者有直接参考价值。

3月20日周三
2月9日周五
  1. AISI Blog30

    AISI 评估方法概述

    AISI 发布博文，概述其评估工作的动机、测试目标及模型选择方法。文章还展示了近期评估演示，并介绍了未来工作计划。该博文为 AI 安全评估领域的技术实践提供了系统性说明。

2月5日周一
10月30日周一
2月3日周五