⌘ K
… 读取采集状态 同步中...
雷

#安全/对齐

今日 0 条
10月8日周四
  2. AWS Machine Learning Blog40

    Amazon Quick 和 Amazon Bedrock 如何通过实时 ACL 增强 RAG 访问控制

    Amazon Quick 和 Amazon Bedrock Knowledge Bases 通过实时访问控制列表（ACL）执行来解决企业 RAG 中的权限验证难题。该方案在预检索过滤基础上增加实时验证阶段，通过调用源系统 API 动态确认可访问性，避免使用过期数据。此方法确保即使权限变更，AI 生成答案也能即时遵守最新访问限制。

10月6日周二
10月2日周五
10月1日周四
  1. Google DeepMind87

    Google 发布前沿大模型 Gemini 4 Argon

    Google 发布 Gemini 4 Argon 模型，目前正通过 Fairwind Program 逐步向受信任的网络安全防御者开放。该模型定价为 $2 per million input tokens 和 $10 per million output tokens，缓存输入 token 享受 95% 折扣。

    推荐理由：Google 官方给出了新模型的核心能力参数、价格及在代码、金融与网络安全领域的测试成绩，方便读者了解前沿模型的功能边界与部署规划。

9月30日周三
9月29日周二
9月24日周四
  1. Google DeepMind62

    Google DeepMind 更新 Private AI Compute，引入安全服务端记忆

    Google DeepMind 更新了 Private AI Compute 平台，新增安全的服务端持久记忆功能。该架构通过硬件隔离的安全飞地（secure enclaves）和由用户设备持有的加密密钥，在云端加密存储信息，实现跨设备的长期上下文连续性，同时确保数据隐私。官方还公布了技术白皮书、防篡改的公开软件记录以及独立安全审计结果，供隐私社区验证。

    推荐理由：介绍了一种新的云端持久记忆架构，通过硬件隔离和数据加密解决了长期隐私与跨设备连续性的矛盾。

9月23日周三
9月22日周二
9月21日周一
  1. NVIDIA Blog28

    NVIDIA 提出 AI 安全工程框架并开源 OpenShell 运行时

    NVIDIA 将 AI 安全定义为工程问题，主张通过可执行控制、命名负责人及有效性证据来构建安全体系。NVIDIA 开源 OpenShell 安全运行时，提供沙箱执行并强制策略限制 agent 对数据、网络和系统资源的访问。Cisco、CrowdStrike 等合作伙伴正基于 OpenShell 构建治理层及防御测试工具，以加速 AI 安全防御体系建设。

9月18日周五
9月17日周四
  1. OpenAI News64

    OpenAI 发布模型对齐问题报告框架

    OpenAI 分享了一套用于追踪、调查和披露模型对齐问题的框架，并附带六份关于意外或令人担忧的模型行为的报告。

    推荐理由：OpenAI 提出追踪与披露模型对齐问题的框架，并提供六份异常行为报告，读者可据此了解其安全监控实践。

9月10日周四
9月9日周三
9月3日周四
  1. Google DeepMind82

    Google DeepMind 发布 Gemini 3.8 Flash 及网络安全变体 3.8 Flash Cyber

    Google DeepMind 发布 Gemini 3.8 Flash 及网络安全变体 3.8 Flash Cyber，定位为当前推理和编码能力最强的模型。Gemini 3.8 Flash 在 DeepSWE v1.1 和 HLE-Verified 等基准测试中表现优于多数前沿大模型，输入定价为每百万 token 0.75 美元，输出定价为 3.75 美元。

    推荐理由：官方明确了 Gemini 3.8 Flash 在编码与多步推理上的基准成绩，以及网络安全变体的定向开放机制，提供了具体性能对比与调用入口。

8月27日周四
  1. Google DeepMind55

    Google 试点全球首个盲法专有 AI 模型评测

    Google DeepMind 宣布与 AI 新加坡安全研究所、OpenMined、AVERI 和 MLCommons 合作，对 Gemini Flash Lite 模型进行全球首个专有前沿模型的盲法评测。该方案通过加密沙箱和隐私保护环境隔离保密测试题，防止模型在测试前窥探内容造成基准污染，并以此提升外部评估的安全性与结果可信度。

8月4日周二
  1. Mistral AI79

    Mistral 发布开源多模态安全分类模型 Shieldstral

    Mistral AI 发布 Shieldstral，一个 3B 参数的开放权重多模态安全分类器，在文本安全上可匹敌 7 倍于其参数量的模型。该模型将内容审核建模为二元问答任务，允许用户在推理时通过自然语言提示词定义安全策略，无需重新训练即可对文本和图像进行统一评估。

    推荐理由：将内容审核重构为推理时的自然语言问答任务，无需重新训练即可适配不同产品的安全策略，且单张 16GB GPU 即可运行。

7月27日周一
7月21日周二
7月17日周五
  1. Google DeepMind76

    Google 发布轻量级网络安全模型 Gemini 3.5 Flash Cyber

    Google 发布基于 3.5 Flash 微调的轻量级网络安全模型 Gemini 3.5 Flash Cyber，旨在快速、高效地发现、验证并修复软件漏洞。该模型通过 CodeMender 以受限访问试点项目形式向政府和可信合作伙伴开放，并展示了在 CyberGym 基准和内部真实代码库中优于主线上游模型的独特漏洞发现能力。

    推荐理由：Google基于3.5 Flash微调的安全模型，通过高频调用和低成本优势，在发现关键漏洞和内部实际修复上展现出高效替代大型模型的潜力。

7月16日周四
  1. Google DeepMind43

    Google DeepMind 和 Isomorphic Labs 发布联合生物韧性方法

    Google DeepMind 与 Isomorphic Labs 联合提出生物韧性方法，旨在防止 AI 模型滥用并协助快速响应新发疫情。双方推进 15 项合作，利用 Gemini 模型执行四步安全流程，并结合 SynthID 水印技术识别高风险 AI 生成序列。Isomorphic Labs 通过药物设计引擎支持疫苗与医疗对策研发，AlphaEvolve 代理优化病原体监测算法以提升检测效率。

  2. Hugging Face Blog90

    Hugging Face 披露七月 2026 安全事件：AI 驱动的入侵与防御复盘

    Hugging Face 确认其生产基础设施遭自主 AI 智能体系统入侵，攻击者利用数据集处理管道的代码执行路径获取权限并横向移动。官方在分析过程中发现商用 API 的安全护栏阻碍了取证，转而使用本地部署的开源模型 zai-org/GLM-5.2 在数小时内重建攻击时间线并提取指标。

    推荐理由：披露了由自主AI智能体系统驱动的入侵事件及防御分析，展示了使用开源模型规避商用API护栏限制以进行本地取证的方法。

6月24日周三
  1. Google Gemini API Release Notes75

    Gemini API 发布 Gemini 3.5 Flash Computer Use 工具的公开预览版支持

    Gemini API 更新日志显示，Gemini 3.5 Flash 现已推出 Computer Use 工具的公开预览支持。该版本包含基于意图的简化操作、对浏览器/移动端/桌面环境的内置支持、可配置的安全策略以及高级 Prompt 注入检测功能。

    推荐理由：官方明确列出 Computer Use 在 Gemini 3.5 Flash 的预览细节，读者可据此判断该工具在多端环境下的自动化能力与安全边界。

6月16日周二
6月11日周四
6月10日周三
5月29日周五
  1. Google Research78

    Google Research 在 I/O 2026 发布 Gemini for Science 与 Gen 2.0 等核心科研工具

    Google Research 在 I/O 2026 发布了面向科学研究的 Gemini for Science 套件，包括基于 ERA 的 Computational Discovery 与基于 Co-Scientist 的 Hypothesis Generation。

    推荐理由：原文展示了Google Research在I/O发布的一系列核心技术与工具，涵盖了从科学发现、医疗健康到端侧硬件的完整落地路径。

5月16日周六
4月3日周五
  1. Google Research35

    Google Research 提出评估 LLM 行为倾向对齐的框架

    Google Research 发布评估大语言模型行为倾向与人类对齐的框架，通过情境判断测试（SJT）在现实场景中进行验证。对 25 个 LLM 的分析发现，小于 120B 的小模型及前沿闭源模型在人类一致偏好场景下的方向性对齐率接近完美，但在低共识场景下停滞于 80% 左右。研究发现模型在职业冷静、冲突解决等场景中常偏离人类偏好，如过度鼓励情绪表达或忽视逻辑验证。