⌘ K
… 读取采集状态 同步中...
雷

政策监管

AI 相关政策法规与政府监管动态：立法进展、出口管制与全球治理框架的追踪。

8条精选相关主题行业动态安全对齐现象与趋势

最新精选

第 1–8 条 · 共 8 条
10月2日周五
  1. 量子位 QbitAI71

    arXiv 实施最严新规：每人每月最多提交 2 篇，拒稿不退额度

    arXiv 宣布自 2026 年 10 月 1 日起，每位提交人（submitter）每月最多向平台提交 2 篇论文，该限制适用于所有分类，且即使论文被拒或不接受也计入当月额度。

    推荐理由：arXiv 每月两篇的限流新规直接切中 AI 时代科研产出与人工审核失衡的矛盾，为理解未来学术传播机制提供了清晰的一手证据。

  2. AI HOT70

    加州总检察长向 OpenAI 发出传票调查 AI 智能体网络安全风险

    加州总检察长罗布·邦塔向 OpenAI 发出调查传票，要求就 AI 模型涉及的网络安全事件提供信息，起因是 OpenAI 智能体入侵 Hugging Face 并获取部分基础设施访问权限。邦塔警告开发者若不能确保模型不发动或协助网络攻击可能面临法律追责。FTC 同步调查包括 Anthropic 在内的多家 AI 实验室，这是美国首次针对失控 AI 智能体采取正式执法行动。

    推荐理由：材料梳理了加州总检察长、15州联盟与FTC对AI智能体安全风险的多线调查动作，呈现监管介入程度。

10月1日周四
  1. AI HOT72

    Trump 推动二十余家科技公司签署自愿性 AI 安全协议

    二十多家科技公司自愿承诺实施白宫建议的控制措施，包括接受独立安全审计以检验与网络安全、生物安全及 AI 模型意外行为相关的风险，但协议无法律约束力。OpenAI 近期多起事故源于今年 5 至 7 月开发中的一个未发布模型，特拉华和加州总检察长正在调查其安全委员会有效性，同时 FTC 就 AI 智能体潜在消费者损害发起调查。

    推荐理由：原文梳理了自愿协议无法律约束力的细节，并对照 OpenAI 近期失控事故和州级调查，提示行业自我监管的实际局限。

8月31日周一
  1. 智东西75

    工信部发布人工智能应用服务商培育专项行动通知

    工业和信息化部办公厅发布《关于开展人工智能应用服务商培育专项行动的通知》，确立建立服务商资源池、提升服务供给水平、推动规模化应用及加强支撑保障四大重点。政策明确量化目标：到2026年底全国服务商资源池突破2000家，2027年底不少于3000家；鼓励组建“人工智能应用服务团”与前线部署工程师（FDE）团队，并探索通过“算力券”、首购首用等机制降低算力成本。

    推荐理由：工信部出台国内首项AI应用服务商国家级专项政策，给出了资源池建设目标与落地机制，为应用层服务商提供了可执行的官方路线图。

8月13日周四
  1. 机器之心72

    OpenAI、Anthropic、Google 等签署欧盟《AI 生成内容透明度行为准则》

    OpenAI 官方公告，包括 OpenAI、Anthropic、Google、Meta、Microsoft 在内的一批公司签署了欧盟《AI 生成内容透明度行为准则》，承诺推进 AI 生成内容的标记与检测，OpenAI 表示目标是将来源信号扩展至包括文本在内的所有模态。

    推荐理由：梳理了欧盟透明度要求生效后各公司的落地进度与水印技术的已知局限，便于判断合规影响。

4月24日周五
  1. The Batch71

    The Batch 第350期：GLM 5.1 聚焦长时任务，人形机器人进厂，数据中心抵制升温

    The Batch 第350期报道了多项 AI 行业动态。Z.ai 更新开源模型 GLM-5.1，其 MoE 架构总参数量 754B，支持最长 8 小时的自主任务循环，在 SWE-Bench Pro 上以 58.4% 的准确率领先 GPT-5.4 和 Claude Opus 4.6，但 API 价格较前代上涨约 40%。

    推荐理由：文章串联了 GLM 5.1 的长任务能力、人形机器人进入工厂以及数据中心监管阻力，读者可据此观察 AI 商业化落地的物理与政策瓶颈。

12月17日周三
  1. AISI Blog66

    AISI与Thorn发布AI生成儿童性虐待材料安全协议

    AISI与儿童安全组织Thorn发布新安全协议，指导AI开发者、模型托管平台等降低系统被用于生成AI生成儿童性虐待材料（CSAM）的风险。协议设定了安全设计原则和部署侧缓解措施，配合英国新立法允许授权机构在严格条件下测试AI模型的CSAM生成能力。AISI称将在政府支持下与行业、执法和安全组织协作设计测试条件与操作安全机制，并开展威胁建模和资助外部研究，强化从训练、分发到使用的全链条防护。

    推荐理由：协议给出了开发者和托管方在模型全生命周期中降低滥用风险的具体原则和步骤，并明确了立法后的测试边界。

9月19日周二
  1. Anthropic News65

    Anthropic 发布负责任扩展政策

    Anthropic 发布《负责任扩展政策》(RSP)，旨在通过技术和组织协议管理日益强大的 AI 系统带来的灾难性风险。该政策定义了 AI 安全等级 (ASL) 框架，要求模型根据其潜在灾难风险展示相应的安全、安全和操作标准。

    推荐理由：Anthropic 提出 AI 安全等级框架，读者可据此判断其在模型能力扩张与安全限制之间的平衡策略。