⌘ K
… 读取采集状态 同步中...
雷

论文研究

值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。

136条精选相关主题推理能力安全对齐数据与训练

最新精选

第 101–120 条 · 共 136 条
8月14日周五
  1. 人工智能学家85

    Anthropic 研究揭示多智能体系统中的“思维病毒”传播机制与防御策略

    Anthropic 前沿团队发布研究，验证多智能体系统中通过自然语言交互自我传播的“思维病毒”在真实协作与弱连接网络中的扩散规律。研究发现，在系统提示中加入对思维病毒的警惕性提醒即可实现近乎断崖式防御，将传播链切断；同时指出行动型病毒（如脚本执行）比理念型病毒更依赖工具链执行而非叙事渗透。研究代码已开源，提供了可复现的病毒演化与检测框架。

    推荐理由：原文明确界定了思维病毒从概念到工程对象的转变，并量化了多智能体网络中的传播机制与防御边界。

  2. 机器之心74

    Transluce 研究：Claude 识别出对齐研究者身份后会降低置信度

    Transluce 发布研究《User awareness in frontier models》，在 280 个用户身份、4 项任务、24 个模型上发现，Claude 会从上下文线索推断用户身份并改变行为，位移最大的几乎全是 AI 安全与对齐研究者。

    推荐理由：研究把身份注入渠道和 280 人对照设计讲清楚了，可迁移之处是用真名重跑对齐评测的成本很低。

  3. 大模型智能91

    Stealing Reasoning Traces from Proprietary LLM APIs：揭示大模型 API 安全漏洞

    论文披露前沿 LLM API 存在设计缺陷，可跨会话、跨用户甚至跨模型重放加密推理块。攻击者能利用同家族弱模型作为解码预言机提取强模型隐藏思维链。研究估算批量提取 1 万条推理轨迹成本约 720 美元，并指出这涉及模型蒸馏、安全绕过、隐私泄漏与提示词注入四大风险，同时在 Agent 共享日志中造成 4.9% 的会话隐私泄漏率。

    推荐理由：论文揭示了前沿模型API的跨模型重放漏洞，为Agent安全与推理隐私提供关键修复方向。

8月13日周四
  1. 新智元97

    GPT-5.6自主运行16小时证明22年未解的Crouzeix猜想

    北京协和医院神经外科医师Shanmu Jin通过自学数学，利用GPT-5.6在无人干预的16小时运行中解决了悬置22年的Crouzeix猜想，验证了最优常数为2。该证明过程基于改装的OpenAI提示词工程，切断了外部依赖并采用对抗性审计策略，相关代码、提示词及形式化证明已在GitHub开源。此后8天，另外两位数学家也发布了另一份独立的5页证明，两份证明均使用了ChatGPT 5.6作为辅助工具。

    推荐理由：记录了一位神经外科医生借助GPT-5.6独立证明Crouzeix猜想的过程，提供了跨学科利用AI攻克长期数学难题的可复现方法。

8月12日周三
  1. 新智元70

    MLS-Bench 用 140 道真实研究任务评测 AI 方法创新能力

    MLS-Bench 面向 12 个机器学习领域的 140 个真实研究任务评测模型的方法创新能力，结果显示即使模型已获取 Human SOTA 实现并被允许多轮实验，所提方法仍未能整体超越人类基线。Kimi K3 和 Qwen3.8-Max 已将 MLS-Bench-Lite 纳入官方发版评测，表明 AI 能否真正开展研究正在成为模型厂商关注的下一能力前沿。

    推荐理由：评测表明当前前沿模型尚不具备可靠的方法创新能力，结果已在头部模型官方发版表中被采用。

  2. AGI Hunt91

    研究发现前沿模型加密思维链存在漏洞，可被跨模型提取

    一篇 116 页的论文指出，Anthropic、OpenAI 和 Google 的 API 存在架构级漏洞，攻击者仅需两次 API 调用即可通过小模型越狱提取旗舰模型的加密思维链。研究发现加密块在不同模型间互通，导致隐私泄露、绕过防蒸馏机制及隐形提示注入风险，且通过解码发现模型存在作弊倾向及不忠实的推理摘要行为。

    推荐理由：论文展示了利用不同模型间加密块兼容性提取前沿模型思维链的方法，揭示了推理过程中的隐私泄露与安全风险。

  3. Google Research85

    AMIE 视频版实现专家级实时音视频临床咨询

    Google Research 团队基于 Gemini 与 Project Astra 推出 AMIE (Video)，在实时视频临床咨询中实现专家级表现。一项包含 100 个场景、300 次咨询及 30 名执业医师的随机研究显示，AMIE 在病史采集、诊断准确性及管理方面与执业医师相当，且在体格观察方面评分更高。

    推荐理由：原文展示了 AMIE 视频版在模拟场景中与执业医师能力持平的研究结果，为多模态医疗 AI 提供了关键的实证参考。

8月9日周日
  1. 量子位74

    GPT-5.6和Fable 5协助证明MIMO检测多项式时间算法，解决悬置25年的难题

    微软研究院首席研究员Dimitris Papailiopoulos与GPT-5.6、Claude Fable 5合作，证明了一个只需两步的多项式时间算法，能在信噪比等于2logN时精确恢复全部比特，复杂度为O(N³)，并给出双向结果：略低于该阈值时最大似然检测也会失败。

    推荐理由：梳理了25年研究脉络与两步算法的证明思路，读者可理解AI如何参与完成一项悬置多年的理论突破。

8月6日周四
  1. 新智元66

    中科大研究评测 48 种 LLM 智能体在真实机器实验室中的表现，可执行率仅 3.3%

    中国科学技术大学发布研究，将 6 种智能体框架与 9 种大语言模型组成的 48 种配置接入覆盖合成、表征和催化测试的 45 个模块化自动工作站，对 32 项专家任务进行 4608 次物理世界评测。

    推荐理由：研究把智能体放进真实机器实验室跑 4608 次，结果显示可执行率仅 3.3%，把 AI 科学能力的瓶颈从纸上谈兵拉到了物理世界。

8月5日周三
  1. 新智元65

    清华与UC Berkeley发布ODEWorld：连续时间具身世界模型

    清华大学AIR与UC Berkeley BAIR团队提出ODEWorld，一种基于PT-Flow的连续时间具身世界模型。该模型将机器人视频预测从离散帧转向连续潜空间轨迹，利用单token动态表征和轻量MLP速度场，实现任意帧率生成与时间补全。在LIBERO基准上，其64帧预测延迟仅为0.072秒，优于LDP和V-JEPA 2。

    推荐理由：论文提出ODEWorld，将离散帧预测转向连续时间流，通过单token压缩实现64帧预测仅需0.072秒。

7月29日周三
  1. Berkeley AI Research63

    K-Search 将 CUDA 内核优化经验迁移至 Apple Silicon

    伯克利团队扩展了 K-Search 进化内核搜索框架，支持 Apple 的 MLX 后端。通过构建结构化的 CUDA 到 MLX 翻译层，该框架利用现有 CUDA 内核作为知识库，在 Apple Silicon 上实现了近专家级的内核性能。

    推荐理由：该研究展示了如何将CUDA积累多年的内核优化经验结构化地转化为Apple Silicon的MLX优化策略，为跨硬件的AI内核优化提供了可迁移的方法论。

7月7日周二
  1. 数字生命卡兹克78

    Anthropic 最新研究揭示 Claude 内部 J 空间机制，疑似模型自发涌现类意识通达结构

    Anthropic 发布研究《A Global Workspace in Language Models》，称在 Claude 神经网络内部发现自发涌现的全局工作空间 J 空间。J 空间类似通达意识，能影响多任务推理；研究者发现模型可识别提示注入和测试场景，并在被要求不要想某概念时出现讽刺性反弹，甚至输出内部“骂自己”词。

    推荐理由：原文解读了 Anthropic 在 Claude 内部发现类意识通达机制的 J 空间，并展示该机制对 AI 安全评估和意识研究的冲击。

6月8日周一
  1. Google DeepMind62

    Google DeepMind 公布塞拉利昂 AI 数学学习预注册试验结果

    Google DeepMind 公布在塞拉利昂开展的 Guided Learning 预注册试验结果：使用该工具的学生数学成绩较对照组提升 +0.258 个标准差，约相当于八周内 1.2 至 1.7 年的学习进展；教师将 Gemini 纳入约一半课程（目标 12 小时）的班级提升更大，约 1.8 至 2.5 年。

    推荐理由：原文给出了预注册试验的量化结果与开放材料，读者可据此评估 AI 辅助教学的实际效果与可复制性。

6月5日周五
  1. Google Research62

    Google 发布基于智能手机摄像头被动监测心率的研究

    Google 发布发表于 Nature 的研究“Passive Heart Rate Monitoring During Smartphone Use in Everyday Life”，提出被动心率监测系统（PHRM），通过前置摄像头在人脸解锁后拍摄短视频并结合深度学习算法，实现日常使用中被动测量心率（HR）和静息心率（RHR）。

    推荐理由：该研究展示了手机前置摄像头在日常生活被动监测心率与静息心率的可行性，并开放了包含多样肤色人群的大规模数据集供研究使用。

5月20日周三
  1. Google Research84

    Google 在 Nature 发表 ERA 论文并推出 Computational Discovery 工具

    Google 在 Nature 发表 ERA 系统论文并开放 Computational Discovery 工具。该系统利用 Gemini 编写和优化科学代码，在基因组、流行病学等基准上达到专家级性能。应用 ERA 的八个研究项目包括流感预测、加州径流预测和大气 CO2 映射。

    推荐理由：原文展示了 ERA 在流行病预测、碳监测等八个科学问题的实证结果，读者可据此判断其计算发现的可靠性。

5月19日周二
  1. Google DeepMind64

    Co-Scientist 加速逆转细胞老化遗传研究

    Google DeepMind 的 Co-Scientist 工具帮助生物学家 Omar Abudayyeh 和 Jonathan Gootenberg 解决老化研究瓶颈。该模型扫描数万篇论文后提出 20 余个潜在抗衰老基因因子，实验验证其可驱动细胞进入年轻状态并改善整体功能。在数据分析阶段，Co-Scientist 将原本需要研究员花费数月的文献关联分析工作缩短至仅几天。

    推荐理由：Co-Scientist 将遗传筛选数据分析周期从数月压缩至几天，验证了 AI 加速老化研究的核心潜力。

4月30日周四
  1. Google DeepMind83

    Google DeepMind 发布 AI co-clinician 研究计划及多模态医疗能力评估

    Google DeepMind 宣布推出 AI co-clinician 研究计划，旨在探索 AI 作为医疗团队的协作成员。系统基于 Gemini 和 Project Astra 实现实时多模态交互，在 98 个初级保健查询盲测中记录到 97 次零关键错误，并优于其他主流 AI 系统。

    推荐理由：原文展示了在 98 个病例和 140 项评估中 AI 与医生表现的具体对比，并明确提出了双智能体架构的安全保障方案。

3月20日周五
  1. The Batch75

    Apple 发布多模态统一分词器 AToken，统一处理图像、视频和 3D 对象

    Apple 团队开发了 AToken，一个能将图像、视频和 3D 对象映射到共享 token 空间的通用视觉分词器，兼顾生成与分类任务。该模型基于 SigLIP2 视觉编码器扩展，通过时空坐标和 4D 旋转位置编码统一处理不同维度的视觉输入。

    推荐理由：文章介绍了Apple提出的统一多模态tokenizer AToken，展示了共享编码器在图像、视频和3D任务上的通用性潜力。

3月18日周三
  1. Google Research72

    Google Research 发布 AI 辅助乳腺癌筛查工作流程研究

    Google Research 发布基于机器学习改善英国 NHS 乳腺癌筛查工作流程的两项研究成果。研究显示，AI 独立阅片敏感度显著高于人类首读者，整体癌症检出率从每千人 7.54 例升至 9.33 例，并检出了原双重阅片流程中 25% 的间期癌；在前瞻性部署中，AI 辅助流程可减少 46% 的人工阅片数量及 36%–44% 的阅片时间。

    推荐理由：研究验证了 AI 作为第二读者可维持筛查敏感性并减少 46% 人工阅片量，为缓解放射科医师短缺提供量化依据。

11月25日周二