⌘ K
… 读取采集状态 同步中...
雷

#推理

今日 6 条
今天10月13日周二
  1. AI HOT72

    Anthropic 强化针对蒸馏攻击的防御,reasoning token 提取量下降 10 到 100 倍

    Anthropic 发布博客,介绍其针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据减少约 90% 到 99%。新方法通过控制推理流向、阻止并修补提取尝试以及让反复尝试变得困难三种方式阻断攻击,其中两阶段分类器误报率低于 0.1%。

    推荐理由:公开了具体防御措施和效果数据,读者可以据此评估反蒸馏技术成本与权衡。

  2. The Decoder52

    Sakana AI 提出 MASS 方法实现模型递归自改进,解题与评估能力提升但难以识别自身盲区

    Sakana AI 和 UC Berkeley 研究者提出多智能体自监督(MASS)方法,让单一语言模型同时承担解题、评估和优化角色,通过递归自改进提升能力。测试显示,经过两轮迭代,模型在多个基准测试中的胜率从 53.9% 提升至 69.9%,但共享盲区可能导致错误被误判为进步并进入下一轮训练。研究基于 Qwen3.6-27B 进行 LoRA 微调,代码已公开。

  3. NVIDIA Generative AI Blog23

    ReplaySSM: 重新思考混合模型的状态存储以实现更快的解码

    针对混合模型解码速度慢的问题,ReplaySSM 提出了一种重新思考状态存储的方法。该方法适用于 NVIDIA Nemotron 3、Qwen3.5至3.8、Kimi-K3 和 GLM-5.3-Flash 等模型,这些模型通过结合 SSM 层(如 Mamba-2)和少量注意力层来加速解码,旨在解决 SSM 层固定大小状态替代随长度增长的关键值缓存所带来的挑战。

10月12日周一
  1. 量子位 QbitAI85

    GPT-6 Astra证明57年「摆圆」难题15至20圆盘情形

    非职业数学家nor利用GPT-6 Astra完成了N≤20圆内圆盘的严格最优性证明。模型通过几何约束缩减排列并用计算机排除剩余可能,将证明范围从N≤14扩展至N=20。nor补充了验证和修复工作,展示了人机协作完成数学难题的新路径。

    推荐理由:还原了GPT-6 Astra证明圆排列最优性的5步方法论及人类辅助环节,展示了AI辅助数学严格证明的工作流。

  2. The Decoder50

    Andrej Karpathy 指出外部世界仅看到 AI 能力的预览

    Andrej Karpathy 认为大众常将大语言模型视为更好的搜索引擎或写作助手,但少数接触前沿内部系统的专业人士已看到 AI 的实际潜力。Karpathy 估计全球约有 5000 人使用内部前沿系统,这些系统能通过数千个 AI 智能体协作完成过去需要顶级专家花费数年的软件工程与数学任务。

  3. Microsoft AI Blog57

    Microsoft 发布 Maia 300 自研芯片

    Microsoft 发布名为 Maia 300 的新一代自研 AI 芯片,强调在服务器和机架层面的全栈 AI 优势。微软多位高管包括 Mustafa Suleyman 和 Rani Borkar 介绍了芯片与前沿模型协同设计及高效推理的系统方法,并说明 Maia 如何支持 Microsoft 365 中的 AI 体验。

  4. AI HOT83

    AlphaProof Nexus 独立解决 9 个未解 Erdős 问题并获同行评审

    Google DeepMind 的 AlphaProof Nexus 独立解决了 353 个开放 Erdős 问题中的 9 个,其中 2 个悬置 56 年,相关成果已提交同行评审。该系统基于 Gemini 3.1 Pro,利用形式化语言 Lean 检查证明错误并指导修订,同时证明了 44 个 OEIS 整数序列猜想。

    推荐理由:原文展示了形式化验证闭环和同行评审细节,读者可据此判断 AI 数学证明的可信度与部署方式。

  5. The Decoder89

    Google DeepMind 的 AlphaProof Nexus 解决数十个开放数学问题并获同行评审

    Google DeepMind 的 AI 系统 AlphaProof Nexus 自主解决了数十个开放数学问题,相关研究已在《科学》杂志发表。该系统基于 Gemini 3.1 Pro,解决了 353 个开放 Erdős 问题中的 9 个,以及 OEIS 数据库中的 44 个猜想。研究通过 Lean 形式化语言验证证明,并经过同行评审,区别于 OpenAI 直接在 GitHub 发布证明的做法。

    推荐理由:该研究通过同行评审验证了 AlphaProof Nexus 解决开放数学问题的实际效果,为 AI 数学能力的学术认可提供了具体参照。

  6. 腾讯研究院31

    人工智能本质上只是一种“次生智能”

    人类智能是创造多模态语言以标注自然的“原生智能”,而生成式人工智能(GenAI)仅是对人类语料进行二次标注的“次生智能”。GenAI基于Transformer架构通过大规模统计分析处理数据,因无法完全表达深层语义关系易产生幻觉。作者认为,智能本质是用神秘性包装的网络安全问题,人类认知始终依赖技术工具辅助,并非仅凭裸脑力量。

  7. 新智元49

    陶哲轩呼吁放缓 AI 发展,25 万数学博士面临转型绝境

    菲尔兹奖得主陶哲轩发出警告,称 AI 发展速度失控且后果未知,必须放缓以应对非线性冲击。在 AI 自动定理证明器(如结合 Lean)与 GPT-5.4 Pro 等工具大幅提升数学证明能力的背景下,25 万数学博士的传统研究模式面临危机。数学界正转向重视“动机阐释”而非单纯证明,通过设立“开放式阐释问题”和改革评价机制,将核心价值重塑为增进人类对知识的理解。

  8. 新智元65

    QIQCBench 虚拟量子实验室实测 17 个顶级 AI Agent:GPT-5.6 与 Claude Opus 断层领先

    由 NUS、NTU 及 GaugeForge 组成的联合团队发布论文,提出虚拟量子实验室 Quantum-Harbor 及包含 49 项任务的评测基准 QIQCBench,并引入“验证自治”评判标准,重点考察 AI Agent 结论是否有实验证据支撑。

    推荐理由:原文给出了验证自治的核心方法和17个Agent在虚拟量子实验室的实测断层,读者可据此判断AI科学自主性的边界。

  9. 量子位80

    华为诺亚实验室Memento 3基于递归自我改进方法以100分RHAE通关ARC-AGI-3全部游戏

    华为诺亚方舟实验室联合UCL等团队发布Memento 3智能体系统,在ARC-AGI-3的25款游戏、183个关卡中以满分100 RHAE成绩全部通关。该系统以Claude Opus 5为底模,通过Code as Model方法生成可执行世界模型和规则手册进行递归自我改进,全程未更新模型权重或微调,总操作次数仅7518次,比人类基准少56%。

    推荐理由:展示了冻结模型权重下,AI通过代码世界模型实现递归自我改进,以更少操作通关复杂游戏的路径。

  10. 量子位56

    新研究提出推理时直接隐状态对齐方法DHSA,256-16384个控制参数达DPO水准

    成都大学等团队提出直接隐状态对齐(DHSA),通过在推理时直接控制隐状态来实现偏好对齐,而非修改基座权重。 其核心是残差竞争图(RCM)用于定位偏好相关组件,结合因果激活状态转移(CAST)仅更新少量控制参数(256至16384个),在GPT-J、Llama-3等模型上达到与DPO相竞争的对齐水平,且支持在prefill阶段单独干预。

  11. 新智元43

    MiTA 提出快权重视角下的注意力五维分类框架,NeurIPS 2026 接收并开源

    北京邮电大学团队提出混合专家注意力模型 MiTA,将其发展为五维分类框架,已在 NeurIPS 2026 接收并开源代码。该模型通过地标查询构造可复用专家,在 LRA 长序列任务上将训练时间从 10.6 小时降至 2.4 小时,平均准确率 58.91%。在 64K 至 1024K 序列长度下,相比完整注意力分别获得 19 倍、56 倍和 159 倍推理加速。

  12. Andrej Karpathy63

    Karpathy 将 LLM 用户分为四层认知漏斗:约 75% 人口无接触,20% 为免费层轻用户,0.2% 专业开发者见证 Agent 处理大型项目,0.00006% 内部团队接触前沿系统。他认为由于强化学习依赖可验证奖励及 B2B 价值导向,LLM 在数学和代码等数字可验证领域能力激增,而在写作等通用领域提升滞后,导致不同群体对 AI 能力的理解出现严重错位。

    引用Andrej Karpathy@karpathy

    Judging by my tl there is a growing gap in understanding of AI capability. The first issue I think is around recency and tier of use. I think a lot of people tried the free tier of ChatGPT somewhere last year and allowed it to inform their views on AI a little too much. This is a group of reactions laughing at various quirks of the models, hallucinations, etc. Yes I also saw the viral videos of OpenAI's Advanced Voice mode fumbling simple queries like "should I drive or walk to the carwash". The thing is that these free and old/deprecated models don't reflect the capability in the latest round of state of the art agentic models of this year, especially OpenAI Codex and Claude Code. But that brings me to the second issue. Even if people paid $200/month to use the state of the art models, a lot of the capabilities are relatively "peaky" in highly technical areas. Typical queries around search, writing, advice, etc. are *not* the domain that has made the most noticeable and dramatic strides in capability. Partly, this is due to the technical details of reinforcement learning and its use of verifiable rewards. But partly, it's also because these use cases are not sufficiently prioritized by the companies in their hillclimbing because they don't lead to as much $$$ value. The goldmines are elsewhere, and the focus comes along. So that brings me to the second group of people, who *both* 1) pay for and use the state of the art frontier agentic models (OpenAI Codex / Claude Code) and 2) do so professionally in technical domains like programming, math and research. This group of people is subject to the highest amount of "AI Psychosis" because the recent improvements in these domains as of this year have been nothing short of staggering. When you hand a computer terminal to one of these models, you can now watch them melt programming problems that you'd normally expect to take days/weeks of work. It's this second group of people that assigns a much greater gravity to the capabilities, their slope, and various cyber-related repercussions. TLDR the people in these two groups are speaking past each other. It really is simultaneously the case that OpenAI's free and I think slightly orphaned (?) "Advanced Voice Mode" will fumble the dumbest questions in your Instagram's reels and *at the same time*, OpenAI's highest-tier and paid Codex model will go off for 1 hour to coherently restructure an entire code base, or find and exploit vulnerabilities in computer systems. This part really works and has made dramatic strides because 2 properties: 1) these domains offer explicit reward functions that are verifiable meaning they are easily amenable to reinforcement learning training (e.g. unit tests passed yes or no, in contrast to writing, which is much harder to explicitly judge), but also 2) they are a lot more valuable in b2b settings, meaning that the biggest fraction of the team is focused on improving them. So here we are.

10月11日周日
  1. 量子位 QbitAI68

    硅谷AI算力争夺战:巨头互求资源,初创公司面临生存两难

    硅谷AI行业陷入算力争夺,算力成为决定模型迭代和人才留存的硬通货。Meta CEO扎克伯格向Anthropic CEO达里奥·阿莫迪寻求算力支持被拒,SpaceX则充当英伟达GPU中间商赚取利润。

    推荐理由:梳理硅谷算力争夺的关键交易和价格变化,为判断中小团队生存空间与供应链格局提供参照。

  2. 量子位 QbitAI89

    OpenAI 发布722篇数学手稿,陶哲轩呼吁抵制

    OpenAI 发布722篇数学手稿,涉及挂谷猜想等高难度数学问题,引发学界争议。陶哲轩牵头成立人类数学协会,发表声明全面抵制 OpenAI,呼吁数学家停止合作。

    推荐理由:OpenAI释放722篇手稿引发学界对AI批量攻克难题的警惕,陶哲轩呼吁抵制其研究范式。

  3. 机器之心60

    OpenAI前副总裁Liam Fedus:为什么AI要进入实体实验室?

    OpenAI前副总裁Liam Fedus在播客中指出,AI攻克数学得益于Lean等工具提供形式化验证,但进入材料、化学等实体科学领域缺乏这样的“裁判”,必须通过真实实验验证假设。他创立的Periodic Labs致力于结合语言模型推理、计算模拟与高通量实验,在门洛帕克搭建实体实验室,旨在解决科学数据缺乏和偏置问题。Fedus认为,AI系统只有将思考转化为实践,才能推动诸如超导体等关键材料的发现。

  4. 机器之心65

    OpenRSI Index 发布:面向递归自我改进的大规模科研基准

    OpenRSI Index 发布,旨在评估 AI 智能体改进人类模型训练方案的能力。其任务覆盖预训练、后训练与视觉生成,单次运行规模达数千至上万 H100·小时。该基准通过隔离工作区与独立验收环境应对数据污染与不可复现问题,并提供 RSI-Anything 工具让研究者在约一小时内将课题转化为可运行的 RSI 任务环境。

    推荐理由:该基准通过隔离实验环境回应科研中的复现难题,展示了 AI 改进人类训练方案的具体路径。

  5. 极市平台75

    何恺明团队发布视觉原生Harness框架VISTA,实现多模态模型按需回看视觉记忆

    何恺明团队在最新论文中提出视觉原生Harness框架VISTA。该框架通过构建无损视觉记忆与主动检查机制,使多模态模型无需重新训练即可随时回看、放大和对比历史画面。搭配VISTA,Claude Opus 5.0在ARC-AGI-3基准上达到满分,游戏动作数比人类基线少57.4%;GPT-5.6 Sol同样全通关。