⌘ K
… 读取采集状态 同步中...
雷

#端侧

今日 9 条
6月27日周六
  1. Google Research50

    Google 在 Pixel 设备上为 Gemini Nano v3 部署冻结式 Multi-Token Prediction 加速推理

    Google 宣布将冻结式 Multi-Token Prediction (MTP) 架构应用于 Gemini Nano v3，在 Pixel 9 和 10 系列设备上实现免微调推理加速。该零拷贝架构直接复用主模型 KV cache，减少 130MB 运行时内存占用，并消除独立草稿模型的竞争。实验显示，相比同等参数规模的独立草稿模型，MTP 在 Pixel 9 上的生成速度提升超过 50%。

6月9日周二
  1. Google DeepMind76

    Google DeepMind 发布 Gemma 4 12B：无编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B，定位为可在笔记本本地运行的多模态模型，介于 E4B 与 26B MoE 之间，是首个支持原生音频输入的中等规模模型，Gemma 4 系列下载量已超 150 million。

    推荐理由：原文说明了无编码器统一架构的具体做法与本地运行门槛，便于评估其对端侧工作流的适配性。

5月28日周四
  1. Google Research31

    Google Research 提出零信任聚合方案，利用单次消息加密协议与 TEE 提升设备端 AI 隐私分析效率

    Google 部署新隐私分析方案，结合单次消息加密协议与可信执行环境（TEE）构建零信任架构。该设计确保证据仅能获取匿名化的群体聚合洞察，杜绝个人数据在服务器内存中明文暴露，解决了传统多轮交互协议中设备需长期在线的效率瓶颈。

3月17日周一
  1. Mistral News82

    Mistral 发布开源模型 Mistral Small 3.1，扩展 128k 上下文并支持多模态理解

    Mistral 宣布发布 Mistral Small 3.1，这是基于 Mistral Small 3 构建的新一代模型。该模型采用 Apache 2.0 许可证，上下文窗口扩展至 128k tokens，推理速度达 150 tokens/s。

    推荐理由：Mistral 发布开源的 Mistral Small 3.1，该模型扩展了 128k 上下文，支持多模态理解，且能在单张 RTX 4090 上运行。

10月16日周三
  1. Mistral News77

    Mistral 发布 Ministral 3B 和 8B 端侧模型

    Mistral 正式发布两款针对端侧和边缘用例的新模型 Ministral 3B 和 8B。这些模型在知识、常识、推理、函数调用和效率方面为 10B 参数以下类别树立了新的标杆。

    推荐理由：Mistral 在 Mistral 7B 发布一周年之际推出两款面向端侧和边缘计算的新模型，展示了小参数量模型在本地部署场景下的能力变化。