⌘ K
… 读取采集状态 同步中...
雷

#端侧

今日 0 条
10月8日周四
  1. NVIDIA Blog81

    NVIDIA 与 Microsoft 发布 RTX Spark 与 DGX Station for Windows

    在 Microsoft 于旧金山举办的 Windows AI and Surface 活动上,NVIDIA 和 Microsoft 宣布共工程化 Windows PC 上的智能体运行平台,包括新硬件 RTX Spark、操作系统级安全执行容器 MXC,以及针对企业桌面推出的 DGX Station for Windows。

    推荐理由:原文展示了Windows本地运行智能体的硬件与系统基建组合,读者可判断Windows端侧AI能力的完整落地方案。

10月7日周三
  1. Google DeepMind78

    Google DeepMind 发布轻量级多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布 EmbeddingGemma 2,这是一个专为端侧推理优化的轻量级多模态嵌入模型。该模型拥有 7.4 亿参数,基于 Gemma 4 架构构建,采用 Apache 2.0 开源协议,支持原生映射文本、代码、图像、视频和音频到统一嵌入空间。

    推荐理由:EmbeddingGemma 2 将代码、图像、视频和音频统一进单一嵌入空间,并提供 740M 参数端侧推理方案,开发者可据此直接构建离线多模态 RAG 管线。

10月2日周五
  1. NVIDIA Blog74

    NVIDIA DGX Spark 64GB 本地 AI 平台发布,双机集群可扩展至 128GB

    NVIDIA DGX Spark 新增 64GB 统一内存配置,本月由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 提供,支持在本地私有运行最高 1000 亿参数模型和智能体应用。

    推荐理由:64GB 配置以更低门槛跑 100B 参数本地模型,双机互联可扩展到 128GB 内存,适合独立开发者在本地部署和扩展智能体工作流。

9月24日周四
9月22日周二
8月21日周五
6月27日周六
  1. Google Research50

    Google 在 Pixel 设备上为 Gemini Nano v3 部署冻结式 Multi-Token Prediction 加速推理

    Google 宣布将冻结式 Multi-Token Prediction (MTP) 架构应用于 Gemini Nano v3,在 Pixel 9 和 10 系列设备上实现免微调推理加速。该零拷贝架构直接复用主模型 KV cache,减少 130MB 运行时内存占用,并消除独立草稿模型的竞争。实验显示,相比同等参数规模的独立草稿模型,MTP 在 Pixel 9 上的生成速度提升超过 50%。

6月9日周二
  1. Google DeepMind76

    Google DeepMind 发布 Gemma 4 12B:无编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B,定位为可在笔记本本地运行的多模态模型,介于 E4B 与 26B MoE 之间,是首个支持原生音频输入的中等规模模型,Gemma 4 系列下载量已超 150 million。

    推荐理由:原文说明了无编码器统一架构的具体做法与本地运行门槛,便于评估其对端侧工作流的适配性。

5月28日周四
  1. Google Research31

    Google Research 提出零信任聚合方案,利用单次消息加密协议与 TEE 提升设备端 AI 隐私分析效率

    Google 部署新隐私分析方案,结合单次消息加密协议与可信执行环境(TEE)构建零信任架构。该设计确保证据仅能获取匿名化的群体聚合洞察,杜绝个人数据在服务器内存中明文暴露,解决了传统多轮交互协议中设备需长期在线的效率瓶颈。