⌘ K
… 读取采集状态 同步中...
雷

端侧 AI

跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。

53条精选相关主题部署工程开源生态模型发布

最新精选

第 41–53 条 · 共 53 条
8月26日周三
  1. 硅星GenAI86

    SemiAnalysis 深度解析 OpenAI Jalapeño 芯片：架构、软件栈及性能表现超越 Blackwell

    SemiAnalysis 发布深度报告，拆解 OpenAI 自研推理芯片 Jalapeño 的架构、软件栈及部署细节。Jalapeño 基于 HBM4 和博通工艺打造，实测每兆瓦吞吐量击败英伟达 Blackwell，在部分指标上领先 Vera Rubin。

    推荐理由：SemiAnalysis 提供的实测数据表明，Jalapeño 在无推测解码的情况下，每兆瓦吞吐量已超过 Blackwell，并展示了 Codex 驱动的内核生成路径。

8月25日周二
  1. APPSO65

    苹果发布新款 Mac mini 与 Mac Studio，主打本地 AI 计算性能与多机集群扩展

    苹果正式推出搭载 M6、M5 Pro、M5 Max 及 M5 Ultra 芯片的新一代 Mac mini 和 Mac Studio。新品重点强化本地 AI 运行能力，支持通过 Thunderbolt 5 组建多机集群进行分布式推理。Mac mini 起售价 6999 元，Mac Studio 起售价 19999 元，8 月 25 日开启预购，9 月 22 日起发售。

    推荐理由：Mac 产品线依据 AI 负载重新分层，展示了统一内存架构在本地 Agent 常驻运行场景中的具体扩展路径。

8月24日周一
  2. 极客公园74

    硅谷八位 CEO 押注 Omarchy，把整个桌面操作系统做成 AI 可读的 Harness

    DHH 于 8 月 21 日宣布成立 Omacom 基金会，首期 800 万美元来自 Michael Dell、Jack Dorsey 等八位创始赞助人，每人 100 万美元，用于持有商标、养基础设施、做资助开源项目。

    推荐理由：原文把 Omarchy 的走红放回 Linux 桌面二十年预言的脉络里，解释了这次押注的逻辑与脆弱点。

8月20日周四
  1. 智东西87

    阿里发布 Qwen-UI-Agent：基于 100+ 真机训练的 GUI 智能体模型，5/6 基准测试登顶

    阿里巴巴推出面向数字设备执行的 GUI 智能体基座模型 Qwen-UI-Agent，主力版本参数量 27B，基于 Qwen 3.5 系列构建。该模型在 6 个核心 GUI 基准测试中拿下 5 项第一，在 MobileWorld-Real 真实设备评测中以 92.2% 成功率领先 GPT-5.6 Sol 等模型。

    推荐理由：基于百台真机构建的训练环境，使模型在移动端真实场景基准测试中取得领先，揭示了GUI智能体落地真实世界的关键路径。

8月11日周二
  1. 极客公园70

    AI 入口开始收费：豆包收 12% 佣金、千问开放平台的两条路径

    豆包对通过 AI 对话推荐跳转抖音来客成交的酒店订单执行 12% 佣金费率（11.4% 软件服务费加 0.6% 支付手续费），同日千问开放平台上线，顺丰、自如、盈米基金等十多个领域的服务商以 AI 智能体形态接入。

    推荐理由：通过对比豆包、千问、OpenAI 三条路径，帮助读者理解 AI 入口变现的关键变量是交易闭环。

8月10日周一
  1. AGI Hunt92

    Meta 开源 30B 智能体模型 Muse Glimmer

    Meta 开源了支持单张 24GB 显卡部署的 30B 智能体模型 Muse Glimmer，并提供 Apache 2.0 协议权重。该模型通过 4-bit 量化和 DFlash 投机解码实现端侧高效推理，具备自主故障诊断与修复能力，并即将支持 Ollama 和 vLLM 等本地部署工具。

    推荐理由：通过 4-bit 量化与投机解码技术，模型支持单卡端侧部署并具备故障自愈能力。

8月8日周六
8月4日周二
7月28日周二
  1. 特工宇宙84

    OPPO 小布 Next 端侧 Multi-Agent 系统首发实测

    OPPO 启动小布 Next 计划，开放行业首个端侧 Multi-Agent 协同系统内测，通过 A2A 交互模式实现隐私保护与全域记忆调度。作者实测显示其 Multi-Agent 架构在执行复杂任务时优于单 Agent 方案，例如在活动策划中多 Agent 协作可节省预算并补充风险预案，且系统具备基于用户行为主动输出精简行动清单的能力，适用于 Find X8、X9 等机型用户共创。

    推荐理由：实测展示了端侧Multi-Agent系统在信息整合与任务规划上对传统单Agent路线的效率提升。

6月9日周二
  1. Google DeepMind76

    Google DeepMind 发布 Gemma 4 12B：无编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B，定位为可在笔记本本地运行的多模态模型，介于 E4B 与 26B MoE 之间，是首个支持原生音频输入的中等规模模型，Gemma 4 系列下载量已超 150 million。

    推荐理由：原文说明了无编码器统一架构的具体做法与本地运行门槛，便于评估其对端侧工作流的适配性。

3月17日周一
  1. Mistral News82

    Mistral 发布开源模型 Mistral Small 3.1，扩展 128k 上下文并支持多模态理解

    Mistral 宣布发布 Mistral Small 3.1，这是基于 Mistral Small 3 构建的新一代模型。该模型采用 Apache 2.0 许可证，上下文窗口扩展至 128k tokens，推理速度达 150 tokens/s。

    推荐理由：Mistral 发布开源的 Mistral Small 3.1，该模型扩展了 128k 上下文，支持多模态理解，且能在单张 RTX 4090 上运行。

10月16日周三
  1. Mistral News77

    Mistral 发布 Ministral 3B 和 8B 端侧模型

    Mistral 正式发布两款针对端侧和边缘用例的新模型 Ministral 3B 和 8B。这些模型在知识、常识、推理、函数调用和效率方面为 10B 参数以下类别树立了新的标杆。

    推荐理由：Mistral 在 Mistral 7B 发布一周年之际推出两款面向端侧和边缘计算的新模型，展示了小参数量模型在本地部署场景下的能力变化。