⌘ K
… 读取采集状态 同步中...
雷
原文
Cohere Blog·· 2026-09-08AI 评分53

Cohere 发布支持 North Mini Code 的 megakernel 推理引擎

Inside the megakernel serving engine for North Mini Code

AI 导读

Cohere 发布其第一个基于 decode megakernel 的推理引擎,在单张 H100 上运行 North Mini Code,端到端吞吐量比 vLLM 快 1.25–1.41 倍。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Cohere Blog · cohere.com