⌘ K
… 读取采集状态 同步中...
雷
原文
X：Greg Brockman (@gdb)·· 20 天前AI 评分1

vLLM 维护者实测 TPUv7 经 megakernel 优化后 Kimi K3 单用户达 700 tok/s，高出 GB200 NVL72 56%

AI 导读

vLLM 维护者展示 TPUv7 经 megakernel 优化后在 Kimi K3 上达到 700 tok/s/user，比 NVIDIA GB200 NVL72 高 56%。图表显示 16× TPU v7 为 709 tokens/s，16× GB200 vLLM baseline 为 452 tokens/s。SemiAnalysis 称 TPU 软件外部化进展值得持续关注。

本文当前提供导读和图片预览，完整图文请查看原文。

来源：X：Greg Brockman (@gdb) · x.com