⌘ K
… 读取采集状态 同步中...
雷
原文
NVIDIA Generative AI Blog· Elizabeth Goodman·· 26 天前AI 评分38

TensorRT Edge-LLM 在 Jetson AGX Thor 上将 MLPerf Edge Agentic Benchmark 完成速度提升 6.4 倍

TensorRT Edge-LLM Completes the MLPerf Edge Agentic Benchmark 6.4x Faster on Jetson AGX Thor

AI 导读

NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 平台上完成 MLPerf Edge Agentic Benchmark 的速度比基线快 6.4 倍。此结果展示了该工具链在边缘设备运行 AI 智能体(Agent)任务时的性能优化,满足快速生成 token 的需求。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:NVIDIA Generative AI Blog · developer.nvidia.com