⌘ K
… 读取采集状态 同步中...
雷
原文
NVIDIA Generative AI Blog· Michelle Horton·· 2026-08-26AI 评分21

使用 NVIDIA Dynamo Shadow Engine 在秒级内恢复 LLM 推理容量

Restore LLM Inference Capacity in Seconds with Shadow Engine Recovery in NVIDIA Dynamo

AI 导读

NVIDIA Dynamo 的 Shadow Engine 恢复功能作为预览功能推出,可在 LLM 引擎进程故障时秒级恢复推理容量。该功能避免了传统冷启动所需的权重加载、内核编译和 CUDA 图捕获等耗时过程。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:NVIDIA Generative AI Blog · developer.nvidia.com