⌘ K
… 读取采集状态 同步中...
雷
原文
InfoQ CN·· 3 天前AI 评分48

GKE Pod 快照可缩短模型加载时间

AI 导读

谷歌发布 GKE Pod 快照基准测试,启动延迟最高降低 89%,700 亿参数模型加载仅需 37 秒。该功能基于 gVisor 保存运行状态并按需恢复,要求节点启用 gVisor,数据存储在 Cloud Storage 中,已支持 Autopilot 集群及特定版本标准集群。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:InfoQ CN · infoq.cn