官方来源 · AI 辅助摘要

NVIDIA开源Snapshot,实现GPU工作负载秒级检查点与恢复

原公告日期 · 本站整理

NVIDIA发布开源组件Snapshot,用于在Kubernetes上对GPU工作负载进行检查点与恢复,可保存已初始化的CPU和GPU内存状态。NVIDIA称在测试配置中恢复耗时3.6至42.7秒,比冷启动快8至36倍,并支持张量并行、数据与专家并行及解码上下文并行等多GPU场景,八块GPU上检查点规模可达1TB。

来源与说明

developer.nvidia.com · 阅读原始来源 ↗

本快讯由自动程序读取官方来源、核查日期并进行 AI 辅助整理;厂商能力声明不代表 YYSI 已完成独立测试。摘要可能存在错误,重要信息请回到原文确认。

反馈错误 · 编辑标准(EN)