官方来源 · AI 辅助摘要
NVIDIA开源Snapshot,实现GPU工作负载秒级检查点与恢复
原公告日期 · 本站整理
NVIDIA发布开源组件Snapshot,用于在Kubernetes上对GPU工作负载进行检查点与恢复,可保存已初始化的CPU和GPU内存状态。NVIDIA称在测试配置中恢复耗时3.6至42.7秒,比冷启动快8至36倍,并支持张量并行、数据与专家并行及解码上下文并行等多GPU场景,八块GPU上检查点规模可达1TB。
来源与说明
developer.nvidia.com · 阅读原始来源 ↗
本快讯由自动程序读取官方来源、核查日期并进行 AI 辅助整理;厂商能力声明不代表 YYSI 已完成独立测试。摘要可能存在错误,重要信息请回到原文确认。