BriefGPT.xyz
大模型
Ask
alpha
关键词
pipeline templates
搜索结果 - 1
弹性分布式训练大型模型的管道模板
Oobleck 采用规划执行的共同设计方法,通过生成一组异构的流水线模板,并实例化至少 f+1 个逻辑上等效的流水线副本以容忍 f 个同时故障,依赖于副本之间已复制的模型状态快速恢复,并保证在 f 个或更少的同时故障后,初始创建的流水线模板
→
PDF
10 months ago
Prev
Next