标签

#并行

4 篇

2026.09.05数据并行与 ZeRO：三级分片各省多少学习 · 3 min
2026.09.05流水线并行：1F1B、虚拟段与气泡学习 · 4 min
2026.09.05并行策略总览：六个维度各切什么、怎么通信学习 · 21 min
2026.09.05Kimi K3 模型结构（8）：训练并行，一步训练里谁在等谁学习 · 10 min