Java不加糖#训练系统
9 篇
- 显存账本：每张卡上存了什么，各项怎么省学习 · 4 min
- 数据并行与 ZeRO：三级分片各省多少学习 · 3 min
- 流水线并行：1F1B、虚拟段与气泡学习 · 4 min
- 并行策略总览：六个维度各切什么、怎么通信学习 · 22 min
- Kimi K3 模型结构（10）：RL 与服务中的状态管理学习 · 9 min
- Kimi K3 模型结构（9）：显存，把 2.8T 塞进 GPU学习 · 9 min
- DeepSeek-V4 模型结构（7）：混合注意力与 mHC 带来的系统改动学习 · 7 min
- Kimi K3 模型结构（8）：训练并行，MoonEP 与四类等待学习 · 11 min
- Kimi K3 模型结构（7）：三个新模块带来的系统改动学习 · 17 min