LLM 扩展

深入探讨如何在 PyTorch 中通过梯度累积 (Gradient Accumulation) 和分布式数据并行 (DDP) 优化显存使用并扩展 LLM 训练规模。