分离式架构

本文深入探讨了大模型推理中预填充（Prefill）与解码（Decode）阶段的本质区别，解释了为什么将两者在同一 GPU 上运行会导致效率低下，并介绍了分离式推理架构如何实现 2-4 倍的成本降低。