GPU 调度

AI 推理基础设施初创公司 Baseten 据传正完成一笔 15 亿美元的巨额融资，估值飙升至 130 亿美元，标志着 AI 行业重心从模型训练转向大规模推理应用。

深入探讨 Kubernetes GPU 时间分片的底层架构成本，以及如何高效地在容器集群中协同调度多个 AI Agent 工作负载以实现吞吐量最大化。