GPU 集群

埃隆·马斯克的 SpaceX 正式收购了 xAI，旨在将航天巨头与 AI 初创公司合并，利用 Starlink 和 Starship 打造由太阳能驱动的轨道数据中心。

马克 · 扎克伯格宣布 Meta 将进行数个十亿美元级别的战略转型，重点建设专用 AI 基础设施，通过大幅扩展能源版图和超大规模 GPU 集群，为下一代 Llama 模型提供动力。

深入探讨 Mosaic 库如何通过分布式注意力分片（Sharding Attention）技术，解决 15 万超长序列在 Transformer 模型中的显存瓶颈问题。