模型评测2026年11月13日在 AWS Trainium 上使用 SGLang-Neuron 部署前沿 AI 模型本文是一份关于在 AWS Trainium 上利用 SGLang-Neuron 部署前沿大语言模型的深度开发指南,包含代码示例、性能优化技巧以及通过 n1n.ai 进行多模型智能路由的实践方案。阅读全文 →
模型评测2026年11月12日使用 PyTorch 和 TorchTitan 在欧洲公共基础设施上训练万亿参数 MoE 模型深入探讨研究人员如何利用全新的 TorchTitan 库和 PyTorch 原生 4D 并行技术,在共享的欧洲公共超级计算机上成功扩展 1.1 万亿参数的混合专家 (MoE) 模型。阅读全文 →
模型评测2026年11月11日ExecuTorch WebGPU: 在浏览器中使用GPU运行PyTorch模型深入探讨ExecuTorch如何通过WebGPU将原生PyTorch模型直接带入网页浏览器,无需繁琐的框架转换,并了解如何结合n1n.ai等高性能LLM API构建现代混合式AI应用。阅读全文 →
模型评测2026年11月4日Ray 加速器特别兴趣小组成立:扩展分布式AI基础设施深度解析最新成立的Ray加速器特别兴趣小组(SIG),探讨其对分布式AI工作负载、多节点GPU编排以及与现代LLM API集成的重要影响。阅读全文 →
模型评测2026年10月26日使用 ExecuTorch 在 Arm 边缘设备上优化流式语音识别一份详尽的技术指南,介绍如何使用 PyTorch ExecuTorch 在 Arm 边缘设备上部署高性能流式 ASR 模型,并结合实际架构见解与 API 集成策略。阅读全文 →
模型评测2026年10月26日使用FlyDSL在AMD GPU上加速PyTorch运行本文深度解析了FlyDSL在AMD MI350系列GPU上集成PyTorch的技术细节,全面探讨了稠密及分组GEMM、融合多头注意力机制以及MXFP8缩放矩阵乘法等企业级大模型加速方案。阅读全文 →
模型评测2026年10月24日2026年北美PyTorch会议:共同加速开放智能深入评测2026年北美PyTorch会议,探讨开源人工智能的突破、PyTorch 3.0更新、分布式训练,以及如何通过n1n.ai实现无缝的LLM API集成。阅读全文 →
模型评测2026年10月22日在AWS Trainium上使用torchtitan训练Qwen3本文是一份详尽的技术指南,介绍如何在单台trn2.48xlarge实例上通过三种不同路径(Hugging Face Transformers v5、torchtitan原生实现以及NKI混合专家内核)在AWS Trainium上训练Qwen3模型。阅读全文 →
模型评测2026年10月22日TorchTitan 更新:全新 SOTA 模型、大规模性能与 TitanRL 解析深入评测 TorchTitan 的最新更新,涵盖最先进模型支持、分布式扩展基准测试以及用于强化学习的 TitanRL 框架。阅读全文 →
模型评测2026年10月21日PyTorch基金会迎来九家新成员助力开源人工智能生态持续发展PyTorch基金会迎来Nebius、Nscale和Shopify等九家新成员,进一步巩固了其作为企业级大语言模型部署、微调及可扩展人工智能工作流核心基础设施层的地位。阅读全文 →
行业资讯2026年10月21日谷歌与亚马逊联合打破英伟达在人工智能开发领域的统治地位谷歌跟随亚马逊的步伐推出开发者工具,帮助PyTorch用户轻松将应用迁移出英伟达GPU,此举正在重塑大语言模型与人工智能基础设施格局。阅读全文 →