模型评测2026年9月11日在 Amazon SageMaker 上利用前缀感知路由降低 LLM 延迟深入解析 Amazon SageMaker 的前缀感知路由技术,通过 KV 缓存复用显著缩短首字延迟 (TTFT),提升大模型推理性能。阅读全文 →
模型评测2026年9月11日优化 Amazon SageMaker HyperPod 推理冷启动本指南详细介绍了如何利用 Amazon SageMaker HyperPod 的模型缓存功能,通过将模型权重预加载到本地 NVMe 存储,将推理冷启动时间从数十分钟缩短至秒级。阅读全文 →
模型评测2026年9月11日通过 Amazon Bedrock 与 Marengo 3.0 实现多模态搜索深入探讨如何将 TwelveLabs Marengo 3.0 集成到 Amazon Bedrock 知识库中,实现跨视频、图像和音频内容的语义搜索。阅读全文 →
模型评测2026年9月11日PyTorch 2026 中国大会:推进开源 AI 技术栈深入探讨 PyTorch Conference China 2026 上海大会的核心技术,涵盖 PyTorch 2.x 编译器架构演进、云原生分布式训练、多硬件异构优化以及企业级大模型推理部署架构。阅读全文 →
模型评测2026年9月11日具身智能驶入现实:全球 Robotaxi 巨头如何基于 NVIDIA 技术打造物理 AI 系统深入探讨全球自动驾驶与 Robotaxi 领军企业如何利用 NVIDIA DRIVE、Omniverse 以及云端多模态大模型(VLM)构建安全、高扩容性的物理 AI(Physical AI)系统架构。阅读全文 →
模型评测2026年9月10日d-Matrix 采用 NVIDIA NVLink Fusion 推进机架级 XPU 部署AI 推理芯片创新者 d-Matrix 宣布集成 NVIDIA NVLink Fusion 架构,将其下一代 Raptor XPU 与 NVIDIA MGX 机架系统及 Spectrum-X 网络无缝结合,为企业级 LLM 提供超低延迟推理支持。阅读全文 →
模型评测2026年9月10日Skild AI 借助 NVIDIA 物理 AI 实现通过单条视频教授机器人新任务Skild AI 发布 S1 机器人基座模型,结合 NVIDIA Physical AI 技术栈,实现了从单条视频演示中零样本学习复杂机器人任务。本文深度解析其 VLA 架构、仿真训练机制与代码实现。阅读全文 →
模型评测2026年9月10日使用 Amazon Textract 为复杂文档自定义 Amazon Bedrock 知识库深入探讨如何将 Amazon Textract 结合至 Amazon Bedrock Knowledge Bases 自定义解析流程中,解决复杂表格、多列排版及扫描版账单的高精度 RAG 构建方案。阅读全文 →
模型评测2026年9月10日在 Amazon SageMaker HyperPod 上使用 vLLM 部署 Qwen3.8-2.4T-A95B详细了解如何在 Amazon SageMaker HyperPod 上使用 vLLM、NVFP4 量化和 MTP 投机解码,部署并优化拥有 2.4 万亿参数的 Qwen3.8-2.4T-A95B 模型。阅读全文 →
模型评测2026年9月9日利用 Amazon Bedrock 与 GitHub Actions 实现 AI 智能体自动化评估深入探讨如何将 Amazon Bedrock AgentCore 评估流程集成到 CI/CD 流水线中,有效防止 AI 智能体性能回归。阅读全文 →
模型评测2026年9月9日HPE Zerto 如何基于 Amazon Bedrock 构建 Agentic 故障排除系统深入探讨 HPE Zerto 如何结合 Amazon Bedrock 与 Strands Agents 框架构建智能代理故障排除系统。剖析多 Agent 架构、本地化部署模型以及实时灾备数据对齐的技术细节。阅读全文 →