AI教程
面向智能体 RAG 的 GPU 常驻 Top-K：利用 CUDA 内核优化检索延迟
深入探讨如何构建自定义 GPU 常驻 Top-K CUDA 内核，消除智能体 RAG 管道中的 PCIe 传输瓶颈，为高性能 LLM 应用提供微秒级检索性能。
阅读全文 →
CUDA 内核
浏览我们所有的行业资讯、模型评测与 AI 教程。
- 模型评测
PyTorch 性能分析深入探讨：从 nn.Linear 到融合 MLP 层的优化策略
本文深入探讨了 PyTorch 的性能分析技术，涵盖了从基础的 nn.Linear 层到高性能融合 MLP（多层感知机）内核的优化路径，旨在提升大语言模型的推理效率。阅读全文 →