NVIDIA Nemotron 3.5 Super VL 现已登陆 Amazon SageMaker JumpStart

随着 NVIDIA Nemotron 3.5 Super VL 正式登陆 Amazon SageMaker JumpStart，企业级人工智能领域再次迎来重大技术突破。作为一款拥有 1200 亿参数的重量级多模态视觉语言模型，Nemotron 3.5 Super VL 将高级文档智能、计算机操作代理（Computer-Use Agents）以及复杂的多模态推理能力直接带入了 AWS 企业环境中。对于致力于构建下一代 AI 工作流的开发人员和系统架构师而言，这一发布为在生产环境中部署大型模型提供了一个极佳的蓝图。然而，通过专用云实例管理 120B 模型的底层基础设施往往会带来沉重的财务开销和运维复杂度。正因如此，像 n1n.ai 这样的一站式 API 聚合平台能够完美弥合这一差距，让开发者无需进行集群编排即可直接访问前沿大模型。

深入解析 NVIDIA Nemotron 3.5 Super VL

NVIDIA 将 Nemotron 3.5 Super VL 定位在开源权重视觉语言模型的前沿阵地。凭借 1200 亿参数的强大体量，该模型专门用于处理文本、高分辨率图像以及视频序列的复杂交织流。与在细粒度空间定位或稠密文档解析方面表现吃力的较小模型不同，Nemotron 3.5 Super VL 在需要结构化布局分析、图表理解以及用于自动化工作流的交互式图形界面导航的场景中表现极其优异。

本次发布解锁的核心能力包括：

• 高级文档智能：以高保真度解析复杂的多栏 PDF、财务资产负债表以及手写批注。
• 计算机操作代理负载：将视觉桌面元素实时转化为自动化工作流中的可执行 API 调用或 UI 点击坐标。
• 多模态智能体推理：将视频时间轴与语音提示相结合，以执行长周期的企业级任务。

在 Amazon SageMaker JumpStart 中进行部署时，工程师可以根据吞吐量和延迟预算，在两种主要的精度格式之间进行选择：内存友好的 NVFP4 变体或全精度的 BF16 变体。

在 Amazon SageMaker JumpStart 中的部署实战

通过 SageMaker JumpStart 部署 Nemotron 3.5 Super VL 需要充足的 GPU 资源配置。鉴于该模型的庞大体量，通常需要使用配备 NVIDIA H100 GPU 的 ml.p5.48xlarge 等多 GPU 实例节点，以实现可接受的推理延迟。

第一步：访问 JumpStart 控制台

在您首选的 AWS 区域导航至 Amazon SageMaker 控制台，从左侧导航窗格中选择 JumpStart，然后搜索 Nemotron-3.5-Super-VL。

第二步：选择量化变体

系统将展示用于部署的配置选项。您可以选择追求无损精度的 BF16，或者选择优化内存占用的 NVFP4。

import sagemaker
from sagemaker.jumpstart.model import JumpStartModel

role = sagemaker.get_execution_role()
model_id = "nvidia-nemotron-3-5-super-vl-nvfp4"

# 初始化 JumpStart 模型实例
model = JumpStartModel(model_id=model_id, role=role)

# 部署到搭载 H100 硬件的专用端点
predictor = model.deploy(
    initial_instance_count=1,
    instance_type="ml.p5.48xlarge