Nemotron 3.5 Super VL 在 AWS 上的部署方法

AWS 发布教程，介绍如何在 Amazon EKS、Amazon EKS Auto Mode 和 Amazon SageMaker HyperPod EKS 上部署并评估 NVIDIA Nemotron 3.5 Super VL。该模型为 120B 参数 MoE 多模态模型，每 token 激活 12B 参数，支持文本、图像、文档和视频输入，上下文长度达 1M tokens。 部署步骤收录在 aws-do-eks 项目中，涵盖前置条件、集群创建、模型权重下载、部署、测试、基准测试和清理，同时覆盖 Nemotron 3.5 Super VL 与 Nemotron 3 Ultra。教程称，NVIDIA 公开了模型权重、训练数据集和后训练配方，用户可在自有账户和自控基础设施上按参考实现定制并运行该模型。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。