AWS 发布 Ray Train DLC 在 EKS 上分布式训练教程

AWS 发布 Ray Train DLC 镜像（train-ml-cuda-v1.1），预集成 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 与 AWS OFI NCCL 插件，用户无需自行构建镜像。配套教程演示用该镜像在 EKS 上以 PyTorch FSDP 微调 Qwen2.5-1.5B，跨两台 g6.12xlarge 的 8 块 NVIDIA L4 GPU 运行。 按教程操作需准备 96 个 G 系列按需 vCPU 配额，且所在区域至少有一个可用区提供该实例；若已持有按需容量预留，则改为设置 CAPACITY_RESERVATION_ID。GPU 实例运行期间，两台实例、EKS 控制平面和 NAT 网关合计约每小时 9.50 美元。 教程默认的 deploy_all.sh 不会启动训练任务，需另行触发。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。