在 EKS 上用 Ray Train DLC 和 EFA 做分布式训练
AWS 发布 Ray Train DLC 镜像(train-ml-cuda-v1.1),预集成 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 与 EFA 及 AWS OFI NCCL 插件,无需自行构建镜像。
AWS 发布 Ray Train DLC 镜像(train-ml-cuda-v1.1),预集成 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 与 EFA 及 AWS OFI NCCL 插件,无需自行构建镜像。
NVIDIA 公布 RTX Spark Windows 笔记本的多项更新,包括开放权重语音模型 Nemotron 3.5 Transcribe、NVIDIA App 中在前后台应用与后台智能体之间分配 GPU 资源的控制项,以及 LFM3 系列模型的 day-zero 支持。
推荐理由:原文列出 RTX Spark 笔记本在语音模型、GPU 资源分配和游戏支持上的具体变化,可据此判断本地智能体工作流的资源取舍。
C-BRAIN 联合 NVIDIA 用 AI 加速阿尔茨海默病研究,其开源工具 OpenScientist 可在数分钟内完成原本需数周至数月的分析,单次运行成本低于 10 美元。该联盟由 18 家机构组成,采用集中与联邦混合架构调用机构内“暗数据”,目前运行 64 块 NVIDIA 数据中心 GPU,并计划引入 Blackwell 系统与 BioNeMo、MONAI。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。
推荐理由:微软开源 3500 行代码的 Agent RL 框架,用真实 harness 训练,并给出 6000 样本提升 14.6 个点的完整流程。
Berkeley Sky Lab 与 IBM Research 的研究者把 K-Search 内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库被改写为 Apple Silicon 内核。
推荐理由:作者展示了把 CUDA 优化经验迁移到 MLX 的具体做法,并给出注意力与 Mamba 两个内核的实测对比。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在特征归因、数据归因和机制可解释性中大规模识别关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融达到 SPEX 的性能。
伯克利AI Research提出一种直接以互信息评估和优化成像系统的框架,仅用带噪测量和噪声模型即可量化测量对物体的区分能力。该指标在彩色摄影、射电天文、无透镜成像和显微成像四个领域预测了解码器性能,优化后的设计达到SOTA端到端方法水平,且内存和算力需求更低、无需任务专用解码器设计。