跳到正文
热点事件持续更新

NVIDIA 以全栈协同设计缓解 AI 内存压力

1 篇报道1 个报道来源55 分钟前更新

先了解这件事

AI 综述

NVIDIA 发布技术博客称,公司通过将 GPU、CPU、网络、存储和软件放在一起协同设计,从 AI 工厂的每一层压榨出更多有效算力,以缓解 AI 内存压力。 NVIDIA 给出的例证是:从 Blackwell Ultra 到 Vera Rubin 平台,每块 GPU 的 HBM 容量仅增加约 3%,但在 SemiAnalysis AgentX 上,每美元智能体吞吐量最高提升 30 倍。这一对比由 NVIDIA 提出,用于说明性能提升主要来自全栈协同设计,而非单纯增加内存容量。

AI 根据报道生成 · 15 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. NVIDIA Newsroom
    NVIDIA 如何用全栈协同设计解决 AI 内存挑战

    NVIDIA 阐述以全栈协同设计应对 AI 内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU 的 HBM 容量仅增约 3%,但 SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。