边缘 AI 或让电信运营商在 AI 推理基础设施中重获一席之地
随着生成式 AI 与智能体 AI 进入日常使用,延迟、数据引力与成本正推动部分推理负载从超大规模数据中心转向边缘,电信运营商有望借此靠近 AI 推理基础设施的中心。
随着生成式 AI 与智能体 AI 进入日常使用,延迟、数据引力与成本正推动部分推理负载从超大规模数据中心转向边缘,电信运营商有望借此靠近 AI 推理基础设施的中心。
SK 海力士 Tech Note 解释为何数万块 GPU 的 AI 集群仍要等待数据,并介绍硅光与 CPO 如何搭建“光高速公路”。文中指出 HBM 缩短了数据在同一封装内与 GPU 之间的传输距离,CPO 则提升连接多套 GPU 系统的网络传输效率。
SK 海力士技术笔记解释为何数万块 GPU 的 AI 集群仍要等待,并介绍硅光与 CPO 如何构建“光的高速公路”。文中对比 LPO 与 NPO 两种方案:LPO 保留可插拔光模块架构但去掉模块内的 DSP,NPO 则把光引擎放在交换芯片附近、但置于其封装之外。
SK 海力士 Tech Note 解析硅光子与 CPO 如何缓解数万块 GPU 的等待问题。可插拔架构中电信号需从交换 ASIC 走到前面板光模块,而 CPO 架构把中央交换 ASIC 与周围光引擎放在同一封装基板上,大幅缩短电气连接距离。
SK 海力士 Tech Note 解释为何数万块 GPU 的 AI 集群仍需等待,以及硅光子和 CPO 如何构建“光的高速公路”。硅光子把光纤输入的光导入硅光集成电路(PIC)的波导,由环形谐振器、调制器和光电探测器控制光,在芯片内把电信号编码到光上,再把光还原为电信号取回信息。
SK 海力士 Tech Note 解释为何数万 GPU 的 AI 集群仍需等待,以及硅光子和 CPO 如何构建“光的高速公路”。文章指出铜互连在半导体封装内短距离传输高效,但随传输速率和距离提升,信号损耗、发热与中继器功耗上升,使单根光纤承载多波长的光互连更具优势。
AMD、Cisco 与 HUMAIN 宣布,基于 AMD Instinct MI355X GPU、AMD EPYC CPU 和 Cisco Silicon One 网络的 AI 基础设施已在沙特投入生产运行,向 HUMAIN 客户提供 GPU-as-a-service。
推荐理由:沙特主权 AI 项目从投资承诺进入生产运行,读者可据此了解中东算力落地的实际节奏与规模。