发生了什么

过去几年,AI基础设施竞赛一直聚焦于高带宽内存(HBM),视其为加速计算最不可或缺的构建模块之一。

然而,随着模型规模、上下文窗口和推理工作负载的持续扩大,瓶颈正逐步从内存堆叠容量转向内存与计算之间的数据移动效率。

高通在HBC领域的布局,正将三星和SK海力士带入一场超越HBM的新竞赛。

为什么重要

这一转变意味着内存行业的竞争焦点可能正在发生根本性变化:未来比拼的或许不再只是堆叠多少层内存,而是如何更高效地在内存和计算之间搬运数据。

对于三星和SK海力士这样的主要内存厂商而言,被拖入这场新竞赛可能需要在架构和互连技术上做出新的战略取舍,而不只是延续HBM时代的路线。

关键事实

高通在HBC领域有所动作,并带动三星和SK海力士加入新竞赛。

AI基础设施过去几年高度依赖高带宽内存(HBM)作为加速计算的关键元素。

瓶颈正从内存堆叠容量转向数据在内存与计算之间的移动效率。

接下来看什么

关注三星和SK海力士将如何回应高通的HBC举措,是否会在技术路线或业务合作上进行调整。

关注HBC能否像HBM一样成为行业关注的新焦点,并推动AI基础设施进一步发展。

来源