发生了什么
NVIDIA宣布对其NVLink Fusion技术进行扩展，引入名为NVHBM的定制高带宽内存。这一更新旨在满足AI基础设施在新时代面临的更高要求。
随着AI代理和万亿参数工作负载逐渐成为主流，AI基础设施的效能不再只看重单一计算部分，而是需要将计算、内存、存储、网络和软件作为一个整体系统来协同设计。NVIDIA推出NVHBM，正是为了帮助超大规模企业和AI创新者搭建下一代系统。
为什么重要
这一发布折射出AI行业的一个趋势：当模型规模不断膨胀，零部件层面的竞争正在转向系统层面的整合。通过把定制高带宽内存与互连技术结合，NVIDIA试图缓解大模型训练和推理过程中可能出现的内存瓶颈，但实际成效仍有待检验。
关键事实
NVIDIA扩展了NVLink Fusion，新增NVHBM定制高带宽内存。
AI代理和万亿参数工作负载正在成为主流。
AI基础设施性能取决于计算、内存、存储、网络和软件的统一系统设计。
接下来看什么
值得关注的是NVHBM如何被超大规模企业采用，以及它能否显著提升万亿参数模型的运行效率。
同时，这一系统级设计思路是否会引发其他硬件厂商的跟进，也可能影响未来AI基础设施的竞争格局。