NVIDIA发布NVHBM定制高带宽内存 带宽较HBM4E最高提升30%

传统HBM架构通常会在计算裸片上部署内存控制器，由此占用原本可用于计算单元的宝贵硅片面积。NVHBM则通过将控制器转移至HBM堆叠内部，旨在同时改善带宽、能效以及计算裸片的可用面积。按照英伟达给出的数据，相比标准HBM4E，NVHBM可实现最高30%的内存带宽提升、15%的HBM功耗下降，并让处理器计算裸片获得最高25%的额外可用面积。

面积节省主要来自重新设计的物理内存接口。标准HBM采用较宽的接口连接，会扩大封装占用空间；而NVHBM的定制PHY可将I/O面积较JEDEC HBM4E最多缩减67%。更窄的接口还能简化中介层布线，在整体布局中释放最多80%的额外可用硅片空间。英伟达指出，PHY占用缩小意味着中介层上的布线限制减少，这对于在大型计算裸片旁集成多组HBM堆叠尤为重要。

在能耗方面，HBM功耗降低15%的意义不止于提升效率，也能为计算裸片释放更多散热余量。这一优势对企业级部署和数据中心尤其关键：当数千个计算单元在数百个机架中同时运行时，单个组件的能效改善将被显著放大。英伟达以一座采用2000W XPU、总功率规模达到1GW的数据中心为例称，节省下来的电力余量理论上可支持额外部署最多1.5万个XPU。

值得一提的是，三星日前在Hot Chips 2026大会上确认，正准备出货单引脚速率达16Gbps的HBM4E，相较当前14Gbps的版本进一步提升。现有14Gbps HBM4E通过2048个引脚可提供每堆叠3.6TB/s的带宽，而16Gbps版本则可将这一数值提升至4TB/s。若以此为基础叠加英伟达所称的30%带宽增幅，单组NVHBM的理论带宽有望达到约5.2TB/s。

英伟达表示，NVHBM将接受多家内存供应商的验证，以简化客户的供应商认证流程。亚马逊旗下Annapurna Labs已成为首家确认将与英伟达合作推进NVHBM的伙伴。