英伟达推出NVHBM定制高带宽内存：相比HBM4e带宽提升30%、功耗降低15%

据IT之家报道，英伟达推出NVHBM定制高带宽内存，采用定制的HBM基础裸片，相比传统HBM4e可以提供更高的带宽、更低的功耗以及更小的芯片面积。英伟达称，NVHBM已经与“领先的内存厂商”共同完成设计和验证，因此，对于开发定制芯片的厂商来说，相比从零开始采用标准HBM，NVHBM有望帮助其更快推出产品。

对于AI加速器而言，内存带宽至关重要。英伟达表示，与标准HBM4e相比，NVHBM每个内存堆栈的带宽最高可以提升30%。对于受内存带宽限制的AI工作负载来说，更高的带宽意味着更高的吞吐量，例如在AI推理场景下，可以提高每秒生成的Token数量。此外，NVHBM的功耗比标准商用HBM4e低15%。英伟达还宣布，亚马逊旗下的Annapurna Labs将成为NVHBM的首个合作伙伴。