
HBM(高带宽存储器)是一种采用3D堆叠技术的DRAM,通过先进的硅通孔(TSV)封装方法,能够实现高容量、高带宽、低延时和低功耗的特性。这种设计特别适用于高性能计算和图形处理,尤其是在AIGC计算中,HBM与GPU的结合极大提升了并行数据处理速度。
在AIGC计算中,GPU需要处理大量并行数据,要求具备高算力和大带宽。通过中介层与HBM的互联封装,HBM的高带宽特性为GPU提供了充足的内存带宽,支持其高速数据处理需求,从而加速AIGC模型的训练和推理过程。
HBM存储技术自2013年SK海力士首次推出HBM1以来,经历了多次重要的产品迭代,包括HBM2、HBM2E、HBM3和最新的HBM3E。每一代产品在容量、带宽和功耗效率上都有显著提升,其中HBM3E提供高达9.2Gbps的I/O传输速度和超过1280GB/s的带宽。展望未来,预计HBM4将在2026年上市,将支持更广泛的内存层配置,以更好地满足不同类型的应用需求。