HBM,最新展望!

AIGC动态4周前发布 admin
273 0 0
HBM,最新展望!

 

文章摘要


【关 键 词】 HBM技术内存容量带宽提升散热挑战HBM4前景

为了提升AI和HPC工作负载的性能,扩展计算引擎的内存容量和带宽至关重要。尽管存在多种扩展方法,但新方法必须具备可制造性和成本效益才能被采纳。目前,HBM技术因无法同时提升内存容量和带宽而面临瓶颈,导致高端计算引擎短缺,市场扭曲,计算和内存容量与带宽之间效率低下。

HBM内存相较于常规DRAM和GDDR内存在带宽关键的计算引擎中表现更优,但全球产量不足以满足需求。SK海力士作为全球HBM出货量的领先者,最近发布了HBM3E内存,其内存堆栈高达16个芯片,是当前HBM3E堆栈的两倍,提供每个堆栈48GB的容量。这一技术的提升对于Nvidia、AMD等加速器制造商来说是一个重要的进步,他们希望尽快将这种技术纳入路线图。

SK海力士采用的大规模回流成型底部填充(MR-MUF)技术,通过熔化DRAM芯片之间的凸块并用粘性物质填充空间,以更好地为芯片堆栈散热的方式将它们连接在一起。HBM内存的发展路线图显示,从HBM1到HBM3E,内存容量、带宽和堆栈高度都在不断提升。HBM4内存预计将于2026年首次亮相,采用八高堆栈,并于2027年采用十二高堆栈。

然而,实现HBM4内存面临诸多挑战,包括计算引擎制造商对更高带宽和更低功耗的需求,以及内存堆栈增长带来的散热问题。SK海力士正在努力通过更宽的总线、集成内存寻址逻辑等方式来应对这些挑战。HBM4预计将提供超过1.4倍的带宽、1.3倍的每个内存芯片的容量、1.3倍的更高堆栈容量,并且功耗仅为HBM3/HBM3E的70%。

尽管HBM4内存的前景令人期待,但当前内存计算不平衡的问题亟待解决。客户在设备上投入巨资,却因HBM内存的带宽和容量瓶颈而无法达到峰值性能。因此,业界需要尽早实现HBM4E内存,或者找到一种方法将更多的HBM3E内存连接到当前设备上,以满足市场需求。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 3338字 | 14分钟 ]
【原文作者】 半导体行业观察
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...