HBM3 DRAM技术革新的幕后推手——SK海力士DRAM产品规划担当

SK海力士DRAM产品规划担当 柳成洙

SK海力士IPM规划 Technical Leader 李圣学

训练GPT-3、Megatron-Turing NLG 530B等超大语言模型所要求的算力提升速度已经突破了后摩尔时代算力提升速度的极限。在位于系统顶层的超级计算机、数据中心内，各种应用的性能不断增强，充分印证了这一趋势。因为迫切需要DRAM 和大规模内存，人工智能/机器学习、高性能系统等都迫切希望SK海力士等内存厂商承担更大的责任，提供多种不同的DRAM标准。

图1. 训练模型的计算性能趋势¹

SK海力士于2022年6月率先量产全球首款HBM3。该产品于2021年10月推出，每个引脚传输速率达6.4Gbps，1024位宽接口，最高带宽可达819GB/s，较HBM2E（460GB/s）高约78%。16Gb内核密度、尖端的TSV垂直堆叠技术，满足了系统对更高密度的要求，该技术可实现12层堆叠内存立方体，从而实现最大24GB封装密度。HBM3配备On-die ECC（纠错码）可靠性功能，可自我检测和纠正数据错误，这是在SoC（片上系统）和DRAM之间实时传输海量数据的先决条件。HBM3比当前世界范围内服务器所采用的GDDR产品更加节能，有助于减少温室气体排放，响应了业界对于环保型产品的号召，助力内存行业打造一个可持续的生态系统。

图2. HBM3与HBM2E DRAM比较

从这个角度而言，SK海力士在2013年推出全球首款HBM1之后，毋庸置疑地在HBM行业的形成与发展过程中发挥了重要作用。在那之后，SK海力士于2019年推出全球首款HBM2E，于2021 年全新推出HBM3，彰显了SK海力士是高性能内存解决方案领域无可争议的领导者，也展现了SK海力士的潜能，能够与主要的生态系统合作伙伴协作，在未来的AI领域变革中发挥更重要的作用。

图3. SK海力士领先业界的HBM里程碑

研发出全球首款HBM3是重大成就，但后续还需要系统集成，需要SK海力士与相关合作伙伴的通力合作。为此，SK海力士率先加强与SoC（片上系统）、ASIC（专用集成电路）、PHY/IP 、OSAT（外包半导体组装和测试）等领域的主要厂商合作。2022年6月，SK海力士宣布向英伟达供应HBM3，将被用于后者的H100 Tensor Core GPU，这一方面说明SK海力士致力于与领先的客户和合作伙伴合作；另一方面也说明，SK海力士坚持将问题彻底解决，始终恪守“合作伙伴的成功即自身的成功”的原则。

SK海力士一直保持在DRAM技术优势和市场领先地位方面的初衷与坚持，而这个幕后功臣是 DRAM产品规划担当。该部门隶属于GSM（全球销售与营销）部门，是规划DRAM产品和解决方案的“控制中心”。相关业务活动均遵循四大宗旨，其中最重要的是“学习并遵循内存和IT趋势以预测未来拐点”，即理解会对DRAM使用方式造成影响的生态系统变化和因素，制定下一代产品规格和路线图，进而提升技术竞争力。

图4. SK海力士DRAM产品规划担当宗旨

HBM3研发的成功源于踏实的基础研究，其中包括对能够预示系统级发展趋势、需求和其他关键因素的大量图表进行研究，以及与客户、合作伙伴和主要利益相关方无数次讨论与合作等等。事实证明，这样的融会贯通和研究成果是促成HBM3稳定的短期和中长期开发与样本路线图的决定性因素，这些路线图被视为开启全新HBM时代的风向标。与此同时DRAM产品规划担当通过 JEDEC（联合电子器件工程委员会）固态技术协会以及与关键合作伙伴开展相关讨论，在致力于面向所有行业参与者实现全球HBM3标准化方面发挥了主导作用。DRAM产品规划担当还负责设定具备挑战性的HBM3开发和样本目标，并锚定相关沟通渠道，从而在内部团队和客户之间达成一致意见。DRAM产品规划担当每日、每周和每季度组织各种会议，让各利益相关方有机会讨论，分享不同观点并辩论，最终确定统一方案，完成SK海力士作为一家领先的内存厂商的责任，交付全球首款HBM3，极大地促进系统级性能的提升和进步。

图5. SK海力士DRAM产品规划工作流程

虽然围绕现有HBM架构和性能特点的技术局限性还持续有各种争论，但DRAM产品规划担当矢志不渝，将继续保持技术领先，为下一代HBM产品和解决方案开拓机会，突破局限。为确保下一代HBM路线图和蓝图能充分满足客户需求，DRAM产品规划担当直到今天一直坚持内部分析并与行业同侪携手合作，这是HBM3成功的基础和催化剂。在DRAM产品规划担当的带领下，SK海力士将一如既往，不畏挑战，持续引领内存行业的技术创新。