在晶圆代工领域，三星与台积电是纯粹的竞争关系，但在存储芯片市场，作为行业霸主，三星却不得不寻求与台积电深入合作，这都是英伟达惹的祸。
据DigiTimes报道，三星HBM3E内存尚未通过英伟达的测试，仍需要进一步验证，这是因为卡在了台积电的审批环节。作为英伟达AI GPU芯片的制造和封装厂，台积电是英伟达验证环节的重要参与者。据悉，台积电采用的是基于SK海力士HBM3E产品设定的检测标准，而三星的HBM3E产品在制造工艺上有些差异，例如，SK海力士芯片封装环节采用了MR-MUF材料技术，三星则是基于TC-NCF技术，这会对一些参数产生影响。
三星在4月表示，其8层垂直堆叠的HBM3E已经在4月量产，并计划在今年第二季度量产12层堆叠的HBM3E，比原计划提前了一个季度。按照三星的说法，为了更好地应对生成式AI日益增长的需求，该公司加快了新款HBM产品的项目进度。
自从HBM问世并量产以来，SK海力士一直是英伟达为其AI GPU配备该类内存的*供应商，发展到HBM3E版本，依然如此，只是从2024年第二季度开始，另外两家内存大厂才开始加入英伟达HBM供应链。因此，SK海力士是行业霸主，市场份额超过80%。
2022年，SK海力士专为英伟达的H100设计了HBM3，其性能令人惊讶，且HBM在经济上是可行的，并一举确立了行业地位。在这种情况下，三星和美光准备花费数十亿美元来扩大芯片生产能力。最近，三星推出了其12层堆叠的HBM3E，旨在将其与SK海力士和美光的8层堆叠产品区分开来。
在不久前举行的年度股东大会上，SK海力士非常享受它的胜利成果，这家韩国内存制造商表示，HBM必须为客户“定制和专业化”，这是在强调其与英伟达的深厚关系。
同期，三星也宣布了其HBM产量的增长计划，一位高管表示，该公司计划今年将芯片产量增加两倍。英伟达首席执行官黄仁勋（Jensen Huang）在Blackwell产品发布会上表示，正在对三星的HBM3E进行资格认证，黄仁勋这是在侧面敲打SK海力士，以避免供应商一家独大，出现客大欺店的情况。
相对于三星和SK海力士，美光（Micron）晚一年才推出HBM产品，但凭借其在HBM3E版本产品上的“弯道超车”表现，特别是其3D堆叠技术，使HBM3E在有限的空间中，满足高带宽与大容量的需求，有望在HBM竞赛中扳回一城。美光的HBM3E瞄向了英伟达新推出的DGX GH200。
1、三巨头排队验证HBM3E
作为AI服务器芯片行业霸主，英伟达具有很强的话语权，这使得内存行业厂商不得不顺应该公司的标准和验证要求。而为了实现供应链多元化，英伟达将更多HBM内存厂商纳入了其供应链，作为新进入者，三星的HBM3E正在等待验证通过，而美光和SK海力士已经在2023下半年向英伟达提供了8层垂直堆叠的HBM3E（24GB）样品，并在2024年初通过了英伟达的验证，并获得了订单。
现在，只有三星一家在焦急地等待，因为这三大原厂的HBM3E验证结果，将决定英伟达2024全年HBM供应商的采购权重分配。
2023年，英伟达的高端AI芯片（采用HBM内存）是A100/A800和H100/H800，2024年，其产品组合更多了，除了上述型号，还将再推出使用6个HBM3E的H200和8个HBM3E的B100，并整合该公司自研的Arm架构CPU，推出GH200和GB200。
除了英伟达，另外两大处理器厂商也在加紧拓展AI服务器市场，这将进一步推动HBM内存市场的繁荣。
2024年，AMD出货的主力产品是MI300系列，采用HBM3内存，下一代MI350将采用HBM3E，预计2024下半年开始进行HBM验证，大批量上市将在2025年*季度。英特尔方面，2022下半年推出的Gaudi 2采用了6个HBM2E，2024年，预计其新型号Gaudi 3仍将采用HBM2E，但用量升至8个。
未来，除了英伟达，AMD和英特尔会使用越来越多的HBM产品，这会给三大内存原厂提供更多商机。
2、验证的卡点
据分析师和行业观察人士称，在HBM产品验证方面，三星落后的原因之一是其坚持使用被称为热压非导电膜（TC-NCF）的技术，这导致了一些生产问题，而SK海力士则一直采用大规模回流模制底部填充（MR-MUF）技术，可以克服NCF的弱点。
TC-NCF技术已被芯片制造商广泛使用，用于将多层芯片堆叠在紧凑的高带宽存储芯片组中，因为使用热压缩薄膜有助于*限度地减少堆叠芯片之间的空间。但是，随着层数不断增加，制造变得越来越复杂，因此，经常存在与粘合剂材料相关的问题，芯片制造商一直在寻找替代方案来解决这些问题。MR-MUF是一种环氧树脂模塑化合物，被认为在避免晶圆翘曲方面更有优势。
SK海力士率先成功转向MR-MUF技术，并成为*家向英伟达供应HBM3内存的供应商。
在SK海力士成功将MR-MUF应用于HBM2E生产后，受到了芯片行业的关注。SK海力士使用的这种化合物是与Namics合作生产的。
MR-MUF用于HBM封装，它对HBM芯片的外部结构有显著影响。SK海力士在创建12层HBM3时，将一个产品中堆叠的DRAM数量从8个（16GB）增加到12个，从而将容量提高了50%。通过这种方式，SK海力士实现了24GB的容量。为了在保持芯片厚度的同时增加容量（堆叠层数），必须将DRAM芯片逐个向上堆叠，这会导致较薄的芯片产生弯曲，MR-MUF封装对于防止这种情况并保持芯片的厚度是有益的。
不久前，有消息人士说，三星发布了旨在处理MR-MUF技术的芯片制造设备的采购订单。消息人士称，三星与包括日本长濑在内的材料制造商进行谈判，以采购MUF材料，使用MUF的高端芯片的大规模生产最早可能要到2025年才能准备就绪，因为三星需要进行更多的测试。
据悉，三星对其HBM内存进行了大规模的MR-MUF工艺测试，结果显示与现有的TC-NCF相比，吞吐量有所提高，但物理特性有所下降。
三星芯片制造部门的一位高级主管在2023年下令对MUF技术进行测试，得出的结论是MUF不适用于HBM产品，最为合适的对象是3D堆叠RDIMM。一般情况下，3D堆叠RDIMM采用硅通孔（TSV）技术制造，主要用于服务器。硅通孔技术是在Wafer或者Die上穿出数千个小孔，实现硅片堆叠的垂直互连通道，而MUF则是上下连接，缩小相互之间间隙的材料，有助于紧密凝固和结合各种垂直堆叠的半导体材料。
据悉，三星计划与SDI合作开发自己的MUF化合物材料，而且已经从日本订购了MUF所需要的相关设备，看起来要推进到下一阶段，以实现更先进的封装工艺，并提高生产效率。
消息人士表示，三星计划在其最新的HBM芯片上同时使用NCF和MUF材料。
但三星并未承认，该公司表示，其内部开发的NCF技术是HBM产品的“*解决方案”，将用于其新的HBM3E芯片。“我们正在按计划开展HBM3E产品业务”，三星表示。
如果三星使用MUF为真的话，则突显了该公司在AI芯片竞赛中面临的越来越大的压力。
据悉，另一家内存大厂美光也打算使用MUF材料。
3、发展HBM4，依然要过台积电这一关
HBM3E的下一个版本，就是HBM4，三星正在加快研发脚步，争取缩小与SK海力士的差距。
不久前，三星公布了HBM路线图，预计2026年的HBM出货量是2023年的13.8倍，该公司表示，到2028年，HBM内存的年产量将进一步上升至2023年的23.1倍。
在代号为“Snowbolt”的第六代HBM芯片HBM4方面，三星计划将缓冲芯片应用于堆叠内存的底层以提高效率。除此之外，还没有更多关于三星HBM4的技术细节流出。
SK海力士方面，在扩充HBM3E生产能力的同时，该公司还与台积电签署了谅解备忘录（MOU），双方就下一代HBM产品生产和加强整合HBM与逻辑层的先进封装技术密切合作，以开发出新一代的HBM4产品。
虽然距离HBM4投产还有两年的时间，SK海力士已经在加速推进第七代HBM产品（HBM4E）的开发工作了，据etnews报道，该公司的HBM先进技术团队负责人Kim Kwi-wook在近日举行的“IMW 2024”活动上分享了下一代HBM的发展方向，表示当前HBM技术已达到新的水平，同时，代际更迭周期也在缩短，从HBM3E开始，由以往的两年变成了一年。
面对竞争，SK海力士的HBM项目正在提速，预计首批12层堆叠的HBM4最快会在2025下半年到来，到2026年还会有16层堆叠的产品，会向更加定制化的方向发展，而HBM4E最早会在2026年投产。这是SK海力士首次提及HBM4E，确认了新标准的存在，据悉，其带宽将是上一代产品的1.4倍。
5月中旬，在2024年欧洲技术研讨会上，台积电表示，将使用其12FFC+（12nm级）和N5（5nm级）制程工艺制造HBM4芯片。
台积电设计与技术平台高级总监表示：“我们正在与主要的HBM内存合作伙伴（美光、三星、SK海力士）合作，开发HBM4全栈集成的先进制程，N5制程可以使HBM4以更低的功耗提供更多的逻辑功能。”
N5制程允许将更多的逻辑功能封装到HBM4中，并实现非常精细的互连间距，这对于逻辑芯片上的直接键合至关重要，可以提高AI和HPC处理器的内存性能。
相对于N5，台积电的12FFC+工艺（源自该公司的16nm FinFET 技术）更加经济，制造的基础芯片能构建12层和16层的HBM4内存堆栈，分别提供48GB和64GB的容量。
台积电还在优化封装技术，特别是CoWoS-L和CoWoS-R，以支持HBM4集成。这些先进的封装技术有助于组装多达12层的HBM4内存堆栈。新的转接板能确保2000多个互连的高效路由，同时保持信号完整性。据台积电介绍，到目前为止，实验性HBM4内存在14mA时的数据传输速率已达到6 GT/s。
台积电还在与Cadence、Synopsys和Ansys等EDA公司合作，对HBM4通道信号完整性、IR/EM和热精度进行认证。
4、三星寻求与台积电合作
由于英伟达在AI服务器芯片市场处于霸主地位，而该公司的高性能GPU都是由台积电代工生产的，因此，在对HBM内存大厂的产品进行验证时，台积电扮演着重要的角色。此时，虽然是晶圆代工领域的竞争对手，但要在HBM内存市场拓展出更多空间，在进行产品验证时，三星必须面对台积电。
今年4月，三星电子共同执行长庆桂显低调访台，传拜访了台积电，消息人士透露，庆桂显此行的任务中，最主要是推广三星最新的HBM内存。
之前，台积电与SK海力士联手，组成名为“One Team”的战略同盟，共同开发下一代HBM4内存，目标是通过汇集台积电与SK海力士在新一代AI半导体封装上的技术优势，巩固双方在AI市场的地位。
庆桂显此行，对于三星HBM3E产品尽快通过英伟达验证有积极作用，同时，三星也希望台积电能够将其HBM内存推荐给客户，以实现将三星产品整合进更多AI芯片和服务器系统。
