在高性能计算系统,特别是AI服务器中,内存(DRAM)的容量和带宽指标越来越重要,因为处理器需要处理巨量数据,传统DRAM已经无法满足需求。目前,HBM是当红炸子鸡。
相对于传统DRAM,HBM的制造要复杂很多,它需要将多个DRAM裸片堆叠在一起,这就需要用到较为先进的封装技术了。
随着技术进步和市场需求的变化,HBM堆栈的密度也在增加,有机构统计,按照当下的势头发展下去,将从2022年的16GB增加到2027年的48GB,DRAM大厂美光更加乐观,预计2026年将出现64GB的HBMNext(HBM4),堆叠层数能达到16,这样,使用16个32Gb的DRAM裸片就可以构建64GB的HBM模块,这需要存储器制造商进一步缩小DRAM裸片的间距,需要用到新的生产技术,特别是更好的封装技术。
通常情况下,HBM堆栈使用硅通孔(TSV)垂直连接多个DRAM裸片,这种带有TSV的堆叠架构允许非常宽的内存接口(1024位)、高达36GB、64GB的内存容量,并可实现超过1TB/s的带宽。
生产HBM堆叠芯片比生产传统的DRAM要复杂得多。首先,用于HBM的DRAM裸片与典型DRAM(例如DDR4、DDR5)完全不同,内存生产商必须制造出足量的DRAM裸片,并对它们进行测试,然后将它们封装在预先测试好的高速逻辑芯片层之上,最后测试整个封装。这个过程既昂贵又耗时。
以最新量产的HBM3E为例,其芯片尺寸大约是同等容量DDR5的两倍,除了逻辑层和DRAM层,还需要一个接口层,如此复杂的封装堆栈,会影响良率。因此,随着HBM的发展,堆叠层数不断增多,封装复杂度也在增加,其制造难度越来越大,且良率难以提升。
013D DRAM接力
HBM并不是高性能计算系统用内存的最终形态,从各大存储器厂商的研发方向来看,在存算一体彻底解决“存储墙”问题、相关芯片技术成熟并实现量产之前,3D DRAM将是HBM的继任者。
传统DRAM需要复杂的读写数据操作流程,而3D DRAM可以通过垂直堆叠的存储单元直接存取和写入数据,显著提高了存取速度。3D DRAM的优势不仅包括高容量和快速数据访问,还具有低功耗和高可靠性特点,可以满足各种应用需求。
这里先简单介绍一下DRAM的基本结构。
DRAM单元电路由一个晶体管和一个电容器组成,晶体管负责传输电流,使信息(位)能够被写入或读取,电容器则用于存储位。
DRAM由被称为“位线(BL)”的导电材料组成,位线提供注入晶体管的载流子(电流)。晶体管就像一个闸门,可以打开(接通)或关闭(断开),以保持或停止电流在器件内的流动。这种栅极状态由施加在被称为“字线(WL)”的接触导电结构上的电压偏置来定义,如果晶体管导通,电流将流过晶体管到达电容器,并存储在电容器中。
电容器需要有较高的深宽比,这意味着它的高度远大于宽度。在一些早期的DRAM中,电容器的有源区被嵌入到硅衬底中,在最近几代DRAM中,电容器则是在晶体管顶部进行加工。
3D DRAM是将DRAM单元垂直堆叠,是一种具有全新结构的存储芯片,打破了原有的模式,它有些类似已经成熟的3D NAND单元垂直堆叠,但制造难度比3D NAND大。3D DRAM不是简单地将2D DRAM组件堆叠在一起,也不同于HBM,需要重新设计DRAM架构,需要用到一些先进的晶体管制造技术和先进封装技术。
3D DRAM设计重点是解决制程节点微缩和多层堆叠的难题,另外,还有电容器和晶体管微缩,以及单元间连接和通孔阵列,还要制定相应的工艺规格。通过垂直堆叠,3D DRAM芯片将单位面积的容量增加3倍。3D DRAM与HBM在设计和制造层面都是不一样的。
据The Elec报道,三星和SK海力士都已将混合键合确定为未来制造3D DRAM的关键封装技术。据悉,三星计划在2025年推出3D DRAM芯片,SK海力士还没有确定具体时间。目前,三星和SK海力士使用微凸块来连接DRAM模块,混合键合技术可以通过使用硅通孔垂直堆叠芯片,以消除对微凸块的需求,从而显著减少芯片厚度。
02制造3D DRAM,要解决几个问题
为了推进DRAM制程微缩,需要将2D DRAM组件侧放并堆叠起来,但这会面临一些难题:水平方向需要横向刻蚀,但由于凹槽尺寸差异很大,横向刻蚀非常困难;在堆栈刻蚀和填充工艺中需要使用不同的材料,这给制造带来了困难;连接不同3D组件时存在集成难题。
在制造3D DRAM时,需要缩短电容器(Cap)的长度(电容器的长度不能和高度一样),并进行堆叠,以提升单位面积的存储单元数量。
图:2D DRAM架构垂直定向视图(左图),将其翻转并将结构堆叠在一起(右图)的做法不可行的主要原因是需要刻蚀横向空腔,并将其以不同的横向深度填充到硅有源区中。
上图表示的结构不变,将其顺时针旋转90度,结构将处于自上而下的视图中。在这个方向上,可以堆叠纳米薄片。但是,这种情况下,原始设计显示的区域非常密集,因此,位线和电容器需要自上而下地进行工艺处理,并且距离很近。要实现这种方向的3D堆叠,需要重新设计架构。
除了要设计新架构,还必须改变3D DRAM的金属化和连接性,需要设计新方法来促使电流通过中央的位线堆叠,包括连接各层的水平MIM(金属-绝缘层-金属)电容器阵列,以及将栅极包裹在晶体管周围(栅极全包围)。其原理是,当电流通过时,只有目标位线(层)被激活,在被激活的层中,电流可以连接到正确的晶体管。
还有硅通孔阵列问题。为了避免3D NAND中使用的台阶式结构的局限性,需要引入穿过硅堆栈层且可以在特定层停止(每层一个通孔)的通孔阵列结构,将接触点置于存储单元内部。沟槽制作完成后,可以引入只存在于侧墙的隔离层。
高沟槽用于引入刻蚀介质以去除硅,然后在空沟槽中引入导电金属。其结果是,顶部的每个方格(下面最后三张图片中的浅绿色和紫色方框)只与下面的一层连接。
工艺方面,需要独特且创新的工艺,3D DRAM是一种前沿设计,要想实现量产,采用的工艺和设计是从未见过或尝试过的。
033D封装助阵
以上介绍的是3D DRAM在芯片设计和制造工艺方面的挑战和解决思路,相应的裸片制造出来后,需要更适合、更先进的封装技术,将这些DRAM裸片和逻辑等功能部分有机地结合在一起,才能使应用效能*化。
越需要用到先进封装的地方,说明被封装的裸片越小,封装在一起的整体复杂度越高,3D DRAM则充分涵盖了这两点。先进封装包括2.5D和3D封装,2.5D 难以满足3D DRAM封装要求,必须采用垂直堆叠超小型构建块(DRAM裸片),并通过硅通孔实现互连的3D封装。
在2.5D封装中,逻辑单元、内存或其它类型的芯片使用倒装芯片方法水平堆叠在硅中介层上,用微凸块连接不同芯片的电子信号,通过中介层中的硅通孔连接到下面的金属凸块,然后封装到IC基板上,在芯片和基板之间建立更紧密的互连。从侧面看,虽然芯片是堆叠的,但本质仍然是水平封装(传统芯片封装都是水平的)。不过,与传统封装相比,2.5D封装中的裸片大小和间距小了很多,接近3D封装。
3D封装要将多个裸片(面朝下)堆叠在一起,直接使用硅通孔垂直堆叠,将上方和下方不同裸片的电子信号连接起来,实现真正的垂直封装。目前,越来越多的 CPU、GPU和内存开始采用3D封装技术。
到了3D封装阶段,混合键合技术几乎是必选项。
混合键合是芯片封装工艺中使用的芯片键合技术之一,常用的商用技术是“Cu-Cu混合键合”。使用Cu-Cu混合键合,金属触点嵌入到介电材料中,通过热处理工艺,这两种材料结合在一起,利用固态铜金属的原子扩散来实现键合。这种方法解决了以前倒装芯片键合工艺中遇到的挑战。
混合键合不是*的先进封装技术,但它提供了最高密度的垂直堆叠。封装中的微凸起占用的体积使得堆栈太高,无法放入带有GPU或CPU的封装中,混合键合不仅会缩小DRAM裸片的高度,还可以更容易地从封装中去除多余的热量,因为这种封装各层之间的热阻较小。
与倒装芯片键合相比,混合键合具有多种优势,它允许实现超高的I/O数量和更长的互连长度,通过使用介电材料代替底部填料进行粘接,消除了填充成本。此外,与晶圆上的芯片键合相比,混合键合的厚度最小,这对于需要堆叠多层芯片的3D DRAM封装特别友好,因为混合键合可以显著降低整体厚度。
04三大厂商的3D DRAM制造进展
目前,三星、SK海力士和美光这三大存储芯片厂商都在研发3D DRAM,相应的制造工艺和封装技术也在同步开发中。
美光从2019年起就开始了3D DRAM的研究,拥有30多项与3D DRAM相关的专利,获得的专利数量是三星和SK海力士的2~3倍。
近些年,三星一直在进行3D DRAM的研究,并推出了业界*12层3D-TSV技术。
2023年,在日本举行的“VLSI研讨会”上,三星电子发表了一篇包含3D DRAM研究成果的论文,并展示了3D DRAM芯片内部结构的图像。
据消息人士称,2023年5月,三星电子在其半导体研究中心内组建了一个开发团队,大规模生产4F2结构DRAM。由于DRAM单元尺寸已达到极限,三星想将4F2应用于10nm级工艺或更先进制程的DRAM。如果三星的4F2 DRAM存储单元结构研究成功,在不改变制程的情况下,裸片面积可比现有6F2 DRAM存储单元减少约30%。
据悉,三星已经将3D DRAM堆叠至16层。
SK海力士正在为将来的DRAM开发IGZO通道材料,它可以改善DRAM的刷新特性。据悉,IGZO薄膜晶体管凭借其适中的载流子迁移率、极低的漏电流以及基板尺寸的可扩展性,在显示面板行业长期得到应用。它可以成为未来 DRAM 可堆叠通道材料的候选方案。
最近,在夏威夷举行的VLSI 2024峰会上,SK海力士发布了3D DRAM的最新研究成果,其5层堆叠的3D DRAM良率已达56.1%。此外,SK海力士的实验性3D DRAM在性能上已展现出与2D DRAM相媲美的特性,但是,在实现商业化之前,仍需进行大量的技术验证和优化工作。
05结语
作为芯片行业的大宗商品,DRAM本来就具有庞大的市场份额,如今,在高性能计算需求的推动下,各种新的内存技术和产品依次出现,给这一本来就很热闹的市场增添了更多看点。
随着AI服务器的发展,HBM迅速走红,相关芯片的制造和封装是当下产业的热点话题。随着应用的发展和技术水平的提升,未来几年,3D DRAM很可能会替代当下HBM的行业地位,因此,相关芯片制造和半导体设备厂商都在研发上投入越辣越多的资源,不断蓄力。
就芯片制造和封装而言,3D DRAM还需要继续攻关,距离量产还有一段时间。对此,SK海力士指出,虽然3D DRAM有着巨大的发展潜力,但在实现商业化之前仍然需要做大量工作。目前,3D DRAM表现出的性能特征依然很不稳定,需要达到32~192层堆叠的存储单元才能广泛使用。
【本文由投资界合作伙伴微信公众号:半导体产业纵横授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。