本文由半导体产业纵横(ID:ICVIEWS)编译自semiengineering迪士尼彩乐园iii
将HBM基片的功能集成到逻辑芯片中,不错提供更大的活泼性和非凡的鸿沟。
为了普及每瓦系统性能,半导体行业一直在寻求突出增多内存容量和数据速率的老例门径的更正贬责决策。在往日十年中,高带宽内存 (HBM) 公约已被证实是数据中心和高性能联想 (HPC) 应用的热点遴荐。跟着行业转向定制 HBM(custom HBM,简称cHBM),不错终了更多上风,为片上系统 (SoC) 联想东说念主员提供活泼性和鸿沟力,使其凭证应用终了更高的性能或更低的功耗和更小的面积。
HBM 为何胜出
HBM 越来越多地用于数据中心,用于条目残忍的应用中的 AI/ML 和联想密集型责任负载。尽管需求加快给供应链带来了压力,但三大供应商的援手意味着最终客户不错领有真实的多源采购。据悉,HBM 商场将以每年 42% 的速率增长,从 40 亿好意思元(2023 年)增长到 1300 亿好意思元(2033 年),主要受责任负载扩大的 AI 联想鼓舞。到 2033 年,HBM 将占据系数这个词 DRAM 商场的一半以上。
HBM 提供显赫更高的内存带宽、更低的延伸和紧凑的外形尺寸(使用 3D 垂直堆叠来增多密度并裁减数据旅途)。自 2013 年推出领先的 HBM 以来,JEDEC 一直制定着积极的发展阶梯图。正如最近的一篇博客著述中所述,面前的 HBM4 使每个堆栈的通说念数增多了一倍,具有 2Kbit 接口、高达 6.4Gbps 的速率箱以及援手 16 高硅通孔 (TSV) 堆栈的选项。图 1 自满了带有处理器芯片和 HBM 堆栈的典型片上系统 (SoC) 联想。
处理器芯片和内存芯片堆栈之间的聚会是通过硅中介层进行的,使用 HBM 尺度界说的物理 (PHY) 层。使用中介层意味着,固然 HBM 堆栈是系数 3D 的,但系数这个词 SoC 仅为 2.5D,从而减少了潜在的空间精真金不怕火。通过中介层的传播期间会降速内存拜谒期间,从而编造潜在性能。目下,系数这个词 HBM 内存堆栈(包括基础芯片)由 DRAM 供应商提供。这可能会鸿沟联想活泼性,亦然 cHBM 的动机。
定制的公道
定制 HBM 的要害是将基础芯片的功能集成到 SoC 团队联想的逻辑芯片中。这包括鸿沟 I/O 接口、管束 DRAM 堆栈以及托管用于会诊和鄙吝的告成拜谒 (DA) 端口。集成需要与 DRAM 供应商密切互助,但它为 SoC 联想东说念主员提供了更大的活泼性和对 HBM 中枢芯片堆栈拜谒面孔的非凡鸿沟。他们目下不错缜密集成内存和处理器芯片,并凭证应用优化功率、性能和面积 (PPA)。
SoC 联想东说念主员不错解放成就和实例化他们的 HBM 内存鸿沟器,以便使用 DFI2TSV 桥告成与 HBM DRAM 堆栈聚会。逻辑芯片不错集成增强功能,举例可编程高质地 BIST 鸿沟器、D2D 适配器和高速接口(举例通用 Chiplet 互连 Express (UCIe)),迪士尼彩乐园 彩票然后以全 3D 堆栈的面孔与处理器芯片通讯。现存联想不错相似使用,因为芯片是在逻辑工艺而非 DRAM 工艺中制造的。图 2 对比了 HBM 和 cHBM 门径。
cHBM 的上风在于不错显赫减少数据旅途上中介层引起的延伸以及相干的功耗和性能耗费。它通过相似使用任何现存的告成芯片到芯片高速接口(如 UCIe),灵验地拉近了内存和处理器芯片之间的距离。由此产生的活泼性不错在不同类型的场景中获得欺骗:
云提供商将其用于边际 AI 应用,其中老本和功耗是要害尺度。在基于 AI/ML 的复杂联想场中使用,其中容量和迷糊量被推到极限。cHBM 挑战
cHBM 的举座理念仍然很新,何况该技巧仍在不停自满。与任何更正一样,将来也濒临挑战。将基础芯片功能集成到逻辑芯片心仪味着最终用户必须从硅片人命周期管束 (SLM) 的角度洽商系数这个词人命周期,包括联想、量产、分娩量产和现场方面。举例,在晶圆级 HBM 芯片堆叠后筛查 DRAM 单位残障的包袱目下落在了最终用户的身上。这激发了以下问题:
用户奈哪里理可能保举的任何供应商特定的定制 DRAM 算法?用户是否不错在筹划的停机期间内履行全面的现场 HBM 测试和会诊?
地球在围绕着太阳公转,转一圈就是一年。开普勒第一定律告诉我们:所有行星绕太阳运动的轨道都是椭圆,而太阳就处在椭圆的一个焦点上。这也就意味着,地球围绕太阳公转的轨道也是一个椭圆。因而地球在围绕太阳公转的过程中与太阳的距离是在不断变化的。地球公转轨道上离太阳最远的点叫做远日点,离太阳最近的点叫做近日点。地球在每年的七月初抵达远日点,在每年的1月初会抵达近日点。因而,当冬至过后,地球离着抵达近日点也就还有十几天的行程了。
当兵不仅仅需要坚强的意志力,还需要有健康的体魄。
得手部署 cHBM 需要一个全面援手的生态系统,将 IP 提供商、DRAM 供应商、SoC 联想东说念主员和 ATE 公司采集在一齐。举例,由于互连的数目和密度,传统的 ATE 无法用于测试 cHBM。尽管如斯,cHBM 容许提供的非凡活泼性彰着引起了业界的眷注,正如Marvell 最近与三大 DRAM 供应商调和发布的公告所示。
遴荐正确的互助伙伴关于 cHBM 的得手至关艰巨。Socionext 等互助伙伴已得手为 HBM 子系统部署了 Synopsys SLM 贬责决策。使用 Synopsys SLM ext-RAM 和 SHS 贬责决策的示例可用。Synopsys阶梯图上有几项援手 cHBM 的增强和改良。该公司正在与 DRAM 供应商、SoC 提供商、ATE 公司和最终用户互助,以加快 cHBM 的接受和使用。
*声明:本文系原作家创作。著述推行系其个东说念主不雅点,本身转载仅为共享与参谋,不代表本身赞好意思或认可,如有异议,请相干后台。