HBM制造商良品率低 难以通过NVIDIA的供应商资格测试

HBM制造商良品率低 难以通过NVIDIA的供应商资格测试 韩国知名媒体DealSite 的一篇报道披露，美光（Micron）和 SK 海力士（SK Hynix）等制造商正在为通过英伟达（NVIDIA）下一代人工智能 GPU 的资格测试而正面交锋，而低良品率似乎阻碍了它们的发展。在 HBM 领域，良品率主要与堆叠架构的复杂性有关，它涉及多个存储器层和用于层间连接的复杂硅通孔 (TSV)。这种复杂性增加了制造过程中出现缺陷的几率，与较简单的存储器设计相比，可能会降低良品率。DealSite 重申，如果其中一个 HBM 芯片有缺陷，整个堆叠就会被丢弃，由此可见制造过程有多复杂。消息人士称，目前 HBM 内存的总体良品率约为 65%，如果各公司开始提高这一数字，产量就会下降，这就是为什么实际的竞争在于找到这两个问题之间的解决方案。不过，美光（Micron）和 SK 海力士（SK Hynix）似乎在这场竞争中处于领先地位，据报道，美光已经开始为英伟达（NVIDIA）的 H200 AI GPU生产 HBM3E，因为它已经通过了NVIDIA设定的认证阶段。现在，虽然对于 HBM 制造商来说，良品率现在还不是一个大问题，但从长远来看它又可能会成为一个大问题，因为随着时间的推移，我们会看到需求的增长，最终促使对更高产量的需求。 ... PC版： 手机版：

三星和SK海力士推12层HBM3E内存

三星和SK海力士推12层HBM3E内存 3月19日消息，三星电子和 SK 海力士3月18日在人工智能芯片巨头英伟达年度开发者大会 (GTC) 上双双公开12层堆叠动态随机存取存储器 (DRAM) 芯片的第五代高带宽存储器 (HBM3E) “HBM3E 12H DRAM”实物。高带宽存储器是指利用先进封装方法垂直堆叠多个DRAM芯片，使数据处理速度取得飞跃性提升的高性能内存。

SK hynix宣布与台积电合作开发用于HBM4存储芯片的封装技术

SK hynix宣布与台积电合作开发用于HBM4存储芯片的封装技术 SK hynix 表示，与全球顶级代工厂台积电的合作将带来更多的 HBM 技术创新。通过产品设计、代工厂和存储器供应商之间的三方合作，此次合作有望在存储器性能方面实现突破。两家公司将首先致力于提高安装在 HBM 封装最底部的基础芯片的性能。HBM 是在采用 TSV 技术的基底芯片上堆叠核心 DRAM 芯片，并通过 TSV 将 DRAM 堆叠中的固定层数与核心芯片垂直连接成 HBM 封装。位于底部的基础芯片连接到 GPU，由 GPU 控制 HBM。SK hynix 采用专有技术制造 HBM3E 以下的基础芯片，但计划在 HBM4 的基础芯片上采用台积电的先进逻辑工艺，这样就可以在有限的空间内封装更多的功能。这也有助于 SK hynix 生产定制的 HBM，满足客户对性能和能效的需求。SK hynix和台积电还同意合作优化SK hynix的HBM和台积电的CoWoS技术的整合，同时合作应对客户在HBM方面的共同要求。K hynix 总裁兼 AI Infra 负责人 Justin Kim 说："我们期待与台积电建立强大的合作伙伴关系，帮助我们加快与客户的开放式合作，并开发出业界性能最佳的 HBM4。有了这次合作，我们将通过增强在定制存储器平台领域的竞争力，进一步巩固我们作为全面人工智能存储器供应商的市场领导地位。""多年来，台积电和 SK hynix 已经建立了牢固的合作伙伴关系。多年来，台积电与SK hynix已经建立了稳固的合作关系，我们共同致力于整合最先进的逻辑和最先进的HBM，提供全球领先的人工智能解决方案。展望下一代 HBM4，我们有信心继续紧密合作，提供最佳集成解决方案，为我们的共同客户开启新的人工智能创新。" ... PC版： 手机版：

HBM3e产量激增 机构预计到2024年底将占先进工艺晶圆产量的35%

HBM3e产量激增 机构预计到2024年底将占先进工艺晶圆产量的35% HBM 的生产将因其盈利能力和不断增长的需求而得到优先考虑。然而，约 50-60% 的有限产量和比 DRAM 产品大 60% 的晶圆面积意味着需要更高的晶圆投入比例。根据各公司的 TSV 容量，预计到今年年底，HBM 将占先进工艺晶圆投入的 35%，其余晶圆容量将用于 LPDDR5(X) 和 DDR5 产品。关于HBM的最新发展，TrendForce指出，HBM3e将成为今年的市场主流，出货量将集中在下半年。目前，SK hynix 和美光仍是主要供应商，两者都采用 1beta 纳米工艺，并已向英伟达出货。采用 1Alpha nm 工艺的三星公司预计将在第二季度完成认证，并于今年年中开始供货。除了 HBM 需求的比例不断增加外，个人电脑、服务器和智能手机的单位容量不断增长也推动了先进工艺产能的逐季增长。其中，服务器的产能增幅最大，主要是由单位容量达 1.75 TB 的人工智能服务器推动的。随着英特尔蓝宝石 Rapids 和 AMD Genoa 等需要 DDR5 内存的新平台的量产，预计到今年年底，DDR5 的渗透率将超过 50%。同时，由于 HBM3e 的出货量预计将集中在下半年，而下半年又是内存需求的旺季，因此市场对 DDR5 和 LPDDR5(X) 的需求预计也将增加。不过，由于 2023 年出现财务亏损，制造商对产能扩张计划持谨慎态度。总体而言，由于 HBM 生产的晶圆投入比例较高，先进工艺的产出将受到限制。因此，下半年的产能分配将是决定供应能否满足需求的关键。如果不充分扩大先进工艺的产能，对 HBM 生产的更多关注可能会导致 DRAM 供应短缺。目前，新工厂计划如下：三星预计到 2024 年底，现有设施将全部使用完毕。新的 P4L 工厂计划于 2025 年完工，而 15 号生产线工厂将从 1Y 纳米工艺过渡到 1beta 纳米及以上工艺。SK hynix 的 M16 工厂的产能预计将在明年扩大，而 M15X 工厂也计划于 2025 年竣工，并在明年年底开始量产。美光在台湾的工厂将于明年恢复满负荷生产，未来的扩产重点将放在美国。博伊西工厂预计将于 2025 年竣工，随后进行设备安装，并计划于 2026 年量产。TrendForce 指出，虽然新工厂计划于 2025 年竣工，但量产的确切时间表仍不确定，取决于 2024 年的盈利情况。这种依靠未来利润为进一步购买设备提供资金的做法，加强了制造商今年维持内存涨价的决心。此外，英伟达（NVIDIA）将于 2025 年量产的 GB200 将采用 HBM3e 192/384 GB，有可能使 HBM 产量翻番。随着 HBM4 的开发在即，如果不在扩大产能方面进行大量投资，HBM 的优先发展可能会导致 DRAM 因产能限制而供应不足。 ... PC版： 手机版：

厂商对AI需求展望极具信心 明年HBM内存价格最高再涨10%

厂商对AI需求展望极具信心 明年HBM内存价格最高再涨10% 1、HBM买方对AI需求展望仍具高度信心，愿意接受价格续涨；2、HBM3e的TSV良率目前仅约40%-60%，因此买方愿意接受涨价以锁定质量稳定的货源；3、未来HBM每Gb单价可能因DRAM供应商的可靠度，以及供应能力产生价差，可能影响供应商获利。前不久SK海力士CEO曾表示，公司按量产计划2025年生产的HBM产品基本售罄，主要由于AI爆发对先进存储产品HBM的需求。不仅如此，此前SK海力士还宣布其2024年HBM的产能已被客户抢购一空。SK海力士认为，目前HBM和高容量DRAM模块等面向AI的存储器在2023年整个存储市场的占比约为5%，预计到2028年这一比例可以达到61%。 ... PC版： 手机版：

HBM走俏，暗战打响

HBM走俏，暗战打响 当存储三巨头（SK海力士、三星、美光科技）围绕HBM进行升级、扩产的那一刻，意味着蛰伏十年之久、发展至第六代的HBM终于甩去“成本高昂”的束缚，以强悍性能步入存储市场，搅动风云：SK海力士市值突破千亿美元、台积电CoWoS先进封装产能告急、DRAM投片量面临挤压……但必须警惕的是，若只将HBM视作存储领域的一项新兴技术而在战术上亦步亦趋，若只瞄准ChatGPT、Sora等生成式人工智能而忽视背后痛点，是要犯战略错误的。我国半导体从业者需清晰认识到，倘若HBM在内的存储领域受到长期遏制，我国相关产业发展将继先进制程、GPU后，再失先手。正如电子科技大学长三角研究院（湖州）集成电路与系统研究中心副主任黄乐天所说：“就好像一把枪，子弹供应跟不上，射速再快也没用。无法解决HBM问题，我国算力就难以提升，人工智能在内的诸多产业发展就将受限。”HBM，一场无声的暗战。“带宽之王”狂飙，HBM无敌手狂飙的HBM究竟有何魔力？HBM（High Bandwidth Memory ，高频宽存储器）属于DRAM（动态随机存取存储器）中的一个类别，具有高带宽、大容量、低延迟的DDR DRAM组合阵列。AI时代，算力可以轻松破T（TOPS，每秒万亿次运算），但存储器带宽破T（TB/s，每秒万亿字节带宽）则异常艰难。在需要高算力又需要大数据的应用场景下，存储数据吞吐能力的不足被无限放大，出现所谓的“存储墙”。图源：Rambus想要增加带宽，最简单粗暴的方法是增加数据传输线路的数量。当前，HBM由多达1024个数据引脚组成，其内部数据传输路径随着每代产品的发展而显著增长以SK海力士推出的HBM3E为例，其作为HBM3的扩展（Extended）版本，最高每秒可以处理1.15TB数据；三星的HBM3E“Shinebolt”经初步测试，最大数据传输速度预计达1.228TB/s。鉴于如此强大的带宽性能，市面上大部分存储器产品都难以在该领域击败HBM，唯一的胜出者只能是下一代HBM。HBM技术自2013年在半导体市场崭露头角以来，已扩展至第一代（HBM）、第二代（HBM2）、第三代（HBM2E），目前正步入第四代（HBM3）、第五代（HBM3E），而第六代（HBM4）也已蓄势待发。业内判断，HBM作为今后AI时代的必备材料，虽然在内存市场中比例还不大，但盈利能力是其他DRAM的5~10倍。日前，市场调研机构Yole Group发布的数据进一步印证了这一点。Yole预计，今年HBM芯片平均售价是传统DRAM内存芯片的5倍。而考虑到扩产难度，HBM价格预计在相当长一段时间内将保持高位。鉴于HBM目前无可撼动的市场地位，以及紧张的产能和昂贵的价格，业界是否可以通过牺牲某项性能而另寻方案，譬如使用潜在替代者GDDR、LPDDR？事实上，英伟达较早期的GTX 1080、GTX 2080Ti、GTX 3090也的确采用了GDDR技术。一位国内芯片企业负责人接受集微网采访时指出，HBM紧缺的产能令其价格一直维持在高位，但随着大模型训练成熟，逐渐进入大规模推理部署阶段，将不得不面对性价比的问题。推理场景中，算力成本至关重要，事实上目前各个大模型厂商也均在探索更高性价比的推理方案。譬如使用GDDR或LPDDR等方案获得更高的性价比，英伟达及国内厂家的推理板卡也不同程度上使用GDDR方案作为替代。“GDDR本身存在颗粒容量不足的顾虑，在模型参数规模日渐增长的趋势下，如果单卡或者单节点无法提供足够的显存容量，反而会降低单卡的计算效率。但随着GDDR7（其更加兼顾AI场景对带宽和颗粒容量密度的需求）逐步商业化，预计HBM价格也将伴随产能释放而逐步下降，未来在过渡期内还将是多方案共存的状态。”该人士表示。HBM走俏，CoWoS吃紧HBM的大火正快速推高市场规模以及预期。市场调查机构Gartner预测，2022～2027年，全球HBM市场规模将从11亿美元增至52亿美元，复合年均增长率（CAGR）为36.3%。高盛甚至给出了翻倍的预期，预计市场规模将在2022年（23亿美元）到2026年（230亿美元）前增长10倍（CAGR77%）。在催动先进封装的同时，HBM的产能却显得捉襟见肘。具体地看，HBM由多个DRAM堆叠而成，利用TSV（硅通孔）和微凸块（Microbump）将裸片相连接，多层DRAMdie再与最下层的Basedie连接，然后通过凸块（Bump）与硅中阶层（interposer）互联。HBM与GPU、CPU或ASIC共同铺设在硅中阶层上，再通过CoWoS等2.5D封装工艺相互连接，硅中介层通过CuBump连接至封装基板上，最后封装基板再通过锡球与下方PCB基板相连。图片：使用HBM的2.5D封装由此，台积电的CoWoS技术成为目前HBM与CPU/GPU处理器集成的理想方案。HBM高焊盘数和短迹线长度要求需要2.5D先进封装技术，目前几乎所有的HBM系统都封装在CoWoS上，而高端AI服务器也基本使用HBM。这样看起来，几乎所有领先的数据中心GPU都是台积电封装在CoWos上的。黄仁勋在NVIDIA GTC 2024大会期间更是直白喊话，英伟达今年对CoWos的需求非常大。产业人士指出，CoWoS封装所需中介层材料，因高精度设备不足和关键制程复杂，中介层材料供不应求，牵动CoWoS封装排程及AI芯片出货。2022年以来，ChatGPT为代表的人工智能带动AI芯片抢购潮，英伟达、AMD为代表的国际大厂纷纷下单，并均采用台积电CoWoS先进封装。大厂“分食”之下，CoWoS产能吃紧。台积电总裁魏哲家在1月的法说会上称，计划今年将CoWoS先进封装产能增加一倍，并计划在2024年进一步扩充。相关数据显示，去年12月台积电CoWoS月产能已经增至1.4万～1.5万片，预估到今年第四季度，CoWoS月产能将大幅扩充至3.3万～3.5万片，这与魏哲家“产能增加一倍”的说法基本吻合。而最新消息，台积电将在嘉义科学园区设两座CoWoS先进封装厂，首厂预计5月动工，2028年量产。良率低、散热难，HBM“妥协”市场调研机构集邦预估，2024年底HBM产值占整体DRAM比重有望攀至20.1%的水平。集邦科技资深研究副总经理吴雅婷表示，在相同制程及容量下，HBM颗粒尺寸较DDR5大35%～45%；良率（包含TSV封装良率），则比起DDR5低约20%～30%；生产周期（包含TSV）较DDR5多1.5～2个月不等。HBM在市场上“攻城略地”的同时，也面临良率低、散热难等方面问题。首先是低良率遏制产能。HBM制造过程中，垂直堆叠多个DRAM，并通过 TSV将它们连接起来，由高层向下打孔，通过整个硅片做信号通道；一般技术是信号引脚从侧面左右两边拉下来，而HBM是从中间直接打孔，在极小的裸片上打1000多个孔，并涉及多层；封装过程中，由于线路多且距离近，封装时的干扰、散热等问题均有可能影响线路。这意味着，上述任何阶段的失败都可能导致一枚芯片的废弃。此前有传闻称三星HBM3芯片生产良率仅10%～20%，三星予以坚决反驳，称“这不是真的”。其次是散热之困。“85℃左右它开始忘记东西，125℃左右则完全心不在焉，”这是业界对DRAM在热量面前尴尬表现的调侃。黄乐天认为，这种说法并不是很客观。存储器相对于处理器等逻辑电路，无论从峰值功耗还是功率密度而言都不算高，之所以存在散热问题，是由于3D-IC堆叠造成的。无论是哪种芯片，只要使用3D堆叠的方式就不可避免有热量聚集，如同多条电热毯堆在一起，热量自然无法散发。“事实上，散热问题是影响3DIC商用化的主要问题。3DIC早在20年前就被提出，但由于解决不好散热，只能在某些可以不计成本加入微流道能强力散热机制的场景中应用。HBM可视作在2D和3D之间寻求妥协，采用存储器件3D、逻辑器件2D的方式，尽量避免热量集中。”黄乐天告诉集微网。存储大厂起干戈，走向技术分野2013年，SK海力士与AMD合作开发世界上的首个HBM，率先“挥师入关”。有数据显示，2023年SK海力士市... PC版： 手机版：