厂商对AI需求展望极具信心 明年HBM内存价格最高再涨10%

厂商对AI需求展望极具信心 明年HBM内存价格最高再涨10% 1、HBM买方对AI需求展望仍具高度信心，愿意接受价格续涨；2、HBM3e的TSV良率目前仅约40%-60%，因此买方愿意接受涨价以锁定质量稳定的货源；3、未来HBM每Gb单价可能因DRAM供应商的可靠度，以及供应能力产生价差，可能影响供应商获利。前不久SK海力士CEO曾表示，公司按量产计划2025年生产的HBM产品基本售罄，主要由于AI爆发对先进存储产品HBM的需求。不仅如此，此前SK海力士还宣布其2024年HBM的产能已被客户抢购一空。SK海力士认为，目前HBM和高容量DRAM模块等面向AI的存储器在2023年整个存储市场的占比约为5%，预计到2028年这一比例可以达到61%。 ... PC版： 手机版：

美光领先于SK Hynix 和三星 启动HBM3E内存的生产

美光领先于SK Hynix 和三星 启动HBM3E内存的生产 美光透露其正在大规模生产 24 GB 8-Hi HBM3E 设备，每个设备的数据传输速率为 9.2 GT/s，峰值内存带宽超过 1.2 TB/s。与 HBM3 相比，HBM3E 将数据传输速率和峰值内存带宽提高了 44%，这对于像 NVIDIA 的 H200 这样对带宽要求极高的处理器尤为重要。NVIDIA 的 H200 产品采用 Hopper 架构，计算性能与 H100 相同。同时，它配备了 141 GB HBM3E 内存，带宽达 4.8 TB/s，比 H100 的 80 GB HBM3 和 3.35 TB/s 带宽有了显著提升。美光使用其 1β（1-beta）工艺技术生产其 HBM3E，这对该公司来说是一项重大成就，因为该公司将其最新的生产节点用于数据中心级产品，这是对制造技术的一种考验。随着美光即将于 2024 年 3 月发布 36 GB 12-Hi HBM3E 产品，代表着公司的人工智能内存路线图得到了进一步巩固，与此同时这些设备接下来将用于何处还有待观察。领先于竞争对手 SK Hynix 和三星开始量产 HBM3E 内存是美光公司取得的一项重大成就，目前美光公司在 HBM 领域占据 10% 的市场份额。此举对该公司至关重要，因为它使美光能够比竞争对手更早推出高端产品，从而有可能增加收入和利润率，同时获得更大的市场份额。美光科技执行副总裁兼首席业务官 Sumit Sadana 表示："美光在 HBM3E 这一里程碑上实现了三连冠：领先的上市时间、同类最佳的行业性能以及与众不同的能效特性。人工智能工作负载在很大程度上依赖于内存带宽和容量，美光通过我们业界领先的 HBM3E 和 HBM4 路线图，以及我们面向人工智能应用的全套 DRAM 和 NAND 解决方案组合，在支持未来人工智能的大幅增长方面处于非常有利的位置。" ... PC版： 手机版：

美光2024年和2025年大部分的HBM3E供应已经售罄

美光2024年和2025年大部分的HBM3E供应已经售罄 美光公司首席执行官 Sanjay Mehrotra 在本周财报电话会议的准备发言中表示："我们 2024 年的 HBM 已经售罄，2025 年的绝大部分供应也已经分配完毕。我们仍然预计，在 2025 年的某个时候，HBM 位数份额将与我们整体 DRAM 位数份额相当"。美光的首款 HBM3E 产品是一个 8-Hi 24 GB 堆栈，具有 1024 位接口、9.2 GT/s 数据传输速率和 1.2 TB/s 的总带宽。英伟达用于人工智能和高性能计算的H200加速器将使用6个这样的立方体，提供总计141 GB的可访问高带宽内存。Mehrotra说："我们有望在2024财年从HBM获得数亿美元的收入，预计从第三财季开始，HBM收入将增加我们的DRAM和整体毛利率。"该公司还开始为其 12-Hi 36 GB 堆栈提供样品，容量提高了 50%。这些 KGSD 将于 2025 年量产，并将用于下一代人工智能产品。与此同时，英伟达的 B100 和 B200 看起来不会使用 36 GB HBM3E 堆栈，至少在初期不会。人工智能服务器的需求在去年创下了纪录，看来今年也将保持高位。一些分析师认为，英伟达的 A100 和 H100 处理器（以及它们的各种衍生产品）在 2023 年占据了整个人工智能处理器市场高达 80% 的份额。虽然今年英伟达在推理方面将面临来自 AMD、AWS、D-Matrix、英特尔、Tenstorrent 和其他公司更激烈的竞争，但英伟达的 H200 看起来仍将是人工智能训练的首选处理器，尤其是对于 Meta 和微软这样的大公司来说，它们已经运行着由数十万英伟达加速器组成的舰队。考虑到这一点，成为英伟达 H200 的 HBM3E 的主要供应商对美光来说是一件大事，因为它使美光最终能够在 HBM 市场上占据相当大的份额。同时，由于 HBM 堆栈中的每个 DRAM 器件都有一个较宽的接口，因此在物理尺寸上要大于普通的 DDR4 或 DDR5 IC。因此，HBM3E 内存的量产将影响美光公司商品 DRAM 的位数供应。"HBM产量的增长将限制非HBM产品的供应增长，"Mehrotra说。"从整个行业来看，在相同的技术节点上生产一定数量的位，HBM3E 消耗的晶圆供应量大约是 DDR5 的三倍。" ... PC版： 手机版：

戴尔AI服务器需求激增获大摩力挺 股价飙升11%创历史新高

戴尔AI服务器需求激增获大摩力挺 股价飙升11%创历史新高 伍德林在周三发布的报告中表示，戴尔在人工智能服务器市场的势头正在加速，这为该股带来了新的上涨动力。他指出，戴尔的人工智能服务器业务势头超过了其他任何OEM制造商。他预计，到2025财年(截至明年2月)，戴尔在AI服务器领域的收入将达到约100亿美元。此次股价大涨是自3月1日以来的最大单日涨幅，当时戴尔的财报显示，该公司已经开始从人工智能热潮中受益。尽管戴尔的年涨幅已超过99%，但仍然落后于其竞争对手超微电脑()(233%的涨幅)，不过已超过慧与科技()今年6%的涨幅。目前，大多数人工智能服务器都是围绕英伟达()的芯片构建的。这些芯片在科技行业备受重视，因为它们用于部署包括谷歌、OpenAI和Meta等公司的先进人工智能模型。戴尔销售的服务器使用了英伟达的最新AI芯片，包括H100 GPU和最新的Blackwell一代芯片。在3月的英伟达年会上，英伟达CEO黄仁勋特别提到，客户可以通过戴尔订购最新的AI芯片。黄仁勋在会上说：“你将需要一个人工智能工厂，而没有哪家公司比戴尔更擅长为企业构建超大规模的端到端系统。”他还指出，戴尔的联合创始人迈克尔·戴尔对接受订单感到非常高兴。伍德林在报告中指出，尽管很难确切预测Nvidia GPU的出货量和AI服务器的产量增长速度，但他对戴尔的业务持续增长充满信心，原因包括人工智能服务器需求的增强和戴尔市场份额的持续增加。他还提到，戴尔可能能够向客户销售额外的硬件，如数据存储等附加产品。同时，戴尔的PC业务也可能在下周微软会议展示新功能时得到提振，特别是那些期待已久的人工智能功能。许多分析师预计，这些功能将推动对新个人电脑的需求。尽管在2020年和2021年期间购买新机器的消费者和企业推迟了下一次升级的时间表，导致PC销量在疫情后连续两年下滑，但伍德林认为个人电脑行业将再次增长，并且表现将超出预期，这将有利于戴尔的整体业绩。他在报告中总结称：“我们对PC市场的复苏持乐观态度，因为我们不仅在最近的CIO和VAR调查中听到了升级和更新的需求，还看到了近几个月笔记本ODM生产的向上修正。”戴尔预计将在5月30日公布4月份的季度收益，而英伟达则计划在5月22日发布其季度收益。据了解，在千禧年借助个人电脑(PC)的热浪崛起后，戴尔陷入沉寂多年，直到2016年AI技术大爆发戴尔意识到这是个翻身的机会。便开始大力布局AI：2018年发布内置机器学习引擎的高端存储PowerMax，2020年发布AI服务器PowerEdge以及AI PC，从AI服务器到AI存储平台，再到内嵌AI功能的个人电脑产品，戴尔堪称用AI把自己武装到牙齿。事实上，自今年3月初发布亮眼的上一财年第四财季财报以来，戴尔就进入了更多押注AI投资者的视野，股价自此加速上涨。发布财报后首个交易日3月1日，戴尔一日飙涨31.6%。在截至今年2月的2024财年第四财季，戴尔营收同比下降11%，降幅低于预期，净利润超预期同比激增89%。得益于AI优化服务器业务的推动，当季戴尔的基础设施解决方案组(ISG)业务本营收同比下降6%，但环比增长10%。戴尔CEO Jeff Clarke在发布财报时表示，强劲的AI优化服务器势头仍在继续，订单环比增长近40%，积压订单几乎翻倍，2024财年结束时销售额达到29亿美元。虽然预计本财季将同比下降12%到16%，但戴尔仍乐观预计，在AI热潮助推下，公司将在2025财年恢复增长。戴尔科技首席财务官Yvonne McGill表示，戴尔决定将年度股息提高20%，这“证明了我们对业务的信心”。McGill还预计，电脑业务的收入应该会以“低个位数”增长，而基础设施部门将在AI的推动下实现中十位数的增长。 ... PC版： 手机版：

SK hynix宣布2026年量产HBM4 为下一代AI GPU做准备

SK hynix宣布2026年量产HBM4 为下一代AI GPU做准备 随着人工智能在市场上的应用迅速增加，我们在迈向未来的过程中需要更强的计算能力，值得注意的是，HBM 在人工智能计算如何定位自己的现代生活中发挥了至关重要的作用，因为它是制造人工智能加速器的关键部件。SK hynix 副总裁 Kim Chun-hwan 在 2024 年韩国半导体展（SEMICON Korea 2024）上发表主题演讲时透露，该公司打算在 2026 年之前开始量产 HBM4，并声称这将推动人工智能市场的巨大增长。他认为，除了早日实现下一代产品过渡之外，重要的是要认识到 HBM 行业面临着巨大的需求；因此，创造一种既能无缝供应又具有创新性的解决方案更为重要。Kim 认为，到 2025 年，HBM 市场预计将增长高达 40%，并已提前定位，以充分利用这一市场。关于对 HBM4 的期待，Trendforce分享的路线图预计，首批 HBM4 样品的每个堆栈容量将高达 36 GB，而完整规格预计将在 2024-2025 年下半年左右由 JEDEC 发布。首批客户样品和可用性预计将于 2026 年推出，因此距离我们看到新的高带宽内存人工智能解决方案的实际应用还有很长的时间。目前还不确定哪种类型的人工智能产品将采用新工艺，因此我们暂时无法做出任何预测。随着 SK hynix 的加入，HBM 市场的竞争似乎会变得更加激烈，哪家公司会崛起并登上王者宝座，让我们拭目以待。 ... PC版： 手机版：

三星组建全新HBM提升团队 并加速AI芯片Mach系列开发

三星组建全新HBM提升团队 并加速AI芯片Mach系列开发 业内消息人士3月29日透露，新团队将负责DRAM、NAND的开发和销售，三星执行副总裁兼DRAM产品和技术主管Hwang Sang-joon将领导新团队，但团队人数尚未确认。据悉，这是三星自2024年1月创建由100名设备和解决方案（DS）部门组成的HBM专职团队之后，成立的第二个HBM专职团队。为了在人工智能芯片市场抢占先机，三星将采取“双轨”战略，同时开发两种类型的尖端存储芯片：HBM和Mach系列。三星计划在年内量产HBM3E，并在2025年量产HBM4。池庆贤3月29日表示，“想要开发定制化HBM4芯片的客户将与我们合作。得益于专业团队的努力，三星将获得HBM市场的领导地位。”此前三星HBM负责人预计，2024年该公司HBM芯片产量将比去年增加2.9倍。三星人工智能芯片Mach-1目前正在开发中，预计今年年内将推出原型产品。这款芯片采用SoC（片上系统）形式，用于人工智能推理加速，可减少GPU与HBM的瓶颈。此外，三星未来还将推出Mach-2芯片，该公司高管表示，客户对此表现出浓厚的兴趣。 ... PC版： 手机版：