四年十倍 HBM市场有望继续爆炸式增长 SK海力士占据“半壁江山”

四年十倍 HBM市场有望继续爆炸式增长 SK海力士占据“半壁江山” 据了解，HBM存储系统自2023年以来因AI芯片需求而呈现爆炸式增长。SK海力士和美光()一样，均已成为英伟达()新款 AI GPU的HBM存储系统供应商，提供的产品均为最新款的“HBM3E”。高盛日前发布研报称，由于更强的生成式人工智能(Gen AI)需求推动了更高的AI服务器出货量和每个GPU中更高的HBM密度，该行大幅提高了HBM总市场规模预估，现在预计市场规模将从2022年到2026年前增长10倍(4年复合年增长率77%)，从2022年的23亿美元增长至2026年的230亿美元。高盛认为，HBM市场供不应求的情况未来几年将持续，SK海力士、三星和美光等主要玩家将持续受益。与同行的解决方案相比，海力士生产力和产量更佳。高盛预计，海力士在未来2-3年将保持其50%以上的市场份额。高盛继续认为，三星是全球唯一有能力提供一站式HBM服务的公司，这可能会在长期内帮助其保有市场份额。高盛认为，随着行业需求日益转向HBM3E，美光将受益。高盛预期美光可能从2025年开始超越同行，但能否获得显著市场份额将取决于如何快速扩大其相对较小的HBM产能。高盛重申对海力士、三星和美光的买入评级。相关文章:SK海力士全球首家量产HBM3E内存 1秒处理超1TB数据SK海力士计划在印第安纳州建造价值40亿美元的芯片封装厂 ... PC版： 手机版：

SK海力士四季度意外盈利：HBM3增长超过五倍 正在开发HBM4

SK海力士四季度意外盈利：HBM3增长超过五倍 正在开发HBM4 周四公布的财报显示，SK海力士去年Q4营收同比增长47%至11.31万亿韩元，高于分析师预期的10.4万亿韩元。运营利润3460.3亿韩元，好于分析师预期的亏损1699.1亿韩元，好于Q3的亏损1.79万亿韩元；净亏损1.38万亿韩元，超过了分析师预期的亏损0.41万亿韩元，但较前一季度亏损大幅缩窄。另外，Q4毛利润为2.23亿韩元，同比大增9404%；毛利润率为20%，为连续第三个季度回升；EBITDA（税息折旧及摊销前利润）为3.58亿韩元，同比增长99%。产品方面最亮眼的是，DDR5销售增长超过四倍，HBM3增长超过五倍。SK海力士表示，公司在筹备支持HBM3E方面稳步地取得进展，将推进大规模生产HBM3E，公司正处于开发下一代HBM4产品的正轨之上。DRAM销售稳步增长，由于平均售价上涨，芯片价格在减产后趋于稳定，该部门连续两个季度亏损后，在去年Q3开始扭亏为盈，相比之下，NAND复苏“相对缓慢”，公司将优先简化NAND（产品线的）投资流程和成本。2023年全年，SK海力士营收32.77万亿韩元，运营亏损达7.73万亿韩元。展望2024年，SK海力士预计2024年资本开支将较上年增加，今年将把资本开支的增幅最小化。公司预计2024年一季度DRAM BIT环比增速将位于10%-20%区间的中部，NAND BIG环比增速将位于0%-10%区间的中部，NAND BIT环比增速将位于0%-10%区间的中部。SK海力士发布财报的几天前，三星公布了令人失望的四季报，利润暴跌35%，反映出半导体市场低迷。但行业高管预计从2024年开始芯片行业将逐步反弹，特别是随着AI技术的加速发展以及更多利用新芯片技术的服务的出现。一些芯片巨头对行业复苏也持较为乐观的态度，台积电上周预计2024年收入将强劲增长，高端光刻设备制造商ASML Q4订单收入创纪录，净利润创历史新高。 ... PC版： 手机版：

最新数据显示，美国第三季度经济年增长率为2.9%，尽管对经济衰退的担忧不断增加，但美国有望在2022年的最后几个月再次看到经济扩

最新数据显示，美国第三季度经济年增长率为2.9%，尽管对经济衰退的担忧不断增加，但美国有望在2022年的最后几个月再次看到经济扩张。 美国政府表示，经济的主要引擎消费者支出第三季度年增长率达到1.7%，之前估计涨幅为1.4%。

美光领先于SK Hynix 和三星 启动HBM3E内存的生产

美光领先于SK Hynix 和三星 启动HBM3E内存的生产 美光透露其正在大规模生产 24 GB 8-Hi HBM3E 设备，每个设备的数据传输速率为 9.2 GT/s，峰值内存带宽超过 1.2 TB/s。与 HBM3 相比，HBM3E 将数据传输速率和峰值内存带宽提高了 44%，这对于像 NVIDIA 的 H200 这样对带宽要求极高的处理器尤为重要。NVIDIA 的 H200 产品采用 Hopper 架构，计算性能与 H100 相同。同时，它配备了 141 GB HBM3E 内存，带宽达 4.8 TB/s，比 H100 的 80 GB HBM3 和 3.35 TB/s 带宽有了显著提升。美光使用其 1β（1-beta）工艺技术生产其 HBM3E，这对该公司来说是一项重大成就，因为该公司将其最新的生产节点用于数据中心级产品，这是对制造技术的一种考验。随着美光即将于 2024 年 3 月发布 36 GB 12-Hi HBM3E 产品，代表着公司的人工智能内存路线图得到了进一步巩固，与此同时这些设备接下来将用于何处还有待观察。领先于竞争对手 SK Hynix 和三星开始量产 HBM3E 内存是美光公司取得的一项重大成就，目前美光公司在 HBM 领域占据 10% 的市场份额。此举对该公司至关重要，因为它使美光能够比竞争对手更早推出高端产品，从而有可能增加收入和利润率，同时获得更大的市场份额。美光科技执行副总裁兼首席业务官 Sumit Sadana 表示："美光在 HBM3E 这一里程碑上实现了三连冠：领先的上市时间、同类最佳的行业性能以及与众不同的能效特性。人工智能工作负载在很大程度上依赖于内存带宽和容量，美光通过我们业界领先的 HBM3E 和 HBM4 路线图，以及我们面向人工智能应用的全套 DRAM 和 NAND 解决方案组合，在支持未来人工智能的大幅增长方面处于非常有利的位置。" ... PC版： 手机版：

SK海力士、台积电宣布合作开发HBM4芯片 预期2026年投产

SK海力士、台积电宣布合作开发HBM4芯片 预期2026年投产 （来源：SK海力士）背景：什么是高带宽内存众所周知，高带宽内存是为了解决传统DDR内存的带宽不足以应对高性能计算需求而开发。通过堆叠内存芯片和通过硅通孔（TSV）连接这些芯片，从而显著提高内存带宽。SK海力士在2013年首次宣布HBM技术开发成功，后来被称为HBM1的芯片通过AMD的Radeon R9 Fury显卡首次登陆市场。后续，HBM家族又先后迎来HBM2、HBM2E、HBM3和HBM3E。SK海力士介绍称，HBM3E带来了10%的散热改进，同时数据处理能力也达到每秒1.18TB的水平。（HBM3E芯片成品，来源：SK海力士）技术的迭代也带来了参数的翻倍。举例而言，根据英伟达官方的规格参数表，H100产品主要搭载的是80GB的HBM3，而使用HBM3E的H200产品，内存容量则达到几乎翻倍的141GB。找台积电做些什么？在此次合作前，所有的海力士HBM芯片都是基于公司自己的制程工艺，包括制造封装内最底层的基础裸片，然后将多层DRAM裸片堆叠在基础裸片上。（HBM3E演示视频，来源：SK海力士）两家公司在公告中表示，从HBM4产品开始，准备用台积电的先进逻辑工艺来制造基础裸片。通过超细微工艺增加更多的功能，公司可以生产在性能、共享等方面更满足客户需求的定制化HBM产品。另外，双方还计划合作优化HBM产品和台积电独有的CoWoS技术融合（2.5D封装）。通过与台积电的合作，SK海力士计划于2026年开始大规模生产HBM4芯片。作为英伟达的主要供应商，海力士正在向AI龙头提供HBM3芯片，今年开始交付HBM3E芯片。对于台积电而言，AI服务器也是在消费电子疲软、汽车需求下降的当下，维持公司业绩的最强劲驱动因素。台积电预计2024财年的总资本支出大约在280-320亿美元之间，约有10%投资于先进封装能力。三巨头激战HBM市场根据公开市场能够找得到的信息，目前国际大厂里只有SK海力士、美光科技和三星电子有能力生产与H100这类AI计算系统搭配的HBM芯片。而眼下，这三家正隔着太平洋展开激烈的竞争。大概比SK海力士早大半个月，美光科技也在今年宣布开始量产HBM3E芯片。今年2月，正在加紧扩展HBM产能的三星也发布了业界容量最大的36GB HBM3E 12H芯片。英伟达上个月表示正在对三星的芯片进行资格认证，以用于AI服务器产品。研究机构Trendforce估算，2024年的HBM市场里，SK 海力士能够占到52.5%的份额，三星和美光则占42.4%和5.1%。另外，在动态随机存取存储器（DRAM）行业内，HBM的收入份额在2023年超过8%，预计在2024年能达到20%。对于SK海力士与台积电合作一事，普华永道高科技行业研究中心主任Allen Cheng认为是“明智的举措”。他表示：“台积电几乎拥有所有开发尖端AI芯片的关键客户，进一步加深伙伴关系，意味着海力士能吸引更多的客户使用该公司的HBM。” ... PC版： 手机版：

三星、美光和SK海力士均提供GDDR7内存样品 GDDR 7大战即将拉开序幕

三星、美光和SK海力士均提供GDDR7内存样品 GDDR 7大战即将拉开序幕 起初，显卡内存兼容CPU内存，主要使用DDR内存，然而鉴于图像处理需求逐年攀升，显卡逐渐转向采用专门为图形处理器（GPU）设计GDDR。由于GDDR具有更高的数据传输速率和带宽，在推动GPU的发展过程中起到了很关键的作用。GDDR技术发展历程历经二十余年发展，GDDR家族已经迭代至第七代，GDDR家族主要有GDDR、GDDR2、GDDR3、GDDR4、GDDR5 和 GDDR6，以及最新推出的GDDR 7。在此，我们先看下前六代的技术和性能上的情况。来源：imec虽然GDDR专为GPU设计，但是最开始的一二代GDDR和GDDR 2并没有比DDR提升很多，因此也没得到GPU厂商的大规模采用。所以GDDR的正式被认可和迭代可以说是从GDDR3开始。自GDDR3开始，Nvidia和AMD等主要GPU厂商的参与使得GDDR标准得到了大幅提升，得益于制程工艺的不断进步，GDDR3内存的数据传输速率从最初的1GHz一路攀升至2.5GHz，实现了大幅提升，并保持了长达五年的生命周期，为现代图形处理和计算提供了强大的支持。GDDR4在GDDR3的基础上，进一步提升了数据传输速率和能效。虽然GDDR4在技术上取得了进步，但由于当时NVIDIA和ATI之间对于GDDR 4标准意见相左，且存在激烈的竞争关系，NVIDIA没有采用GDDR 4，这导致其市场占有率相对有限，成本很高，GDDR4很快就被历史所遗忘。GDDR5大幅提升了带宽和速度，成为2008年后高性能显卡的标配。GDDR5具有更高的时钟频率和数据传输速率，广泛应用于各类图形处理和计算任务中。GDDR5之后，NVIDIA还与美光推出了GDDR5X半代产品，用于NVIDIA高端显卡。而GDDR6则在数据传输速率和能效方面进一步提升，成为现代高端GPU的主流选择。GDDR6X引入了PAM4（Pulse Amplitude Modulation 4）信号技术，显著提高了数据传输速率。Nvidia在其Ampere架构，如GeForce RTX 3080和RTX 3090，率先采用了GDDR6X内存。可以看出，从最初的GDDR到最新的GDDR6，GDDR内存经历了多次技术迭代和性能提升。每一代GDDR内存都在数据传输速率、带宽和能效方面不断优化，满足了GPU和图形处理日益增长的需求。如今，它已成为人工智能和大数据应用领域中最受欢迎的内存芯片之一。GDDR7大战打响 三星和SK海力士打头阵目前，三星、美光和SK海力士均已开始提供GDDR7内存样品，GDDR 7大战即将拉开序幕。三星和SK海力士在今年3月份NVIDIA的GTC大会上均宣布了各家GDDR7的相关指标。两家公司都展示了16Gb（2GB）密度的产品，24Gb（3GB）更高版本没有在这一波浪潮中展现。按照三星的披露，三星GDDR7芯片能够在仅1.1 V的DRAM电压下实现32 Gbps的速度，这超过了JEDEC的GDDR7规范中的1.2 V，这一性能是通过首次应用PAM3信号实现的。再加上三星特有的其他电源管理创新，能源效率提高了20%，将待机功耗降低 50%，从而减少整体功耗。三星还在封装基板方面进行了一些创新，它使用了一种导热性高、热阻低的环氧模塑料 （EMC） 进行 GDDR7 封装，以确保有源元件（IC本身）不会过热，与 GDDR6 芯片相比，热阻降低了70%。这些芯片采用512M x32组合，采用266针FBGA 封装。而SK海力士表示它将提供速度高达40 Gbps的GDDR7芯片。与其前身GDDR6相比，最新的GDDR7产品提供的最大带宽达到160GB/s，是其上一代产品（GDDR6位80GB/s）的两倍，功耗效率提升了40%，同时，内存密度提升了1.5倍，使得视觉效果也进一步得到增强。独立的四通道的模式，提高了内存并行处理能力，每个通道支持32字节的数据访问。除了四通道模式，GDDR7还支持双通道模式，提供了灵活的配置选项，以适应不同的应用需求和系统架构。SK海力士GDDR7技术指标（来源：SK海力士）SK海力士GDDR7采用与GDDR6相同的板尺寸，大小为12mm x 14mm，这意味着在设计和制造过程中，GDDR7可以直接替换现有的GDDR6模块，而无需对电路板进行重新设计。此外，GDDR7内存还配备了专用的内存实现方案和PCB（印刷电路板）设计，以最大化其性能和效率。（来源：SK海力士）SK海力士的16Gb GDDR7 芯片基本已经准备就绪，将在今年晚些时候批量出货。三星的也在出样品的过程中。虽然尚不清楚谁将成为三星和SK海力士GDDR7内存的首批客户，但是考虑到两家均在NVIDIA GTC2024上进行展示，这也很清楚地表明NVIDIA是其中之一。姗姗来迟的美光2024年6月4日，美光宣布开始为下一代GPU提供GDDR7内存样品，它有28GB/s和32Gb/s两种速度。新一代GDDR7采用美光科技的1β （1-beta） DRAM 技术制造，在能效和性能上实现了大幅提升。美光在宣布这一消息时公布了一些诱人的数字。该公司表示，32Gb/s GDDR7提供的内存带宽比GDDR6高出60%，在384位总线上可达到1.5TB/s的内存带宽。这比其前代产品有了显著的飞跃，前代产品在RTX 4090等 GPU上的384位内存总线上最高可达1TB/s。同时，工作电压降低至1.2V，上一代为1.35V，美光表示，其GDDR7的效率比GDDR6 提高了50%，实现节能的方式主要包括分割电压平面、部分设备运行和休眠模式。采用FBGA更薄的封装高度（1.1mm对比1.2mm）和高热导EMC封装，提供65%更好的热阻，这为台式机和笔记本电脑提供了更好的热管理。美光GDDR6与GDDR7特点比较美光GDDR7的这些特性提升使其在游戏、生成式AI、高性能计算（HPC）领域前景广阔。也就意味着GDDR7可能与HBM相竞争。如美光所述，在游戏领域，GDDR7预计在每秒帧数（FPS）方面可提升超过30%，特别是在光线追踪和光栅化工作负载下；在生成式AI应用中，GDDR7提供超过1.5 TB/s的高系统带宽，预计可将生成式AI文本到图像生成的响应时间减少多达20%；对于HPC，GDDR7预计能够减少处理时间，实现复杂工作负载（如动画、3D设计、科学仿真和金融建模）的无缝多任务处理。据美光的公告，其GDDR7内存将于2024年下半年直接从美光以及通过精选的全球渠道分销商和经销商发售。NVIDIA使用美光的内存是板上钉钉了，因为此前美光专门为 Nvidia 制造了GDDR6x，不过在美光GDDR7的公告中也提到了AMD，因此AMD也可能会加入这一行列。GDDR 7最大的技术变化2024年3月，JEDEC发布了GDDR7 内存标准规范。JEDEC 是微电子行业标准制定领域的全球领导者。如下图所示，GDDR7的每引脚带宽最高可达48 Gbps，远高于GDDR6和GDDR6X的24 Gbps。在256位总线宽度下，GDDR7的总带宽达到1024 GB/sec，显著高于GDDR6和GDDR6X的768 GB/sec。GDDR7的工作电压为1.2 V，比GDDR6和GDDR6X的1.35 V更低。在信号技术上， GDDR7采用PAM-3信号技术，而GDDR6X采用PAM-4，GDDR6则使用传统的NRZ信号技术。GDDR7的最大密度达到64 Gb，是GDDR6和GDDR6X的两倍。GDDR7采用266 FBGA封装，高于GDDR6和GDDR6X的180 FBGA。图表展示了GDDR7相对于前几代在带宽、功耗和封装上的显著改进。来源：anandtechGDDR7最大的技术变化在于内存总线从2位不归零 （NRZ） 编码转换为3位脉冲（-1、0、+1）幅度调制 （PAM3） 编码。PAM3使GDDR7能够在两个周期内传输3位数据，仅这一变化就让数据传输效率提高了50%。随着向PAM3信号的转变，内存行业有了一条新途径来扩展 GDDR 设备的性能并推动图形和各种高性能应用的持续发展。之前的GDDR标准使用非归零（NRZ）技术，通过两种信号电平来传输编码为1或0的数据。这种方法在多个GDDR世代中都足够使用，但随着时钟速度和系统复杂性的增加，成为了一大瓶颈。为了解决这一挑战，美光与英伟达推出了采用多级信号技术的创新GDDR6X技术。美光是唯一提供GDDR6X的公司，GDDR6X利用PAM4信号技术，提供了业界领先的>1.1 TB/s带宽。美光在GDDR6X方面的成功和经验为下一代使用类似信号方法的GDDR奠定了基础。虽然PAM3每周期传输的比特数量低于GDDR6X上的PAM4，但PAM3提供了50%的更高电压裕度，并且编码复杂度更低，这减... PC版： 手机版：