三星和SK海力士推12层HBM3E内存

三星和SK海力士推12层HBM3E内存 3月19日消息，三星电子和 SK 海力士3月18日在人工智能芯片巨头英伟达年度开发者大会 (GTC) 上双双公开12层堆叠动态随机存取存储器 (DRAM) 芯片的第五代高带宽存储器 (HBM3E) “HBM3E 12H DRAM”实物。高带宽存储器是指利用先进封装方法垂直堆叠多个DRAM芯片，使数据处理速度取得飞跃性提升的高性能内存。

三星独家供货英伟达12层HBM3E内存 SK海力士出局

三星独家供货英伟达12层HBM3E内存 SK海力士出局 而SK海力士因部分工程问题，未能推出12层HBM3E产品，但计划从本月末开始批量生产8层HBM3E产品。今年2月27日，三星电子官宣成功开发出业界首款36GB 12H（12层堆叠）HBM3E DRAM内存。据介绍，HBM3E 12H能够提供高达1280GB/s的带宽和迄今为止最大的36GB容量，相比于8层堆叠的HBM3 8H，在带宽和容量上提升超过50%。同时相比于8层堆叠，其AI训练速度平均提高34%，同时推理服务用户数量也可增加超过11.5倍。在此前的GTC2024大会上，英伟达正式发布了B200和GB200系列芯片。据黄仁勋介绍，B200拥有2080亿个晶体管，采用台积电4NP工艺制程，可以支持多达10万亿个参数的AI大模型，还通过单个GPU提供20 petaflops的AI性能。 ... PC版： 手机版：

三星、美光和SK海力士均提供GDDR7内存样品 GDDR 7大战即将拉开序幕

三星、美光和SK海力士均提供GDDR7内存样品 GDDR 7大战即将拉开序幕 起初，显卡内存兼容CPU内存，主要使用DDR内存，然而鉴于图像处理需求逐年攀升，显卡逐渐转向采用专门为图形处理器（GPU）设计GDDR。由于GDDR具有更高的数据传输速率和带宽，在推动GPU的发展过程中起到了很关键的作用。GDDR技术发展历程历经二十余年发展，GDDR家族已经迭代至第七代，GDDR家族主要有GDDR、GDDR2、GDDR3、GDDR4、GDDR5 和 GDDR6，以及最新推出的GDDR 7。在此，我们先看下前六代的技术和性能上的情况。来源：imec虽然GDDR专为GPU设计，但是最开始的一二代GDDR和GDDR 2并没有比DDR提升很多，因此也没得到GPU厂商的大规模采用。所以GDDR的正式被认可和迭代可以说是从GDDR3开始。自GDDR3开始，Nvidia和AMD等主要GPU厂商的参与使得GDDR标准得到了大幅提升，得益于制程工艺的不断进步，GDDR3内存的数据传输速率从最初的1GHz一路攀升至2.5GHz，实现了大幅提升，并保持了长达五年的生命周期，为现代图形处理和计算提供了强大的支持。GDDR4在GDDR3的基础上，进一步提升了数据传输速率和能效。虽然GDDR4在技术上取得了进步，但由于当时NVIDIA和ATI之间对于GDDR 4标准意见相左，且存在激烈的竞争关系，NVIDIA没有采用GDDR 4，这导致其市场占有率相对有限，成本很高，GDDR4很快就被历史所遗忘。GDDR5大幅提升了带宽和速度，成为2008年后高性能显卡的标配。GDDR5具有更高的时钟频率和数据传输速率，广泛应用于各类图形处理和计算任务中。GDDR5之后，NVIDIA还与美光推出了GDDR5X半代产品，用于NVIDIA高端显卡。而GDDR6则在数据传输速率和能效方面进一步提升，成为现代高端GPU的主流选择。GDDR6X引入了PAM4（Pulse Amplitude Modulation 4）信号技术，显著提高了数据传输速率。Nvidia在其Ampere架构，如GeForce RTX 3080和RTX 3090，率先采用了GDDR6X内存。可以看出，从最初的GDDR到最新的GDDR6，GDDR内存经历了多次技术迭代和性能提升。每一代GDDR内存都在数据传输速率、带宽和能效方面不断优化，满足了GPU和图形处理日益增长的需求。如今，它已成为人工智能和大数据应用领域中最受欢迎的内存芯片之一。GDDR7大战打响 三星和SK海力士打头阵目前，三星、美光和SK海力士均已开始提供GDDR7内存样品，GDDR 7大战即将拉开序幕。三星和SK海力士在今年3月份NVIDIA的GTC大会上均宣布了各家GDDR7的相关指标。两家公司都展示了16Gb（2GB）密度的产品，24Gb（3GB）更高版本没有在这一波浪潮中展现。按照三星的披露，三星GDDR7芯片能够在仅1.1 V的DRAM电压下实现32 Gbps的速度，这超过了JEDEC的GDDR7规范中的1.2 V，这一性能是通过首次应用PAM3信号实现的。再加上三星特有的其他电源管理创新，能源效率提高了20%，将待机功耗降低 50%，从而减少整体功耗。三星还在封装基板方面进行了一些创新，它使用了一种导热性高、热阻低的环氧模塑料 （EMC） 进行 GDDR7 封装，以确保有源元件（IC本身）不会过热，与 GDDR6 芯片相比，热阻降低了70%。这些芯片采用512M x32组合，采用266针FBGA 封装。而SK海力士表示它将提供速度高达40 Gbps的GDDR7芯片。与其前身GDDR6相比，最新的GDDR7产品提供的最大带宽达到160GB/s，是其上一代产品（GDDR6位80GB/s）的两倍，功耗效率提升了40%，同时，内存密度提升了1.5倍，使得视觉效果也进一步得到增强。独立的四通道的模式，提高了内存并行处理能力，每个通道支持32字节的数据访问。除了四通道模式，GDDR7还支持双通道模式，提供了灵活的配置选项，以适应不同的应用需求和系统架构。SK海力士GDDR7技术指标（来源：SK海力士）SK海力士GDDR7采用与GDDR6相同的板尺寸，大小为12mm x 14mm，这意味着在设计和制造过程中，GDDR7可以直接替换现有的GDDR6模块，而无需对电路板进行重新设计。此外，GDDR7内存还配备了专用的内存实现方案和PCB（印刷电路板）设计，以最大化其性能和效率。（来源：SK海力士）SK海力士的16Gb GDDR7 芯片基本已经准备就绪，将在今年晚些时候批量出货。三星的也在出样品的过程中。虽然尚不清楚谁将成为三星和SK海力士GDDR7内存的首批客户，但是考虑到两家均在NVIDIA GTC2024上进行展示，这也很清楚地表明NVIDIA是其中之一。姗姗来迟的美光2024年6月4日，美光宣布开始为下一代GPU提供GDDR7内存样品，它有28GB/s和32Gb/s两种速度。新一代GDDR7采用美光科技的1β （1-beta） DRAM 技术制造，在能效和性能上实现了大幅提升。美光在宣布这一消息时公布了一些诱人的数字。该公司表示，32Gb/s GDDR7提供的内存带宽比GDDR6高出60%，在384位总线上可达到1.5TB/s的内存带宽。这比其前代产品有了显著的飞跃，前代产品在RTX 4090等 GPU上的384位内存总线上最高可达1TB/s。同时，工作电压降低至1.2V，上一代为1.35V，美光表示，其GDDR7的效率比GDDR6 提高了50%，实现节能的方式主要包括分割电压平面、部分设备运行和休眠模式。采用FBGA更薄的封装高度（1.1mm对比1.2mm）和高热导EMC封装，提供65%更好的热阻，这为台式机和笔记本电脑提供了更好的热管理。美光GDDR6与GDDR7特点比较美光GDDR7的这些特性提升使其在游戏、生成式AI、高性能计算（HPC）领域前景广阔。也就意味着GDDR7可能与HBM相竞争。如美光所述，在游戏领域，GDDR7预计在每秒帧数（FPS）方面可提升超过30%，特别是在光线追踪和光栅化工作负载下；在生成式AI应用中，GDDR7提供超过1.5 TB/s的高系统带宽，预计可将生成式AI文本到图像生成的响应时间减少多达20%；对于HPC，GDDR7预计能够减少处理时间，实现复杂工作负载（如动画、3D设计、科学仿真和金融建模）的无缝多任务处理。据美光的公告，其GDDR7内存将于2024年下半年直接从美光以及通过精选的全球渠道分销商和经销商发售。NVIDIA使用美光的内存是板上钉钉了，因为此前美光专门为 Nvidia 制造了GDDR6x，不过在美光GDDR7的公告中也提到了AMD，因此AMD也可能会加入这一行列。GDDR 7最大的技术变化2024年3月，JEDEC发布了GDDR7 内存标准规范。JEDEC 是微电子行业标准制定领域的全球领导者。如下图所示，GDDR7的每引脚带宽最高可达48 Gbps，远高于GDDR6和GDDR6X的24 Gbps。在256位总线宽度下，GDDR7的总带宽达到1024 GB/sec，显著高于GDDR6和GDDR6X的768 GB/sec。GDDR7的工作电压为1.2 V，比GDDR6和GDDR6X的1.35 V更低。在信号技术上， GDDR7采用PAM-3信号技术，而GDDR6X采用PAM-4，GDDR6则使用传统的NRZ信号技术。GDDR7的最大密度达到64 Gb，是GDDR6和GDDR6X的两倍。GDDR7采用266 FBGA封装，高于GDDR6和GDDR6X的180 FBGA。图表展示了GDDR7相对于前几代在带宽、功耗和封装上的显著改进。来源：anandtechGDDR7最大的技术变化在于内存总线从2位不归零 （NRZ） 编码转换为3位脉冲（-1、0、+1）幅度调制 （PAM3） 编码。PAM3使GDDR7能够在两个周期内传输3位数据，仅这一变化就让数据传输效率提高了50%。随着向PAM3信号的转变，内存行业有了一条新途径来扩展 GDDR 设备的性能并推动图形和各种高性能应用的持续发展。之前的GDDR标准使用非归零（NRZ）技术，通过两种信号电平来传输编码为1或0的数据。这种方法在多个GDDR世代中都足够使用，但随着时钟速度和系统复杂性的增加，成为了一大瓶颈。为了解决这一挑战，美光与英伟达推出了采用多级信号技术的创新GDDR6X技术。美光是唯一提供GDDR6X的公司，GDDR6X利用PAM4信号技术，提供了业界领先的>1.1 TB/s带宽。美光在GDDR6X方面的成功和经验为下一代使用类似信号方法的GDDR奠定了基础。虽然PAM3每周期传输的比特数量低于GDDR6X上的PAM4，但PAM3提供了50%的更高电压裕度，并且编码复杂度更低，这减... PC版： 手机版：

SK hynix GDDR7内存将GPU带宽提升至160GB/秒 容量达24Gb

SK hynix GDDR7内存将GPU带宽提升至160GB/秒 容量达24Gb 虽然有报道称第一代 GDDR7 内存产品将使用 28 Gbps 的芯片，容量为 16 GB（2 GB VRAM），但 DRAM 制造商并没有停止展示他们的下一代产品。在GTC 2024上，SK hynix展示了其GDDR7内存模块，它将提供40 Gbps的针脚速度，每个模块的带宽高达160 GB/s。GDDR7 标准的基准速度为 32 Gbps，每个模块的带宽为 128 GB/s，因此未来的 GDDR7 变体在带宽方面将提升 25%。三星也在加速 GDDR7 DRAM 的生产，该公司还在 GTC 上展示了其内存模块，不过是 16 Gb 和 32 Gbps 两种规格。该公司还展示了引脚速度 37 Gbps 的模块。此外，该公司还将推出不同容量的x显存，目前已上市的最高容量为 24 Gb，基准容量为 16 Gb。使用 16 Gb 模块可获得 2 GB 的 VRAM 容量，使用 24 Gb 模块可获得 3 GB 的 VRAM 容量。但我们已经报道过 JEDEC 公布的规格，这些规格证实 GDDR7 将达到 48 Gbps 的速度和 64 Gb 的密度（8 GB VRAM 容量）。这将标志着显存容量的大幅提升，256 位标准接口可提供 64 GB 容量。相比之下，目前 256 位总线接口使用 16 Gb DRAM 模块可达到的最大容量为 16 GB。24GB DRAM 模块可将容量提升至 24GB。但同样，这些速度和容量也不是我们一开始就能期待的。这样的规格可能要到 2026-2027 年之后才能实现，而现在距离 2026-2027 年还有很多年。以下是我们可以期待的第一代 GDDR7 内存产品：512 位/28 Gbps/32GB（最大内存）/1792 GB/s（最大带宽）384 位 / 28 Gbps / 24 GB（最大内存）/ 1344 GB/秒（最大带宽）256 位 / 28 Gbps / 16 GB（最大内存）/ 896.0 GB/秒（最大带宽）192 位 / 28 Gbps / 12 GB（最大内存）/ 672.0 GB/秒（最大带宽）128 位/28 Gbps/8GB（最大内存）/448.0 GB/s（最大带宽）以下是 SK hynix 40 Gbps 和 24 Gb GDDR7 DRAM 产品上市后的预期：512 位 / 40 Gbps / 48 GB（最大内存）/ 2560 GB/秒（最大带宽）384 位/40 Gbps/36 GB（最大内存）/1920 GB/秒（最大带宽）256 位/40 Gbps/24 GB（最大内存）/1280 GB/秒（最大带宽）192 位/40 Gbps/18 GB（最大内存）/960.0 GB/秒（最大带宽）128 位 / 40 Gbps / 12 GB（最大内存）/ 640.0 GB/秒（最大带宽）除了GDDR7内存模块，SK hynix还展示了DDR5 MCR DIMM，每个模块的容量达64 GB，速度达8800 MT/s，电压为1.1V。 ... PC版： 手机版：

SK海力士计划2025Q1量产GDDR7 传输速度达40Gbps

SK海力士计划2025Q1量产GDDR7 传输速度达40Gbps 据悉，三星和美光都计划在2024年内实现GDDR7的量产。三星的GDDR7产品页面已在今年3月上线，而美光最近也公告已向合作伙伴提供了样品，并预计在2024年下半年开始供货。尽管如此，SK海力士的量产计划虽然稍晚，但并不意味着失去了市场先机。目前，各方都在与合作伙伴进行紧密验证，确保产品的稳定性和性能。值得一提的是，GDDR7在信号编码机制上有了显著的进步。它采用了PAM3信号编码机制，与GDDR6使用的NRZ/PAM2和英伟达、美光共同开发的GDDT6X使用的PAM4有所不同。PAM3每两个周期能传输3位数据，而NRZ/PAM2每周期传输1位，PAM4每周期传输2位。这一改变进一步提升了数据传输效率和带宽。从SK海力士展出的样品来看，他们计划提供16Gb（2GB）和24Gb（3GB）的模块，速率高达40Gbps，对应的带宽达到惊人的160GB/s。这一数据比三星和美光首批GDDR7芯片的32Gbps速率和16Gb（2GB）模块容量更为出色。SK海力士显然在性能上下了不少功夫，为其未来的市场竞争增添了信心。 ... PC版： 手机版：

三星开始在产品目录中列出 GDDR7 内存芯片

三星开始在产品目录中列出 GDDR7 内存芯片 目前，三星在其网站上列出了两种 GDDR7 器件：16 Gbit 芯片的额定数据传输速率高达 28 GT/s，更快的版本数据传输速率高达 32 GT/s（与三星于 2023 年中期宣布的初始部件一致）。这些芯片采用 512M x32 组织，266 引脚 FBGA 封装。这些芯片已经开始出样，因此三星的客户GPU 供应商、人工智能推理供应商、网络产品供应商等的实验室中应该已经有了 GDDR7 芯片的样品。GDDR7 规格承诺每芯片最大容量为 64 Gbit（8 GB），数据传输速率为 48 GT/s。与此同时，第一代 GDDR7 芯片（目前已公布）的容量为 16 Gbit（2 GB），数据传输速率达 32 GT/s。从性能上看，第一代 GDDR7 与 GDDR6 和 GDDR6X 相比，内存带宽有了显著提高。不过，容量/密度的提高要等到内存制造商进入下一代基于 EUV 的工艺节点后才能实现。因此，首批基于 GDDR7 的显卡不可能在内存容量上有任何改进。三星和 SK Hynix 此前曾表示他们打算在 2025 年实现 24 Gbit GDDR7 芯片的量产。此外，值得注意的是，SK Hynix 上周也在英伟达的 GTC 上展示了其 GDDR7 芯片。因此，三星的竞争对手应该会紧随其后提供样品，并最终量产内存。 ... PC版： 手机版：