NVIDIA Blackwell DGX GB200 AI服务器将于2024年下半年进入量产 有望创造巨额收入

NVIDIA Blackwell DGX GB200 AI服务器将于2024年下半年进入量产 有望创造巨额收入 据报道，英伟达预计将在 2024 年下半年量产 GB200 服务器，到 2025 年预计将有 40000 台服务器进入市场。台湾《经济日报》披露，英伟达计划将Blackwell DGX GB200 AI服务器的供应分为三个不同的部分，主要是DGX NVL72、NVL32和HGX B200。据报道，其中最高端的将是 NVL72，它将搭载 72 个英伟达的 Blackwell B200 AI GPU 和 Grace Hopper 芯片。据透露，DGX NVL72 机柜的单价据说在 300 万美元左右，考虑到英伟达能卖出 1 万台，其他产品暂且不计，预计仅 NVL72 就能为公司带来 300 亿美元的收入。富士康和广达这两大巨头预计将负责大部分供应的制造过程，富士康预计服务器收入将因此大幅上升。由此可见，在未来的人工智能市场中，收入流预计会有多大，考虑到 Blackwell 产品的反响与前代产品类似，没有人能够阻止英伟达爆炸式的财务增长，以及产业链中与之相连的所有供应商。这仅仅是个开始，随着对人工智能计算能力需求的增长，数据中心市场也将同步扩大。 ... PC版： 手机版：

超微获得NVIDIA Blackwell AI服务器巨额订单 占总供应量的25%

超微获得NVIDIA Blackwell AI服务器巨额订单 占总供应量的25% 在人工智能的热潮中，SMCI（超微计算机公司）在相当长的一段时间里都是市场的头条新闻。该公司不仅股价表现优异，同比增长 182%，而且还成功地与英伟达（NVIDIA）建立了合作关系，成为市场的焦点。SMCI 专注于专为人工智能工作负载设计的高性能服务器和存储系统，在过去几个季度里，订单大量涌入。现在，该公司正寻求将其业务扩展到更先进的NVIDIA Blackwell AI GPU 架构，因为有报道称超微计算机公司已经收到了以 Blackwell 为核心的 AI 服务器机架的巨额订单。台湾《经济日报》报道称，超微计算机公司（SMCI）准备出货 25% 的英伟达（NVIDIA）基于 GB200 的 Blackwell AI 服务器，总量将达到 10000 台以上。这一次，NVIDIA似乎赋予了 SMCI 更多的责任，如果进展顺利，最终将转化为巨大的经济效益。这些系统包括：NVIDIA HGX B100 8-GPU 和 HGX B200 8-GPU 系统包含 10 个 GPU 的 5U/4U PCIe GPU 系统SuperBlade 在 8U 机柜中最多可配备 20 个 B100 GPU，在 6U 机柜中最多可配备 10 个 B100 GPU2U Hyper 最多可配备 3 个 B100 GPU配备最多 4 个 B100 GPU 的 Supermicro 2U x86 MGX 系统为了与富士康和广达等巨头竞争，SMCI 决定积极拓展供应链，将 Argosy Research 和 Auras Technology 等公司纳入其中。自今年年初以来，该公司已经积累了NVIDIA公司的Blackwell GB200 AI GPU，以确保供应链流程顺畅，最终保证在竞争中占据优势。此外，超微计算机公司已经在水冷要件方面进行了投资，据说这对较新的 Blackwell AI 服务器至关重要。以下是超微服务器阵容的部分特点：超微公司的NVIDIA HGX B200 8GPU 风冷和液冷系统可实现最高的生成式人工智能训练性能。该系统采用 8 个英伟达 Blackwell GPU，通过第五代 NVLink 与 1.5TB 高带宽内存池（速度达 60TB/s）连接，以加快人工智能训练工作负载的速度。超微最畅销的人工智能训练系统配备NVIDIA HGX H100/H200 8-GPU 的 4U/8U 系统，将支持英伟达即将推出的 HGX B100 8-GPU。超微机架级解决方案采用 GB200 Superchip 系统作为服务器节点，每个节点配备 2 个 Grace CPU 和 4 个 NVIDIA Blackwell GPU。超微的直接到芯片液冷技术最大限度地提高了密度，在一个 44U ORV3 机架上可安装 72 个 GB200 192GB GPU（每个 GPU 的 TDP 为 1200W）。由此看来，SMCI 希望这次以更积极的方式回归，通过与NVIDIA的密切关系，只要他们能保持供应链和产品质量，就可以继续保持现有的市场地位。 ... PC版： 手机版：

NVIDIA Blackwell GPU预计售价3.5万美元 AI服务器售价高达300万美元

NVIDIA Blackwell GPU预计售价3.5万美元 AI服务器售价高达300万美元 NVIDIA 的 Blackwell 产品包括 GPU、超级芯片平台和服务器，是每一家热衷于人工智能的大型科技公司所梦寐以求的。来自汇丰银行的分析师披露了即将推出的组件的预期定价，英伟达的 Blackwell AI 服务器机架这次的价格不菲，将超过 300 万美元大关，B100 GPU 等 AI 加速器单卖的标价也很高。这一消息来自《巴伦周刊》（Barron's）的资深撰稿人@firstadopter引用了汇丰银行（HSBC）对英伟达（NVIDIA）Blackwell产品的分析。从人工智能服务器开始，英伟达 GB200 NVL36 服务器机架的单台售价预计为 180 万美元，而更高级的 NVL72 对应产品的售价则高达 300 万美元。我们在之前的报道中也透露了这一具体数额，因此实际数字可能不会太远。关于单卖的人工智能加速卡，汇丰银行表示，单个 B100 人工智能 GPU 的售价预计约为 3 万至 3.5 万美元，而GB200 超级芯片的单价约为 6 万至 7 万美元。这些超级芯片包含两个 GB100 GPU 和一个 Grace Hopper 芯片，以及一个大型系统内存池（HBM3E）。这些估价也与詹森本人透露的价格基本一致。分析师的估算可能没有考虑实时市场情况、采购量和许多其他因素。因此，根据买家类型和订单的严重程度，实际数字可能会更低甚至更高。现在，如果我们从代际上进行比较，Blackwell 价格肯定要比 Hopper 高。如果 Blackwell AI GPU 架构能够复制 Hopper GPU 的成功应用，那么英伟达的市场份额和主导地位又将会有质的飞跃。谁知道呢，也许它将超越苹果和微软等公司，成为全球最有价值的公司之一。到目前为止，我们已经看到Meta 等公司下达了 Blackwell 订单，微软和 OpenAI 也在其中，而这仅仅是首批订单。NVIDIA公司首席执行官黄仁勋（Jensen Huang）早早识别出人工智能热潮的大手笔确实收到了成效。 ... PC版： 手机版：

部署 B200 GPU 出现摩擦：微软要求自家定制服务器机架，英伟达希望整机出货

部署 B200 GPU 出现摩擦：微软要求自家定制服务器机架，英伟达希望整机出货 双方的“摩擦”最终以英伟达的妥协告终，英伟达最终让步，让微软为其 B200 AI GPU 设计自己的定制服务器机架，但这可能不是两家巨头之间的最后一次分歧。

NVIDIA“最强AI芯片”Blackwell B200 GPU令业内惊呼新的摩尔定律诞生

NVIDIA“最强AI芯片”Blackwell B200 GPU令业内惊呼新的摩尔定律诞生 在GTC直播中，黄仁勋左手举着 B200 GPU，右手举着 H100此外，将两个B200 GPU与单个Grace CPU 结合在一起的 GB200，可以为LLM推理工作负载提供30倍的性能，并且显著提高效率。黄仁勋还强调称：“与H100相比，GB200的成本和能耗降低了25倍！关于市场近期颇为关注的能源消耗问题，B200 GPU也交出了最新的答卷。黄仁勋表示，此前训练一个1.8 万亿参数模型，需要8000 个 Hopper GPU 并消耗15 MW电力。但如今，2000 个 Blackwell GPU就可以实现这一目标，耗电量仅为4MW。在拥有1750亿参数的GPT-3大模型基准测试中，GB200的性能是H100的7倍，训练速度是H100的4倍。值得一提的是，B200 GPU的重要进步之一，是采用了第二代Transformer引擎。它通过对每个神经元使用4位（20 petaflops FP4）而不是8位，直接将计算能力、带宽和模型参数规模翻了一倍。而只有当这些大量的GPU连接在一起时，第二个重要区别才会显现，那就是新一代NVLink交换机可以让576个GPU相互通信，双向带宽高达1.8TB/秒。而这就需要英伟达构建一个全新的网络交换芯片，其中包括500亿个晶体管和一些自己的板载计算：拥有3.6 teraflops FP8处理能力。在此之前，仅16个GPU组成的集群，就会耗费60%的时间用于相互通信，只有40%的时间能用于实际计算。一石激起千层浪，“最强AI芯片”的推出让网友纷纷赞叹。其中英伟达高级科学家Jim Fan直呼：Blackwell新王诞生，新的摩尔定律已经应运而生。DGX Grace-Blackwell GB200：单个机架的计算能力超过1 Exaflop。黄仁勋交付给OpenAI的第一台DGX是0.17 Petaflops。GPT-4的1.8T参数可在2000个Blackwell上完成90天的训练。还有网友感叹：1000倍成就达成！Blackwell标志着在短短8年内，NVIDIA AI 芯片的计算能力实现了提升1000倍的历史性成就。2016 年，“Pascal”芯片的计算能力仅为19 teraflops，而今天Blackwell的计算能力已经达到了 20000 teraflops。相关文章:全程回顾黄仁勋GTC演讲：Blackwell架构B200芯片登场英伟达扩大与中国车企合作 为比亚迪提供下一代车载芯片英伟达进军机器人领域 发布世界首款人形机器人通用基础模型台积电、新思科技首次采用NVIDIA计算光刻平台：最快加速60倍NVIDIA共享虚拟现实环境技术将应用于苹果Vision Pro黄仁勋GTC演讲全文：最强AI芯片Blackwell问世 推理能力提升30倍 ... PC版： 手机版：

【工业富联董事长郑弘孟：新一代AI服务器GB200预计今年推出】

【工业富联董事长郑弘孟：新一代AI服务器GB200预计今年推出】 据 #上证 报，6月24日，工业富联2023年年度股东大会在深圳举行。会上，在被问及新一代AI服务器GB200出货进展时，工业富联董事长郑弘孟表示，目前一切正在如期进行当中，DGX NVL72、NVL36的进展均一切顺利，预计今年将正式推出，并按照规划持续推向市场。