英伟达发布新一代 AI 芯片 H200

英伟达发布新一代AI芯片H200H200利用了美光等公司推出的HBM3e内存，提供了141GB内存容量(H100的1.8倍)和4.8TB/s内存带宽(H100的1.4倍)。大型语言模型推理速度方面，GPT-3175B是H100的1.6倍(A100的18倍)，LLaMA270B是H100的1.9倍。英伟达同时宣布2024年的H100产量翻倍，2024年第4季度发布基于新一代Blackwell架构的B100。投稿：@ZaiHuaBot频道：@TestFlightCN

英伟达最新AI芯片H200或将成为其史上最赚钱产品之一

英伟达最新AI芯片H200或将成为其史上最赚钱产品之一根据英伟达官网的消息，基于英伟达的“Hopper”架构，H200是该公司首款采用HBM3e内存的芯片。这种内存速度更快，容量更大，使其更适用于大型语言模型。英伟达表示，H200使用HBM3e内存能够以每秒4.8TB的速度提供141GB的容量，相比于A100，其容量几乎翻了一倍，带宽提高了2.4倍。预计H200将于2024年第二季度上市，届时将与AMD的MI300XGPU展开竞争。与H200相似，AMD的新芯片相比前代产品拥有更多内存，这对运行大型语言模型的推理计算有帮助。英伟达还表示，H200将与H100兼容，这意味着那些已经在使用H100进行训练的AI公司无需更改他们的服务器系统或软件即可适应H200。英伟达副总裁IanBuck称：“为了训练生成式AI和高性能计算应用，必须使用高性能GPU。有了H200，行业领先的AI超级计算平台可以更快地解决一些世界上最重要的挑战。”英伟达的加速计算首席产品经理DionHarris表示：“观察市场上的动态，可以看到大型模型的尺寸正在迅速扩大。这是我们继续引领最新、最伟大技术的又一例证。”据美国金融机构RaymondJames透露，H100芯片的成本仅为3320美元，但英伟达对其客户的批量价格却高达2.5万至4万美元。这使得H100的利润率可能高达1000%，成为有史以来最赚钱的芯片之一。在训练大型语言模型时，通常需要数千个H100集群协同工作，因此科技巨头、初创公司和政府机构都在争夺英伟达有限的芯片供应。由于对其产品的需求看似无穷无尽，英伟达今年的销售额大幅增长，股价上涨了230%，市值突破了1.2万亿美元大关。截至周一收盘，该股收涨0.59%，报486.2美元。相关文章:NVIDIA发布HopperH200GPU与基于GraceHopper的Jupiter超算项目...PC版：https://www.cnbeta.com.tw/articles/soft/1396697.htm手机版：https://m.cnbeta.com.tw/view/1396697.htm

英伟达发布下一代人工智能超级计算机芯片，将在深度学习和大型语言模型方面发挥重要作用。新芯片基于Hopper架构，使用HBM3e内

英伟达发布下一代人工智能超级计算机芯片，将在深度学习和大型语言模型方面发挥重要作用。新芯片基于Hopper架构，使用HBM3e内存，提供更大容量和更快速度。发布的关键产品是HGXH200GPU，推理速度比上一代快一倍。另一个关键产品是GH200GraceHopper超级芯片，结合了HGXH200GPU和基于Arm的GraceCPU。GH200将用于全球研究中心、系统制造商和云提供商的AI超级计算机。英伟达希望新的GPU和超级芯片能够帮助其继续增长。

英伟达首次宣布下一代 GPU 架构 “Rubin”

英伟达首次宣布下一代GPU架构“Rubin”6月2日晚间，英伟达创始人兼首席执行官黄仁勋在台北国际电脑展（COMPUTEX）开幕前发表主题演讲。黄仁勋分享了新半导体技术路线图，该路线图将每年更新。他首次宣布了Rubin平台，它将配备新GPU、基于Arm的新CPU—Vera，以及采用NVLink6、CX9SuperNIC和X1600、并融合InfiniBand/以太网交换机的高级网络平台。Rubin将作为Blackwell的下一代平台。黄仁勋透露，将于2026推出的Rubin平台采用HBM4高带宽内存产品。

Nvidia将推出一款新的必备人工智能芯片-H200

Nvidia正在推出一款用于人工智能工作的新一代顶级芯片，即HGXH200。这款新的GPU在广受需求的H100的基础上进行了升级，内存带宽提升了1.4倍，内存容量提升了1.8倍，提高了处理密集生成式人工智能工作的能力。重要的问题是公司是否能够获得这些新芯片，或者它们是否会像H100一样供应不足，对此Nvidia并没有确切的答案。首批H200芯片将于2024年第二季度发布，Nvidia表示正在与“全球系统制造商和云服务提供商”合作，以使其可用。H200在外观上与H100基本相同，除了内存方面有所改变。但是对内存的改变使其升级更有意义。新的GPU是第一个使用名为HBM3e的新型更快内存规格的GPU。这使得GPU的内存带宽从H100的每秒3.35TB提升到每秒4.8TB，并且总内存容量从80GB增加到141GB。H200也被设计为与已经支持H100s的系统兼容。Nvidia表示，云服务提供商在添加H200时不需要进行任何更改。亚马逊、谷歌、微软和甲骨文等云计算服务提供商将是明年首批提供新型GPU的公司。标签:#Nvidia#英伟达频道:@GodlyNews1投稿:@GodlyNewsBot

发布H200芯片之际 英伟达股价已连涨十日

发布H200芯片之际英伟达股价已连涨十日作为全球市值最高的芯片制造商，英伟达股票今年已累计上涨超过240%，成为纳斯达克100指数和标准普尔500指数上表现最佳的成分股，人工智能热潮推动了股价上涨。最新的涨势正值科技股反弹，人们对美联储的利率已经达到顶峰抱有希望。英伟达刚刚宣布推出名为H200的新芯片，该芯片将能够利用高带宽内存（HBM3e），更好地处理开发和实施人工智能所需的大型数据集。沃尔夫研究公司分析师克里斯·卡索在（ChrisCaso）一份报告中写道：“过去，英伟达并未更新过之前的数据中心GPU。因此，这进一步证明了英伟达在应对人工智能市场增长和性能需求方面加快产品发布的能力，从而扩大了其竞争优势。”目前的英伟达H100处理器已经受到高度需求。“该公司加快发布H200等产品的步伐，预计将有助于保护其市场份额，”彭博行业研究分析师库简·索哈尼（KunjanSobhani）表示。“这款新的人工智能处理器配备了高带宽内存，可能成为市场上性能最出色的GPU，提高了竞争门槛。”英伟达将于11月21日公布财报。上个月，由于美国新规禁止向中国销售其尖端人工智能芯片，英伟达承受了一定压力。...PC版：https://www.cnbeta.com.tw/articles/soft/1397011.htm手机版：https://m.cnbeta.com.tw/view/1397011.htm