英伟达财报“预热”：投行曝H100芯片利润率达1000%

英伟达财报“预热”：投行曝H100芯片利润率达1000%知名科技媒体Tom'sHardware称，这份报告意味着对英伟达公司来说，H100芯片的成本利润率高达1,000%，即十倍。由于不清楚瑞杰金融的成本分析有多深入，英伟达可能还需要在其他方面支付额外的费用，但费用空间是比较大的。来源：Tom'sHardware据了解，H100是目前训练大语言模型最需要的图形处理器（GPU），因为它对于大模型的推理和训练都是速度最快的，通常也是推理方面性价比最高的。它可以应用于各种AI场景，如AI聊天机器人、推荐引擎、视觉AI、数据分析、高性能计算等。H100芯片还可以搭配英伟达AIEnterprise软件套件，为企业提供端到端的AI就绪型基础架构。英伟达CEO黄仁勋将其描述为“世界上第一款专为生成式人工智能而设计的计算机芯片”。报道指出，产品开发需要时间和资源，在得出最终的平均产品开发成本之前，英伟达的研发成本也必须考虑在内。这一类别包括工程师和其他参与H100等产品开发生命周期的人员。据匿名评论平台GlaSSDoor的数据，英伟达电子硬件工程师的平均年薪约为20.2万美元，而开发H100等芯片很可能需要数千位这样薪资水平的专业人员。但即使这样，“十倍成本利润率”也足以令人叹为观止，凸显了公司充分享受到了AI时代“卖铲人”的超额红利。然而，H100的供应却十分紧张，据称英伟达的订单量已经排满到2024年，但这一消息尚未得到公司的确认。本周，沙特和阿联酋被曝正在“疯狂下单”英伟达的AI芯片。知情人士透露，沙特已通过公共研究机构阿卜杜拉国王科技大学购买了至少3000枚H100；阿联酋也已经确保自己将获得数千枚芯片。上周还有消息称，百度、字节跳动、腾讯和阿里巴巴等互联网巨头在争相购买英伟达的高性能芯片，订单总和价值高达50亿美元。先前，OpenAICEO山姆·阿尔特曼和特斯拉CEO埃隆·马斯克也先后抱怨GPU不够用。周一，摩根士丹利分析师JosephMoore表示，他依然看好英伟达公司的股票，并将其视为“首选”（toppick），目标价为每股500美元。Moore提到，英伟达定于美股8月23日盘后（北京时间8月24日凌晨）公布业绩，“尽管供应紧张，我们仍然预计业绩会显著超越预期并获得上调，更重要的是，未来三至四个财季的业绩会有很强的可见性。”...PC版：https://www.cnbeta.com.tw/articles/soft/1378037.htm手机版：https://m.cnbeta.com.tw/view/1378037.htm

微软推出 ND H100 v5 虚拟机：采用英伟达 H100 GPU，满足企业 ChatGPT 生成式 AI 需求

微软推出NDH100v5虚拟机：采用英伟达H100GPU，满足企业ChatGPT生成式AI需求微软于今天宣布加强和英伟达的合作，将GPU从此前的A100升级到H100，推出专门针对人工智能开发的全新的虚拟机。微软表示该虚拟机主要面向需要整合或开发人工智能的企业，配置如下：▪8块英伟达H100TensorCoreGPU，通过下一代NVSwitch和NVLink4.0互连▪在非阻塞（non-blocking）的胖树（Fat-Tree）架构网络下，每块GPU的NVIDIAQuantum-2CX7InfiniBand性能可以达到400Gb/s，每台虚拟机可以达到3.2Tb/s。▪通过NVSwitch和NVLink4.0，每台虚拟机内的8个本地GPU之间的对分带宽为3.6TB/s。▪采用英特尔第4代XeonScalable处理器▪使用PCIeGen5连接GPU，每个GPU带宽为64GB/s▪16通道4800MHzDDR5DIMM微软先前在AzureOpenAI服务中宣布了ChatGPT相关服务，而本次虚拟机是该服务的补充，它允许第三方通过Azure访问聊天机器人技术。来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

业内人士透露英伟达A100、H100等供不应求 但部分厂商将优先供应

业内人士透露英伟达A100、H100等供不应求但部分厂商将优先供应多家公司加入生成式人工智能研发和应用的赛道，也就增加了对相关服务器的需求，芯片的需求也随之增加。在此前的报道中，外媒就提到，ChatGPT等生成式人工智能的研发及应用，拉升了对英伟达A100、A800、H100等的需求。而业内人士也透露，英伟达A100、A800、H100等人工智能服务器处理器一直供不应求，但谷歌、微软及其他云服务提供商将优先供应。英伟达AI服务器处理器供不应求，从他们增加订单中也能看出端倪。上周有相关媒体在报道中称，英伟达的急单，已经推升了台积电7/6nm和5/4nm这两大制程工艺家族的产能利用率，其中5/4nm工艺的产能已接近饱和。在当时的报道中，外媒还提到有业内人士透露，英伟达A100、A800、H100、A800的大量订单，预计将贯穿今年全年。...PC版：https://www.cnbeta.com.tw/articles/soft/1362891.htm手机版：https://m.cnbeta.com.tw/view/1362891.htm

英伟达跌超 2% 创近一个月新低，英特尔称推出超英伟达 H100 的 AI 芯片

英伟达跌超2%创近一个月新低，英特尔称推出超英伟达H100的AI芯片英伟达(NVDA.US)美股盘中一度跌逾4%，最终收跌2.04%报853.54美元，创近一个月新低，成交427.1亿美元。消息上，英特尔推出升级款人工智能(AI)芯片Gaudi3，将于三季度大范围供应。这款芯片用于提升“帮助训练AI系统”和“运行软件成品”这两大关键领域的性能，前者包括用数据“轰炸”AI系统。此外，英特尔称该芯片性能超过英伟达H100。

AI芯片供应问题有所缓解 一些公司已开始转售英伟达H100 GPU

AI芯片供应问题有所缓解一些公司已开始转售英伟达H100GPU该报道还称，尽管芯片可用性提高，交货期显著缩短，但仍供不应求，尤其是对于那些培训自家大语言模型的公司，如OpenAI。AI处理器短缺的缓解，在一定程度上是由于AWS等云服务提供商让租用英伟达H100GPU变得更容易。这导致了对AI芯片的需求和等待时间的减少。尽管H100的可用性总体上有所改善，但对于开发自家大语言模型的公司，仍在为供应紧张而苦苦挣扎。这主要是因为它们需要数万乃至数十万个GPU，一些公司在获得所需的处理器或容量方面面临着数月的延误。为此，英伟达H100和其他处理器的价格并没有下降，继续享受着高利润率。英伟达AI处理器可用性的提高也导致了买家行为的转变。一些公司在购买或租赁时变得更加注重价格和选择性，并专注于其业务的经济可行性。此外，再加上替代方案在性能和软件支持方面的不断完善，如AMD或AWS的处理器，市场可能会迎来更加平衡的局面。但不管怎样，当前AI芯片的需求依然强劲。随着大语言模型变得更大，对计算性能的需求也越来越高，这也促使OpenAICEO山姆·奥特曼（SamAltman）正试图筹集大量资金，以建造更多的晶圆厂来生产AI处理器。...PC版：https://www.cnbeta.com.tw/articles/soft/1421155.htm手机版：https://m.cnbeta.com.tw/view/1421155.htm

特斯拉可能拥有多达十余万片英伟达H100 而xAI也拥有大量高性能GPU储备

特斯拉可能拥有多达十余万片英伟达H100而xAI也拥有大量高性能GPU储备X帐户"技术兄弟"最近发布消息称，马克-扎克伯格的Meta公司目前已拥有全球最大的H100GPU“武器库”之一，数量约为35万个。不过，马斯克对该表格中特斯拉和xAI的排名不以为然，他指出："如果衡量正确的话，特斯拉会排在第二位，X/xAI会排在第三位。"假设其他条件不变，这意味着特斯拉现在拥有3万到35万块英伟达H100GPU。另一方面，xAI现在可能拥有2.6万到3万块英伟达AI计算卡。早在今年1月，埃隆-马斯克（ElonMusk）在确认对特斯拉Dojo超级计算机投资5亿美元（相当于约1万个H100GPU）的同时，还宣布这家电动汽车巨头"今年在英伟达硬件上的花费将超过这个数字"，因为"在人工智能领域具有竞争力的赌注目前每年至少有几十亿美元"。在马斯克从DeepMind、OpenAI、Google研究院、微软研究院、特斯拉和多伦多大学聘请人才，从头开始建立自己的人工智能企业时，xAI曾在2023年购买了大约1万台英伟达的GPU。不过，可以合理推断，这些采购很可能与A100GPU有关。此后，从马斯克最新发布的X帖子中可以推断，xAI似乎还积累了大量的H100GPU。当然，考虑到人工智能领域的创新速度，这些H100GPU很快就会过时。早在今年3月，英伟达就发布了GB200GraceBlackwell超级芯片，将一个基于Arms的GraceCPU与两个BlackwellB100GPU结合在一起。该系统可以部署一个包含27万亿个参数的人工智能模型，在执行聊天机器人提供答案等任务时，速度有望提高30倍。...PC版：https://www.cnbeta.com.tw/articles/soft/1426690.htm手机版：https://m.cnbeta.com.tw/view/1426690.htm