微软推出 ND H100 v5 虚拟机：采用英伟达 H100 GPU，满足企业 ChatGPT 生成式 AI 需求

微软推出NDH100v5虚拟机：采用英伟达H100GPU，满足企业ChatGPT生成式AI需求微软于今天宣布加强和英伟达的合作，将GPU从此前的A100升级到H100，推出专门针对人工智能开发的全新的虚拟机。微软表示该虚拟机主要面向需要整合或开发人工智能的企业，配置如下：▪8块英伟达H100TensorCoreGPU，通过下一代NVSwitch和NVLink4.0互连▪在非阻塞（non-blocking）的胖树（Fat-Tree）架构网络下，每块GPU的NVIDIAQuantum-2CX7InfiniBand性能可以达到400Gb/s，每台虚拟机可以达到3.2Tb/s。▪通过NVSwitch和NVLink4.0，每台虚拟机内的8个本地GPU之间的对分带宽为3.6TB/s。▪采用英特尔第4代XeonScalable处理器▪使用PCIeGen5连接GPU，每个GPU带宽为64GB/s▪16通道4800MHzDDR5DIMM微软先前在AzureOpenAI服务中宣布了ChatGPT相关服务，而本次虚拟机是该服务的补充，它允许第三方通过Azure访问聊天机器人技术。来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

英伟达H100 AI GPU利润率高达1000%

英伟达H100AIGPU利润率高达1000%TaeKim的这一说法带来了许多要考虑的因素，首先是与制造实际GPU相关的成本。这个过程包括很多步骤，从购买到运输和售后服务。所以你可能会说1000%的利润预估在这里是不正确的，但我相信你忽略了一个重要的事实。在之前的报道中，我们已经多次提到，H100的销售远远超过其实际定价，在某些情况下，已达到约7万美元。“利润率”可能没有考虑通胀因素，这意味着实际数字可能要高得多。英伟达正在攫取巨额利润，而“加密货币挖矿”的通胀也远不及人工智能泡沫。我们看到大量投资涌入人工智能领域，其中一个例子是英伟达目标是在2023年交付55万个H100。据预测，到2027年，人工智能销售额将超过3000亿美元，英伟达并没有止步于此。下一代人工智能GPU一经推出，我们就会看到爆炸式的增长，公司的市值也会随之飙升。...PC版：https://www.cnbeta.com.tw/articles/soft/1377863.htm手机版：https://m.cnbeta.com.tw/view/1377863.htm

AI芯片供应问题有所缓解 一些公司已开始转售英伟达H100 GPU

AI芯片供应问题有所缓解一些公司已开始转售英伟达H100GPU该报道还称，尽管芯片可用性提高，交货期显著缩短，但仍供不应求，尤其是对于那些培训自家大语言模型的公司，如OpenAI。AI处理器短缺的缓解，在一定程度上是由于AWS等云服务提供商让租用英伟达H100GPU变得更容易。这导致了对AI芯片的需求和等待时间的减少。尽管H100的可用性总体上有所改善，但对于开发自家大语言模型的公司，仍在为供应紧张而苦苦挣扎。这主要是因为它们需要数万乃至数十万个GPU，一些公司在获得所需的处理器或容量方面面临着数月的延误。为此，英伟达H100和其他处理器的价格并没有下降，继续享受着高利润率。英伟达AI处理器可用性的提高也导致了买家行为的转变。一些公司在购买或租赁时变得更加注重价格和选择性，并专注于其业务的经济可行性。此外，再加上替代方案在性能和软件支持方面的不断完善，如AMD或AWS的处理器，市场可能会迎来更加平衡的局面。但不管怎样，当前AI芯片的需求依然强劲。随着大语言模型变得更大，对计算性能的需求也越来越高，这也促使OpenAICEO山姆·奥特曼（SamAltman）正试图筹集大量资金，以建造更多的晶圆厂来生产AI处理器。...PC版：https://www.cnbeta.com.tw/articles/soft/1421155.htm手机版：https://m.cnbeta.com.tw/view/1421155.htm

【比特币矿企Iris Energy斥资1000万美元购买NVIDIA H100 GPU】

【比特币矿企IrisEnergy斥资1000万美元购买NVIDIAH100GPU】2023年08月29日08点20分8月29日消息，比特币矿企IrisEnergy宣布首次购买248个NVIDIAH100GPU，花费约1000万美元，预计将在未来几个月内交付。IrisEnergy表示，将进一步评估其下一代数据中心是否适合为生成人工智能等邻近计算市场提供服务，其核心业务仍然是比特币挖矿。