机构：部署 Sora 需要72万片英伟达加速卡 价值216亿美元

机构：部署 Sora 需要72万片英伟达加速卡 价值216亿美元 3月27日消息，市场调查机构 Factorial Funds 近日发布报告，认为 OpenAI 部署文本转视频模型 Sora，在峰值期需要72万片英伟达 H100 AI 加速卡。 如果按照每片英伟达 H100 AI 加速卡3万美元成本计算，72万片需要216亿美元。而这仅仅只是 H100 加速卡的成本。Factorial Funds 预估训练 Sora 1个月，需要使用4200到10500片英伟达 H100 AI 加速卡，如果使用单片 H100 加速卡，生成1分钟视频需要渲染12分钟。 、

【海力士和镁光将为英伟达下一代AI加速卡B100，提供HBM3E】

【海力士和镁光将为英伟达下一代AI加速卡B100，提供HBM3E】 华尔街见闻从供应链多个渠道独家获悉，英伟达下一代AI加速卡B100的第五代高带宽内存HBM3E，将由海力士和镁光供应。其中，海力士的相关产品测试已从2024年第二季度提前至2024年一季度。此前供应链有消息显示，英伟达B100发布日期已从今年四季度提前至今年二季度。（作者 陈群）

AMD 王牌加速卡 MI300X 出世：训练 AI 模型比英伟达 H100 最高快 60%

AMD 王牌加速卡 MI300X 出世：训练 AI 模型比英伟达 H100 最高快 60% ======== 有美国商务部禁售认证 ======== 8说了，半年后咸鱼见，商务部再牛逼能有咸鱼牛逼吗

人工智能公司MosaicML称不要迷信英伟达芯片 AMD芯片提供类似性能

人工智能公司MosaicML称不要迷信英伟达芯片 AMD芯片提供类似性能 目前在人工智能热潮下英伟达股价水涨船高，之前业内基本都认同英伟达的 A100/H100 加速卡提供最佳的性能，所以英伟达的这些专用加速卡被各大公司哄抢。 人工智能初创公司MosaicML在后称大家不应该迷信英伟达芯片 , 因为AMD米兰芯片的性能并不差。该公司使用多种工具对英伟达A100加速卡和AMD MI250加速卡进行测试，测试显示MI250加速卡也足够用。 MosaicML称在基于实际工作负载测试中，AMD MI250加速卡的每GPU数据吞吐量相当于英伟达A100 40GB版的 80%，是A100 80GB版的73%。因此确实有差距但差距并不算大，对人工智能公司来说并不是非得高价抢购英伟达显卡，其他加速卡也能用。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

马斯克称Grok 3约需要10万张英伟达H100训练 目前最大的问题就是卡不够

马斯克称Grok 3约需要10万张英伟达H100训练 目前最大的问题就是卡不够 马斯克表示人工智能技术的进步目前主要受两个因素制约：第一个是先进处理器，例如想要获得 10 万张 H100 加速卡并不容易，这不仅需要耗费大量的资金，也因为英伟达产能问题需排队；第二就是电力供应的限制。H100 加速卡的最大功耗约为 700W，10 万张 H100 加速卡同时运作则会产生 7,000 万 W 也就是 70MW，70MW 的功率对于一个企业来说已经是个相当高的用电功率，但不要忘记这些加速卡还需要大量的工业制冷设备进行散热。因此运营一个包含 10 万张 H100 加速卡的数据中心的功率是个天文数字，这对人工智能公司来说用电成本可能都需要花费大量的资金。不过电力问题总得来说还是可以解决的，但芯片供应在未来两年能不能赶上来还是个大问题，尤其是现在初创人工智能公司非常多，每个公司都需要大量的加速卡，所以 xAI 想要购买更多的显卡可能也需要更长时间。 ... PC版： 手机版：

戴尔在一个机架服务器内塞了72块NVIDIA B200 GPU加速卡

戴尔在一个机架服务器内塞了72块NVIDIA B200 GPU加速卡 即便如此，戴尔依然宣称GPU密度提高了33％，PCIe 5.0通道多了20％，网络扩展能力翻倍。B200加速卡单个功耗达1000W，八卡就是8000W，再加上处理器、内存、硬盘、网卡等其他硬件，风冷自然是无法压制的，而是上了高效水冷，CPU、GPU全覆盖。针对更大规模的GPU计算部署需求，戴尔还支持在单个机架内配备多达72块B200加速卡，依然是水冷。戴尔PowerEdge XE9680L服务器将在下半年上市。 ... PC版： 手机版：