美国 AI 公司将打造漂浮在海上的计算平台，可容纳 10000 个英伟达 H100 GPU

美国 AI 公司将打造漂浮在海上的计算平台，可容纳 10000 个英伟达 H100 GPU 该平台的目标是规避最近美国《人工智能行政命令》和欧盟《人工智能法》施加的限制，因此解决方案是将业务转移到其他地方。

特斯拉可能拥有多达十余万片英伟达H100 而xAI也拥有大量高性能GPU储备

特斯拉可能拥有多达十余万片英伟达H100 而xAI也拥有大量高性能GPU储备 X 帐户"技术兄弟"最近发布消息称，马克-扎克伯格的 Meta 公司目前已拥有全球最大的 H100 GPU “武器库”之一，数量约为 35 万个。不过，马斯克对该表格中特斯拉和 xAI 的排名不以为然，他指出："如果衡量正确的话，特斯拉会排在第二位，X/xAI 会排在第三位。"假设其他条件不变，这意味着特斯拉现在拥有 3 万到 35 万块英伟达 H100 GPU。另一方面，xAI 现在可能拥有 2.6 万到 3 万块英伟达AI计算卡。早在今年 1 月，埃隆-马斯克（Elon Musk）在确认对特斯拉 Dojo 超级计算机投资 5 亿美元（相当于约 1 万个 H100 GPU）的同时，还宣布这家电动汽车巨头"今年在英伟达硬件上的花费将超过这个数字"，因为"在人工智能领域具有竞争力的赌注目前每年至少有几十亿美元"。在马斯克从DeepMind、OpenAI、Google研究院、微软研究院、特斯拉和多伦多大学聘请人才，从头开始建立自己的人工智能企业时，xAI曾在2023年购买了大约1万台英伟达的GPU。不过，可以合理推断，这些采购很可能与 A100 GPU 有关。此后，从马斯克最新发布的 X 帖子中可以推断，xAI 似乎还积累了大量的 H100 GPU。当然，考虑到人工智能领域的创新速度，这些 H100 GPU 很快就会过时。早在今年 3 月，英伟达就发布了GB200 Grace Blackwell 超级芯片，将一个基于 Arms 的 Grace CPU 与两个 Blackwell B100 GPU 结合在一起。该系统可以部署一个包含27 万亿个参数的人工智能模型，在执行聊天机器人提供答案等任务时，速度有望提高30 倍。 ... PC版： 手机版：

美国限制向中东地区出口英伟达的 H100 和 A100 GPU

美国限制向中东地区出口英伟达的 H100 和 A100 GPU 美国限制英伟达向中东地区出口的其旗舰 AI 芯片 H100 和 A100 GPU，原因是为了防止这些芯片转售到中国。美国已经限制英伟达向中国出售 H100 和 A100 GPU，英伟达为此专门开发了降低性能的型号 H800 和 A800。中东的阿联酋和沙特都是英伟达的大客户，而这两个国家同时也与中国关系密切，其中沙特还与中国在 AI 项目上展开合作。美国担心英伟达的 H100 和 A100 GPU 可能会从中东国家转手到中国，或者中国会在中东国家训练 AI 模型然后将技术带回中国。来源 ， 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

微软推出 ND H100 v5 虚拟机：采用英伟达 H100 GPU，满足企业 ChatGPT 生成式 AI 需求

微软推出 ND H100 v5 虚拟机：采用英伟达 H100 GPU，满足企业 ChatGPT 生成式 AI 需求 微软于今天宣布加强和英伟达的合作，将 GPU 从此前的 A100 升级到 H100，推出专门针对人工智能开发的全新的虚拟机。 微软表示该虚拟机主要面向需要整合或开发人工智能的企业，配置如下： ▪8 块英伟达 H100 Tensor Core GPU，通过下一代 NVSwitch 和 NVLink 4.0 互连 ▪在非阻塞（non-blocking）的胖树（Fat-Tree）架构网络下，每块 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以达到 400 Gb / s，每台虚拟机可以达到 3.2Tb / s。 ▪通过 NVSwitch 和 NVLink 4.0，每台虚拟机内的 8 个本地 GPU 之间的对分带宽为 3.6TB / s。 ▪采用英特尔第 4 代 Xeon Scalable 处理器 ▪使用 PCIe Gen5 连接 GPU，每个 GPU 带宽为 64GB / s ▪16 通道 4800MHz DDR5 DIMM 微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务，而本次虚拟机是该服务的补充，它允许第三方通过 Azure 访问聊天机器人技术。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

传美国将对中国断供高端GPU：AMD及NVIDIA已暂停供货

传美国将对中国断供高端GPU：AMD及NVIDIA已暂停供货 日前，网传美国芯片厂商AMD、英伟达相继收到总部通知，对中国区客户断供高端GPU芯片。 网传AMD收到总部紧急通知： 1．暂停对中国区所有数据中心 GPU 卡MI100和MI200发货； 2．统计中国区 Ml 100已发货量； 3．统计中国区 MI 200已发货客户清单和发货明细 AMD 分析可能是美国政府要限制对中国区高性能 GPU 卡销售，尤其是针对中国 HPC 的双精度高性能卡。 网传NVIDIA相关消息： 1.NVIDIA中国区已收到总部要求：暂停对中国区所有客户所有代理商的数据中心 GPU 卡A100和H100的发货，其它 GPU 卡不受影响； 2．各服务器 OEM 的现有库存A100 GPU 卡，目前可以对各自的行业客户继续交付， NVIDIA 中国区目前也没有对 OEM 发任何 Letter ； 3. NVIDIA 总部还在分析美国政府的政策要求，预计还需要2~3天才会有对中国区客户与合作伙伴的沟通口径”。 据了解，随着GPU自身在并行处理和通用计算的优势，逐步拓展了其在服务器、汽车、矿机、人工智能、边缘计算等领域的衍生需求。AMD及NVIDIA对中国大陆断供面向数据中心的高端GPU计算卡，将对于中国大陆的云计算产业及人工智能产业发展带来极为不利的影响。 注：英伟达股价周三在盘后交易中下跌，或受此影响。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

英伟达最新人工智能芯片H200开始供货

英伟达最新人工智能芯片H200开始供货 3月27日，英伟达宣布，开始供货尖端图像处理半导体 (GPU) “H200”。H200 是面向人工智能的半导体，性能超过现在的主打 GPU “H100”。英伟达相继推出最新的人工智能半导体，目的是保持较高的市场份额。英伟达3月27日公布了 H200 的性能评测结果。用 Meta 的大规模语言模型 (LLM) “Llama 2”进行了比较，结果显示，与 H100 相比，H200 使生成式人工智能导出答案的处理速度最高提高了45％。