AI芯片供应问题有所缓解 一些公司已开始转售英伟达H100 GPU

AI芯片供应问题有所缓解 一些公司已开始转售英伟达H100 GPU 该报道还称，尽管芯片可用性提高，交货期显著缩短，但仍供不应求，尤其是对于那些培训自家大语言模型的公司，如OpenAI。AI处理器短缺的缓解，在一定程度上是由于AWS等云服务提供商让租用英伟达H100 GPU变得更容易。这导致了对AI芯片的需求和等待时间的减少。尽管H100的可用性总体上有所改善，但对于开发自家大语言模型的公司，仍在为供应紧张而苦苦挣扎。这主要是因为它们需要数万乃至数十万个GPU，一些公司在获得所需的处理器或容量方面面临着数月的延误。为此，英伟达H100和其他处理器的价格并没有下降，继续享受着高利润率。英伟达AI处理器可用性的提高也导致了买家行为的转变。一些公司在购买或租赁时变得更加注重价格和选择性，并专注于其业务的经济可行性。此外，再加上替代方案在性能和软件支持方面的不断完善，如AMD或AWS的处理器，市场可能会迎来更加平衡的局面。但不管怎样，当前AI芯片的需求依然强劲。随着大语言模型变得更大，对计算性能的需求也越来越高，这也促使OpenAI CEO山姆·奥特曼（Sam Altman）正试图筹集大量资金，以建造更多的晶圆厂来生产AI处理器。 ... PC版： 手机版：

美国限制向中东地区出口英伟达的 H100 和 A100 GPU

美国限制向中东地区出口英伟达的 H100 和 A100 GPU 美国限制英伟达向中东地区出口的其旗舰 AI 芯片 H100 和 A100 GPU，原因是为了防止这些芯片转售到中国。美国已经限制英伟达向中国出售 H100 和 A100 GPU，英伟达为此专门开发了降低性能的型号 H800 和 A800。中东的阿联酋和沙特都是英伟达的大客户，而这两个国家同时也与中国关系密切，其中沙特还与中国在 AI 项目上展开合作。美国担心英伟达的 H100 和 A100 GPU 可能会从中东国家转手到中国，或者中国会在中东国家训练 AI 模型然后将技术带回中国。来源 ， 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

黄仁勋回应中国市场和AI芯片定价问题 称英伟达市值合理

黄仁勋回应中国市场和AI芯片定价问题 称英伟达市值合理 针对有媒体援引黄仁勋关于英伟达最新一代AI芯片Blackwell的定价在3万至4万美元，黄仁勋也予以回应。他表示：“我只是试图让大家对我们产品的定价有一定的感受，而并不打算给出具体的报价。因为根据每一个客户的需求，不同系统的价格差异是很大的，英伟达并不销售芯片，我们售卖的是数据中心。”有数据称，英伟达在Blackwell芯片上的研发预算达到100亿美元。一位接近英伟达的人士此前告诉第一财经记者，Blackwell新架构系统的售价并不一定会高于上一代系统的售价，而针对不同渠道的定价可能会有所区别。3月19日美股收盘时，英伟达股价上涨超过1%，最新市值接近2.24万亿美元。英伟达的市值从1万亿美元到2万亿美元仅仅用了9个月时间，对于市值在短期内的飙升是否合理，黄仁勋作出回应。他表示：“全球数据中心的市场规模在去年就达到2500亿美元左右，并仍在以每年20%至25%的速度增长，这主要是由于AI方面的需求。英伟达会在这2500亿美元的市场中占据重要的份额，这也从一定程度上解释了为何我们的市值会在这么短的时间内从1万亿美元升至2万亿美元，我认为这是合理的。”在英伟达发布新一代AI芯片架构Blackwell之后，分析师们给出了积极的回应。富国银行分析师将英伟达的股价目标由840美元上调至970美元，并称英伟达的发布会再次体现了该公司全栈及平台的差异化。高盛分析师也将英伟达的目标股价从875美元上调至1000美元，3月19日，英伟达方面在与金融分析师的问答中表示，Blackwell系统可能会在今年晚些时候出货，但没有透露哪些客户将最先收到新一代的芯片系统。Meta公司创始人CEO扎克伯格3月18日表示，Meta计划使用Blackwell来训练该公司的大型语言模型Llama。黄仁勋在与媒体的交流中反复强调，英伟达是一家平台公司，这使得英伟达区别于任何一家仅提供芯片的厂商。他特别提到软件业务对英伟达的重要性。“英伟达不是一家生产工具的公司，我们是一家平台企业，与开发者相连接。”黄仁勋表示。去年起，英伟达在一些市场上陆续推出云服务，关于英伟达在云方面的战略，黄仁勋这样回应第一财经记者：“虽然英伟达推出了英伟达云服务DGX Cloud，但我们的策略依然是与云服务提供商合作，将我们的云放入他们的云中。英伟达不会成为一家云计算公司，我们的目标是通过软件的构建，让全球的开发者和云服务提供商采用英伟达的架构来构建产品。”基于上述策略，黄仁勋认为，尽管目前很多云服务提供商都在研发芯片，但是这些企业研发芯片的逻辑与英伟达的业务逻辑是完全不同的。他没有就英伟达芯片的定价策略是否会因为这些大型科技公司自研芯片而发生变化向第一财经记者给予评论，也没有就英伟达在中国的云服务策略提供更多信息。不过黄仁勋在采访中仍然强调了中国市场的重要性。他表示：“我们正在尽全力使英伟达的业务在中国能够实现最大化，我们面向中国市场推出了L20和H20芯片，这些向中国出售的芯片将符合要求。”黄仁勋说道，我们的芯片中有大量的零部件产自中国，这与全球汽车供应链的复杂性是一个道理，供应链的全球化是很难被打破的。 ... PC版： 手机版：

英特尔推出性能超越英伟达 H100 的 Gaudi 3 AI 加速芯片

英特尔推出性能超越英伟达 H100 的 Gaudi 3 AI 加速芯片 英特尔 Vision 2024 大会的第二天，英特尔正式推出了 Gaudi 3 加速芯片。Gaudi 3 使用台积电 5nm 工艺制造，热设计功耗为 900W ，FP8 精度下的峰值性能为 1835 TFLOPS。英特尔称 Gaudi 3 在 16 个芯片组成的加速集群中以 FP8 精度训练 Llama2-13B 时比性能 H100 高出 1.7 倍。同时，英特尔预计 Gaudi 3 的推理性能将比 H200/H100 提高 1.3 倍到 1.5 倍，能效比将高 2.3 倍。英特尔已经向客户提供了样片，并将在第三季度正式批量交付。