业内人士透露英伟达A100、H100等供不应求 但部分厂商将优先供应

业内人士透露英伟达A100、H100等供不应求但部分厂商将优先供应多家公司加入生成式人工智能研发和应用的赛道,也就增加了对相关服务器的需求,芯片的需求也随之增加。在此前的报道中,外媒就提到,ChatGPT等生成式人工智能的研发及应用,拉升了对英伟达A100、A800、H100等的需求。而业内人士也透露,英伟达A100、A800、H100等人工智能服务器处理器一直供不应求,但谷歌、微软及其他云服务提供商将优先供应。英伟达AI服务器处理器供不应求,从他们增加订单中也能看出端倪。上周有相关媒体在报道中称,英伟达的急单,已经推升了台积电7/6nm和5/4nm这两大制程工艺家族的产能利用率,其中5/4nm工艺的产能已接近饱和。在当时的报道中,外媒还提到有业内人士透露,英伟达A100、A800、H100、A800的大量订单,预计将贯穿今年全年。...PC版:https://www.cnbeta.com.tw/articles/soft/1362891.htm手机版:https://m.cnbeta.com.tw/view/1362891.htm

相关推荐

封面图片

A100、A800、H100、H800 与 L40S 即刻生效,NVIDIA 消费性产品 GeForce RTX 4090 出口

A100、A800、H100、H800与L40S即刻生效,NVIDIA消费性产品GeForceRTX4090出口禁令取消2023年10月23日,美国政府通知英伟达公司,针对某些高性能计算产品的新出口管制许可要求将立即生效。这一变化影响了英伟达A100、A800、H100、H800和L40S产品的出货。该公司预计,许可要求提前生效不会对其财务业绩产生重大影响。除了GeForceRTX4090外,L40也被移出名单中。综上以及供应链消息,4090并不会被出口管辖。ViaLingKeQing投稿:@ZaiHuaBot频道:@TestFlightCN

封面图片

Google 称其 TPU 超算比英伟达 A100 更快更环保

Google本周二在预印本平台arXiv上发表论文,介绍了它的第四代TPU(TensorProcessingUnit)处理器。TPU是Google专用于训练AI的定制处理器,每个TPUv4包含两个TensorCores(TC),每个TC包含四个128x128矩阵乘法单元(MXU)和一个矢量处理单元(VPU),使用128条通道(每通道16ALU)和一个16MB的矢量存储器(VMEM)。Google自己的测试显示,它的TPUv4相对于英伟达的A100更快更环保(能耗更低)。A100是英伟达上一代的数据中心GPU,它最新一代的产品是H100,Google研究人员没有对比TPUv4和H100,因为H100是在TPUv4之后推出的。与英伟达的产品不同的是,GoogleTPU不对外销售,公开TPUv4的一个目的可能是为了宣传该公司的云端TPU服务。()()频道:@TestFlightCN

封面图片

Nvidia 表示已开发专门用于出口到中国的 H800 芯片,以替代 H100

Nvidia表示已开发专门用于出口到中国的H800芯片,以替代H100旧金山,3月21日(路透社)——主导人工智能(AI)芯片市场的美国半导体设计公司NvidiaCorp表示,已将其旗舰产品修改为可以合法出口到中国的版本.美国监管机构去年制定规则,以国家安全问题为由,禁止英伟达向中国客户出售其两款最先进的芯片,即A100和更新的H100。此类芯片对于开发生成式人工智能技术(如OpenAI的ChatGPT和类似产品)至关重要。路透社在11月报道称,Nvidia设计了一款名为A800的芯片,该芯片降低了A100的某些功能,使A800可以合法出口到中国。周二,该公司表示,它已经开发出类似的H100芯片的中国出口版本。这款名为H800的新芯片被阿里巴巴集团控股有限公司、百度公司和腾讯控股有限公司等中国科技公司的云计算部门使用。——

封面图片

尽管有美国禁令 中国军方机构、AI研究所和大学仍少量购买被美禁止的英伟达芯片

尽管有美国禁令中国军方机构、AI研究所和大学仍少量购买被美禁止的英伟达芯片路透社查阅100多个中国实体采购A100芯片的招标、以及去年10月后采购A800的数十个招标文件后发现,中国军事机构、国有AI研究机构和大学过去一年小批量购买了被美国禁止出口到中国的英伟达芯片。招标文件显示,自美国实施芯片禁令以来,已有数十家中国实体购买并收到了英伟达芯片,其中包括2022年被禁止对华出口的A100和H100,以及专为中国市场开发但去年10月被禁出口的A800和H800芯片。买家包括哈尔滨工业大学和中国电子科技大学,前者于去年5月购买了六块用于训练深度学习模型的A100芯片,后者于2022年12月购买了一块A100芯片。上个月公布的招标还显示,清华大学购买了两块H100芯片,中国工信部下属的一个实验室也购买了一块H100芯片。清华大学自2022年禁令以来已购买了约80块A100芯片。——

封面图片

英伟达“中国特供版”H20 AI芯片综合算力比H100降80%

文件显示,新的H20拥有CoWoS先进封装技术,而且增加了一颗HBM3(高性能内存)到96GB,但成本也随之增加240美元;H20的FP16稠密算力达到148TFLOPS(每秒万亿次浮点运算),是H100算力的15%左右,因此需要增加额外的算法和人员成本等;NVLink则由400GB/s升级至900GB/s,因此互联速率会有较大升级。据评估,H100/H800是目前算力集群的主流实践方案。其中,H100理论极限在5万张卡集群,最多达到10万P算力;H800最大实践集群在2万-3万张卡,共计4万P算力;A100最大实践集群为1.6万张卡,最多为9600P算力。然而,如今新的H20芯片,理论极限在5万张卡集群,但每张卡算力为0.148P,共计近为7400P算力,低于H100/H800、A100。因此,H20集群规模远达不到H100的理论规模,基于算力与通信均衡度预估,合理的整体算力中位数为3000P左右,需增加更多成本、扩展更多算力才能完成千亿级参数模型训练。标签:#Nvidia#英伟达频道:@GodlyNews1投稿:@Godlynewsbot

封面图片

符合出口管制规定,英伟达向中国客户提供替代芯片H800

符合出口管制规定,英伟达向中国客户提供替代芯片H800英伟达表示,已将其旗舰产品修改为可合法出口中国的版本。美国监管机构去年出台规定,以国家安全为由,禁止英伟达向中国客户销售两款最先进的芯片A100和更新的H100。这类芯片对于开发生成式人工智能技术至关重要。英伟达此前表示,将在中国提供一种新的先进芯片A800,该芯片符合美国新的出口管制规定,可替代被新规限制出口的A100。除了A100替代产品外,H100替代研发近期也有新进展。英伟达于当地时间周二表示,已经开发出类似的H100芯片,用于出口中国。该公司发言人表示,这款名为H800的新芯片正被阿里巴巴、百度和腾讯等中国科技公司的云计算部门使用。围绕人工智能芯片的规则要求对那些同时具备强大计算能力和芯片间高数据传输速率的芯片进行测试。在大量数据上训练人工智能模型时,传输速度非常重要,因为更慢的传输速率意味着更多的训练时间。消息人士称,H800主要是将芯片间数据传输速率降低至旗舰机型H100的一半左右。不过英伟达发言人拒绝透露针对中国市场的H800与H100有何不同,只是说“我们的800系列产品完全符合出口管制规定。”()投稿:@ZaiHuabot频道:@TestFlightCN

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人