英伟达第二次为中国特供加速卡H800

英伟达第二次为中国特供加速卡H800昨晚的GTC2023春季图形大会上,NVIDIA又确认为中国市场开发了第二个特供版H800,基于已有的H100调整而来,符合美政府的规定。NVIDIA没有透露H800的具体变化,外媒称和A800类似,将芯片间互连带宽缩减了一半,如果用于AI训练会消耗更长的时间。阿里巴巴、百度、腾讯BAT三巨头都已经用上了H800加速卡。H100加速卡采用全新的Hopper架构,GH100GPU核心,台积电4nm制造工艺、CoWoS2.5D封装技术,集成800亿个晶体管,核心面积814平方毫米。它拥有18432个CUDA核心、576个Tensor核心、60MB二级缓存,可搭配6144-bit位宽的六颗HBM3/HBM2e,总容量80GB,支持PCIe5.0、第四代NVLink总线。两种样式,其中SXM版本15872个CUDA核心、528个Tensor核心,显存带宽3.35TB/s,NVLink带宽900GB/s,PCIe5.0带宽128GB/s,热设计功耗最高700W。PCIe5.0版本14952个CUDA核心、456个Tensor核心,显存带宽2TB/s,NVLink带宽600GB/s,PCIe5.0带宽128GB/s,热设计功耗300-350W。目前尚不清楚中国特供的H800是哪种样式,猜测很可能是PCIe,那么NVLink互连带宽就只有300GB/s,PCIe5.0则应该不会缩水。A800规格表H100规格表:精简一下带宽就是H800H100加速卡...PC版:https://www.cnbeta.com.tw/articles/soft/1350665.htm手机版:https://m.cnbeta.com.tw/view/1350665.htm

相关推荐

封面图片

NVIDIA特供中国显卡 腾讯确认用上H800 售价或超20万元一块

NVIDIA特供中国显卡腾讯确认用上H800售价或超20万元一块快科技4月14消息,腾讯云发布面向大模型训练的新一代HCC高性能计算集群,采用最新一代腾讯云星星海自研服务器,搭载了NVIDIAH800TensorCoreGPU,并提供业界目前最高的3.2T超高互联带宽。这也意味着腾讯已经用上了NVIDIA为中国市场特供的H800加速卡。NVIDIA当前最强的加速卡是A100及H100,但去年受到了限制,为此NVIDIA推出了替代型号专供中国市场,A100的替代型号是A800,在已有A100的基础上将NVLink高速互连总线的带宽从600GB/s降低到400GB/s,其他完全不变。H100的替代型号是H800,具体的规格不确定,应该是跟A800一样阉割带宽,不过H100SXM版的带宽也就是3.35T,腾讯H800提到是3.2T,下降的并不明显,除非是H100NVLink版,后者的带宽高达7.8T。至于价格,腾讯没有提及H800的采购价,不过H100的价格大约是25万元,此前A800特供版价格是标准版A100的8成价格,因此H800实际价格也不会便宜,20万元或者更高水平。频道:@TestFlightCN

封面图片

“味精大王”莲花健康收问询函 近7亿买英伟达H800 GPU算力服务器

“味精大王”莲花健康收问询函近7亿买英伟达H800GPU算力服务器根据公告,本合同的签订影响公司财务指标的具体金额目前尚无法测算,需视后续具体业务合作的推进和实施情况而定。本次合同签订,有利于推进公司智算业务发展,符合公司业务整体发展方向。值得注意的是,在公告当日,莲花健康又发布公告,称收到上交所《关于对公司有关签订采购合同相关事项的问询函》,要求其补充披露采购资金的安排情况、相关决策过程是否合法合规等。针对莲花科创,问询函提到,莲花健康主营业务为食品与调味品的研发、生产和销售,本次采购合同所涉算力服务器及配套设备属于新业务,与公司主营业务不具有协同性,公司前期也无相关业务经验。资料显示,莲花健康成立于1983年,前身为莲花味精,1998年,莲花健康在上海证券交易所挂牌上市,成为中国调味品行业“第一股”。据了解,英伟达最强加速卡为A100及H100,但去年受到限制,为此,英伟达推出替代型号专供中国市场,其中A100替代型号是A800、H100替代型号为H800。A800在已有A100的基础上将NVLink高速互连总线的带宽从600GB/s降低到400GB/s,其他完全不变,H800具体规格不确定,应该是与A800一样阉割带宽。...PC版:https://www.cnbeta.com.tw/articles/soft/1387047.htm手机版:https://m.cnbeta.com.tw/view/1387047.htm

封面图片

英伟达“中国特供版”H20 AI芯片综合算力比H100降80%

文件显示,新的H20拥有CoWoS先进封装技术,而且增加了一颗HBM3(高性能内存)到96GB,但成本也随之增加240美元;H20的FP16稠密算力达到148TFLOPS(每秒万亿次浮点运算),是H100算力的15%左右,因此需要增加额外的算法和人员成本等;NVLink则由400GB/s升级至900GB/s,因此互联速率会有较大升级。据评估,H100/H800是目前算力集群的主流实践方案。其中,H100理论极限在5万张卡集群,最多达到10万P算力;H800最大实践集群在2万-3万张卡,共计4万P算力;A100最大实践集群为1.6万张卡,最多为9600P算力。然而,如今新的H20芯片,理论极限在5万张卡集群,但每张卡算力为0.148P,共计近为7400P算力,低于H100/H800、A100。因此,H20集群规模远达不到H100的理论规模,基于算力与通信均衡度预估,合理的整体算力中位数为3000P左右,需增加更多成本、扩展更多算力才能完成千亿级参数模型训练。标签:#Nvidia#英伟达频道:@GodlyNews1投稿:@Godlynewsbot

封面图片

NVIDIA计划减少A800 GPU的产量 并将重点放在供应中国市场的H800上

NVIDIA计划减少A800GPU的产量并将重点放在供应中国市场的H800上A800涨价跟多个原因有关,除了政策及市场需求因素之外,更多地是NVIDIA削减了A800显卡的产能,大力推广更高端的H800显卡。H800是NVIDIA在H100显卡基础上阉割带宽之后的中国特供版AI显卡,常规版售价在25万元以上,阉割后的H800也要20万元以上,而且由于市场炒作,实际的现货价格更不透明。总之,在当前需求高涨、供不应求的情况下,NVIDIA的策略是对便宜点的A800下手,把更多产能给H800,毕竟后者一卡顶两卡、三卡,当然AI算力也要高出几倍。由于高端AI显卡受到了出口限制,为此NVIDIA推出了替代型号专供中国市场,A100的替代型号是A800,在已有A100的基础上将NVLink高速互连总线的带宽从600GB/s降低到400GB/s,其他完全不变。H100的替代型号是H800,具体的规格不确定,应该是跟A800一样阉割带宽。...PC版:https://www.cnbeta.com.tw/articles/soft/1370947.htm手机版:https://m.cnbeta.com.tw/view/1370947.htm

封面图片

机构:部署 Sora 需要72万片英伟达加速卡 价值216亿美元

机构:部署Sora需要72万片英伟达加速卡价值216亿美元3月27日消息,市场调查机构FactorialFunds近日发布报告,认为OpenAI部署文本转视频模型Sora,在峰值期需要72万片英伟达H100AI加速卡。如果按照每片英伟达H100AI加速卡3万美元成本计算,72万片需要216亿美元。而这仅仅只是H100加速卡的成本。FactorialFunds预估训练Sora1个月,需要使用4200到10500片英伟达H100AI加速卡,如果使用单片H100加速卡,生成1分钟视频需要渲染12分钟。——、

封面图片

传英伟达正在开发120GB HBM2e显存的Hopper H100 PCIe加速卡

传英伟达正在开发120GBHBM2e显存的HopperH100PCIe加速卡近日有消息称,英伟达正在开发一款HopperH100PCIe加速卡,特点是具有高达120GB的HBM2e显存。截至目前,该公司已经发布了两个版本的HopperH100GPU,分别是SXM5和PCIe板型。虽然两款SKU都配备了80GBVRAM,但前者用上了全新的HBM3标准、而后者仍为HBM2e。PC版:https://www.cnbeta.com/articles/soft/1320781.htm手机版:https://m.cnbeta.com/view/1320781.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人