英特尔推出性能超越英伟达 H100 的 Gaudi 3 AI 加速芯片

英特尔推出性能超越英伟达H100的Gaudi3AI加速芯片英特尔Vision2024大会的第二天,英特尔正式推出了Gaudi3加速芯片。Gaudi3使用台积电5nm工艺制造,热设计功耗为900W,FP8精度下的峰值性能为1835TFLOPS。英特尔称Gaudi3在16个芯片组成的加速集群中以FP8精度训练Llama2-13B时比性能H100高出1.7倍。同时,英特尔预计Gaudi3的推理性能将比H200/H100提高1.3倍到1.5倍,能效比将高2.3倍。英特尔已经向客户提供了样片,并将在第三季度正式批量交付。——

相关推荐

封面图片

英伟达跌超 2% 创近一个月新低,英特尔称推出超英伟达 H100 的 AI 芯片

英伟达跌超2%创近一个月新低,英特尔称推出超英伟达H100的AI芯片英伟达(NVDA.US)美股盘中一度跌逾4%,最终收跌2.04%报853.54美元,创近一个月新低,成交427.1亿美元。消息上,英特尔推出升级款人工智能(AI)芯片Gaudi3,将于三季度大范围供应。这款芯片用于提升“帮助训练AI系统”和“运行软件成品”这两大关键领域的性能,前者包括用数据“轰炸”AI系统。此外,英特尔称该芯片性能超过英伟达H100。

封面图片

英特尔为 Gaudi 3 AI加速器准备了中国特供版

英特尔为Gaudi3AI加速器准备了中国特供版英特尔日前发布了性能优于H100的AI加速器Gaudi3,其强劲的性能预计无法满足美国政府对于出口芯片的监管要求。但本周,英特尔还发布了Gaudi3人工智能加速器的中国版。其中OAM兼容夹层卡形态的中国版将在6月份推出,编号HL-328,功耗减半至450W,HMB内存、缓存、解码器等完全保留,预计算力将较常规版减半。PCIe扩展卡形态将在9月份出货,中国版编号HL-388,功耗同样减半至450W。通用基板形态的中国版编号为HLB-325,但具体规格和出货时间暂时不详。——

封面图片

挑战英伟达 英特尔发布新一代AI芯片Gaudi3

挑战英伟达英特尔发布新一代AI芯片Gaudi3英特尔首席执行官PatGelsinger希望借助AI热潮重振该公司的业务,英特尔曾因过去的失误和更广泛的个人电脑市场低迷而遭受重创。与此同时,其长期竞争对手AMD已经抢占了个人电脑和服务器市场部分份额,英特尔的一些最大客户现在也开始自主设计芯片。PatGelsinger认为,AI代表着新时代的到来,创造了巨大的机会,更充足、更强大、更具性价比的处理能力是未来经济增长的关键组成,“未来5年联网设备数量将增加4倍,未来10年将提升至15倍”。资料显示,英特尔Gaudi3将采用5nm工艺,带宽是前代Gaudi2(7nm工艺)的1.5倍,BF16功率是其4倍,网络算力是其2倍。Gaudi3预计将配备最高128GB的HBM3e内存,AI学习和训练性能大幅提升。英特尔表示,由于不断增长且经过验证的性能优势、以及极具竞争力的TCO(总体拥有成本)和定价优势,预计Gaudi3将凭借领先的AI芯片套件在2024年占领该市场的更大份额。英特尔还推出了面向企业的第五代至强(Xeon)处理器,以及面向个人电脑(PC)的酷睿(Core)Ultra芯片。英特尔介绍,第五代至强为数据中心、云、网络和边缘计算带来更强大的AI,它的性能和效率大幅提升,在多种客户工作负荷环境下,较前代的通用计算性能平均提高21%,每瓦特能耗平均提升36%。据悉,这是至强处理器在不到一年时间内的第二次大改动,在性能和容量提升的同时耗电量减少。英特尔称,至强是唯一具有内置AI加速功能的主流数据中心处理器,相比今年1月推出的第四代至强,第五代至强在多达200亿个参数的模型上的推理和微调能力提升高达42%。它也是唯一MLPerf训练和推理AI基准测试结果集一致且持续改进的CPU。在AIEverywhere活动期间,IBM(IBM.US)披露,在测试过程中,第五代英特尔至强处理器在微软watsonx.data平台上的查询吞吐量比前代提高2.7倍。明年将部署第五代至强的谷歌云则指出,PaloAltoNetworks通过谷歌云使用第四代至强中的内置加速,其进行威胁检测的深度学习模型性能提升了两倍。此外,英特尔此次正式推出的酷睿Ultra芯片适用于笔记本电脑和台式机,让这些PC都可以直接应用AI功能。英特尔介绍,酷睿Ultra采用了英特尔首款用于客户端的片上AI加速器、即简称NPU的神经网络处理单元,将高能效AI加速提升到了新的高度,能耗较上一代产品提高2.5倍。英特尔还表示,酷睿Ultra芯片包括更强大的游戏功能,增加的图形处理能力可以帮助AdobePremier等程序的运行速度提高40%以上。英特尔称,搭载酷睿UltraAI芯片的PC现在就可以在美国部分零售商处购买。明年,酷睿UltraAI芯片将支持全球笔记本电脑和PC制造商的230多种机型。英特尔还预计,到2028年,AI芯片驱动的电脑将占PC市场的80%。英特尔强调,正在与100多家软件厂商合作,为PC市场带来数百款得到AI技术强化的应用,这些极具创造力、生产力和趣味性的应用将改变PC的用户体验。...PC版:https://www.cnbeta.com.tw/articles/soft/1404585.htm手机版:https://m.cnbeta.com.tw/view/1404585.htm

封面图片

英特尔正式推出至强6系列处理器 力图赶超英伟达

英特尔正式推出至强6系列处理器力图赶超英伟达英特尔展示了其新一代至强数据中心处理器,首次启用全新的命名方式“至强6(Xeon6)”,将从现在到明年一季度分批次陆续登场。至强6系列分为E和P系列。其中,P系列主要针对高性能计算、数据库与分析、人工智能、网络、边缘和基础设施/存储等计算密集型和AI工作负载,最多配备128个性能核心,包括6900P/6700P/6500P/6300P等。E系列主要面向高密度、可扩展负载等,优化应用的效率表现,最多配备288个核心,包括6700E/6900E处理器。据悉,“至强6”系列处理器虽然没有采用消费端的P核+E核的异构架构设计,但彼此共享硬件平台、软件开发堆栈。新的至强6系列处理器拥有更高效的内核,可以让数据中心运营商将特定任务所需的空间减少到上一代硬件的三分之一。另外,与AMD(AMD.US)、高通(QCOM.US)等竞争对手一样,英特尔也吹嘘其新的系列处理器的性能明显好于现有产品。与此同时,英特尔正式发布了LunarLake笔记本处理器,用于下一代AIPC,号称相比上一代产品AI性能提升3倍。英特尔还推出了AIPC开发套件,搭载LunarLake处理器、32GBLPDDR5内存、512GB存储。英特尔表示,AIPC开发套件后续可以升级到PantherLake芯片(预计明年推出)。英伟达首席执行官黄仁勋曾表示,在人工智能时代,英特尔等传统处理器正在失去动力。但PatGelsinger表示,作为领先的个人电脑芯片制造商,英特尔将在人工智能的扩张中发挥重要作用。在AI加速器方面,英特尔表示,包含八块AI芯片的Gaudi3加速器套件售价大约为12.5万美元,相较于上一代Gaudi2的6.5万美元标价有所上升;该系统将由戴尔科技(DELL.US)和InventecCorp.等合作伙伴提供。不过,英特尔还强调,与竞争对手的产品相比,其价格仍然具有显著优势。根据供应商Thinkmate的估算,配备八个英伟达H100AI芯片的同类服务器系统成本可能超过30万美元。据悉,英特尔表示,相比英伟达H100,Gaudi3的人工智能推理性能平均提高50%,能效平均提高40%。基准测试中,Gaudi3可以在Llama2-7B、Llama2-13B模型中将训练时间缩短到英伟达H100的一半,同时推理吞吐量也比后者平均高出了50%。不过,英特尔Gaudi3的这些优势可能不足以推翻英伟达在数据中心处理器领域的领先地位。neXtCurve分析师LeonardLee表示:“单个加速器的性能不再是最重要的事情。英伟达最大的优势在于它拥有一个有凝聚力的集成生态系统,以及像NVLink这样的专有技术,可以确保其计算集群作为一个整体运行。它的力量在于能够创造一个巨大的逻辑加速器。”由于落后于竞争对手,英特尔的收入在过去两年中有所下滑。三年前,为了扭转颓势,PatGelsinger重回英特尔,并斥巨资振兴公司产品、建立了一个工厂网络。PatGelsinger表示,这将重新夺回英特尔在芯片设计和制造领域的领先地位。尽管英特尔的销售额已经停止萎缩,但分析师并不认为会迅速反弹,且该公司到2024年底的年度收入将比2021年减少200亿美元。与此同时,据估计,英伟达的销售额将翻一番、AMD的销售额增长率将超过10%,因为这两家公司将更好地利用企业在人工智能计算硬件上的大规模支出。...PC版:https://www.cnbeta.com.tw/articles/soft/1433528.htm手机版:https://m.cnbeta.com.tw/view/1433528.htm

封面图片

英特尔发布新款 AI 芯片 Xeon 6,紧追英伟达和 AMD 最近两天先后推出新款 AI 芯片的步伐。

英特尔发布新款AI芯片Xeon6,紧追英伟达和AMD最近两天先后推出新款AI芯片的步伐。据了解,英特尔Xeon6在高强度数据中心工作载荷的性能和电源效率都优于旧款芯片。英特尔宣布,Gaudi2和Gaudi3AI加速器的价格低于众多竞争对手的AI芯片产品。六个月之前,英特尔推出了针对数据中心工作量的第五代IntelXeonprocessors,在那两个月之后,发布用于AI模型训练和开发的Gaudi3处理器。

封面图片

英特尔发布新款AI芯片Xeon6,紧追英伟达和AMD最近两天先后推出新款AI芯片的步伐。据了解,英特尔Xeon6在高强度数据中心

英特尔发布新款AI芯片Xeon6,紧追英伟达和AMD最近两天先后推出新款AI芯片的步伐。据了解,英特尔Xeon6在高强度数据中心工作载荷的性能和电源效率都优于旧款芯片。英特尔宣布,Gaudi2和Gaudi3AI加速器的价格低于众多竞争对手的AI芯片产品。六个月之前,英特尔推出了针对数据中心工作量的第五代IntelXeonprocessors,在那两个月之后,发布用于AI模型训练和开发的Gaudi3处理器。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人