英特尔 推定制版 AI 芯片,中国客户会买单吗?

英特尔 推定制版 AI 芯片,中国客户会买单吗? 根据英特尔提供的信息,Gaudi2 的性能低于 Nvidia H100,但高于 A100。针对和H100的差距,英特尔认为,Gaudi2的优势在于性价比。 某AI模型层创企的CTO表示,目前存在顾虑。“在训练100亿参数规模模型10轮情况下,其他公司的芯片训练速度,普遍比A100多出10几天,宁愿多花钱买点A100或H100,也不想耽误训练的时间。且Gaudi2在2022年已经发布,市场的选择已经说明问题。” #阅读材料 #观点

相关推荐

封面图片

英特尔推出性能超越英伟达 H100 的 Gaudi 3 AI 加速芯片

英特尔推出性能超越英伟达 H100 的 Gaudi 3 AI 加速芯片 英特尔 Vision 2024 大会的第二天,英特尔正式推出了 Gaudi 3 加速芯片。Gaudi 3 使用台积电 5nm 工艺制造,热设计功耗为 900W ,FP8 精度下的峰值性能为 1835 TFLOPS。英特尔称 Gaudi 3 在 16 个芯片组成的加速集群中以 FP8 精度训练 Llama2-13B 时比性能 H100 高出 1.7 倍。同时,英特尔预计 Gaudi 3 的推理性能将比 H200/H100 提高 1.3 倍到 1.5 倍,能效比将高 2.3 倍。英特尔已经向客户提供了样片,并将在第三季度正式批量交付。

封面图片

【英特尔发布新款AI芯片,希望从英伟达和AMD争抢市场份额】

【英特尔发布新款AI芯片,希望从英伟达和AMD争抢市场份额】 英特尔发布新款AI芯片Xeon 6,紧追英伟达和AMD最近两天先后推出新款AI芯片的步伐。 据了解,英特尔Xeon 6在高强度数据中心工作载荷的性能和电源效率都优于旧款芯片。 英特尔宣布,Gaudi 2 和Gaudi 3 AI加速器的价格低于众多竞争对手的AI芯片产品。 六个月之前,英特尔推出了针对数据中心工作量的第五代Intel Xeon processors,在那两个月之后,发布用于AI模型训练和开发的Gaudi 3处理器。

封面图片

英特尔为 Gaudi 3 AI加速器准备了中国特供版

英特尔为 Gaudi 3 AI加速器准备了中国特供版 英特尔日前发布了性能优于 H100 的AI加速器 Gaudi 3 ,其强劲的性能预计无法满足美国政府对于出口芯片的监管要求。但本周,英特尔还发布了 Gaudi 3 人工智能加速器的中国版。 其中 OAM 兼容夹层卡形态的中国版将在6月份推出,编号HL-328,功耗减半至450W,HMB内存、缓存、解码器等完全保留,预计算力将较常规版减半。PCIe扩展卡形态将在9月份出货,中国版编号HL-388,功耗同样减半至450W。通用基板形态的中国版编号为HLB-325,但具体规格和出货时间暂时不详。

封面图片

英特尔面向中国市场推出全新 Gaudi2 处理器:总内存带宽 2.4TB / s、用于训练 AI

英特尔面向中国市场推出全新 Gaudi2 处理器:总内存带宽 2.4TB / s、用于训练 AI 英特尔 Gaudi2 处理器的架构重点在于高效扩展,以满足大规模语言模型及生成式 AI 模型的需求;该处理器的每张芯片集成了 21 个专用于内部互联的 100Gbps 以太网接口。 在 Stable Diffusion 训练上,英特尔 Gaudi2 处理器展示了从 1 张卡至 64 张卡近线性 99% 的扩展性,从 256 个加速器到 384 个加速器可实现接近线性的 95% 扩展效果 ========= 你这个性能有美国商务部认证

封面图片

性能暴降92%:英特尔中国特供AI芯片曝光

性能暴降92%:英特尔中国特供AI芯片曝光 英特尔在其Gaudi 3 AI芯片白皮书中披露,正准备向中国市场推出“特供版”Gaudi 3。中国特供Gaudi 3包括名为HL-328的OAM兼容夹层卡(Mezzanine Card),和名为HL-388的PCle加速卡两种,其中HL-328将于6月24日推出,HL-388将于9月24日推出。 与原版相比,中国特供版Gaudi 3拥有相同的96MB SRAM片上内存, 128GB HBM2e高带宽内存,带宽为3.7TB/s,拥有PCIe 5.0 x16接口和解码标准。但是由于美国对于AI芯片的出口管制,其综合运算性能(TPP)需要低于4800才能出口到中国, 这也意味中国特供版Gaudi 3的16bit性能不能超过150 TFLOPS。 而原版Gaudi 3在FP16/BF16上的性能可以达到1835 TFLOPS,因此中国特供版Gaudi 3最终可能需要将其AI性能降低约92%,才能符合美国的出口管制要求。 频道:@kejiqu 群组:@kejiquchat

封面图片

英特尔将为微软代工新芯片 挑战台积电地位

英特尔将为微软代工新芯片 挑战台积电地位 英特尔的代工服务推出新的路线图,采用英特尔14A制程技术、专业的节点进化以及新的英特尔代工高级系统组装和测试 (ASAT) 功能,帮助客户实现他们启用AI技术的雄心。系统级代工是英特尔近几年推动代工业务增长的创新方式,它超越传统的晶圆代工服务,引领行业由标准单片式系统级芯片(system-on-chip)向单个封装内的“芯片系统”(systems of chips)转变。系统级代工服务由晶圆制造、封装、软件和开放的芯粒四部分组成,让英特尔能够发挥其在芯片设计和制造方面的专长,用芯粒打造新的客户和合作伙伴解决方案。英特尔的CEO基辛格 (Pat Gelsinger) 表示,AI正在深刻地改变世界,以及我们对技术及其所驱动芯片的看法。这为世界上最具创新力的芯片设计者和英特尔面向AI的系统级代工创造了前所未有的机遇。我们可以共同创造新市场,并革新用技术改善人们生活的方式。英特尔周三同时宣布,更新拓展制程技术的路线图,将14A增加到公司的先进节点计划中。2021年7月,英特尔公布了“四年五个制程节点”(5N4Y)的计划,要通过从当时起四年内推进英特尔7、4、3、20A和18A五个制程节点,到2025年,重获制程领先地位。本周三,英特尔确认,其5N4Y制程路线图仍在按计划进行,并将在业内率先提供背面供电解决方案。英特尔更新的路线图限制涵盖英特尔已经进化的3、18A和14A制程技术,其中包括英特尔3-T,该技术服务于对3D先进封装设计,通过硅通孔(TSV)进行优化,将很快进入准备生产阶段。基辛格在本周三的主题演讲中透露,英特尔的长期系统级代工服务方式得到客户的支持,微软董事长兼CEO纳德拉(Satya Nadella)表示,微软计划利用英特尔的18A制程生产微软自研的芯片。纳德拉表示:“我们正处于非常令人兴奋的平台转变过程中,这(转变)将从根本上改变每个组织和整个行业的生产力。为了实现这一愿景,我们需要可靠的供应最先进、高性能且高质量的半导体。因此,我们如此兴奋第与英特尔代工服务合作,并且,我们选择的芯片设计计划以英特尔的18A制程进行生产。”微软并未披露采用A18制程技术的会是哪些微软的产品。不过,去年11月中,微软推出为Azure服务的两款高端定制芯片,分别是微软的首款AI芯片Maia 100,以及英特尔CPU的竞品:基于Arm架构的云原生芯片Cobalt 100。其中,Maia 100用于OpenAI模型、Bing、GitHub Copilot和ChatGPT等AI工作负载运行云端训练和推理。它采用台积电的5纳米工艺制造,有1050亿个晶体管,比AMD挑战英伟达的AI芯片MI300X的1530 亿个晶体管少约30%。当时有媒体评论称,Maia 100可能和英伟达的芯片正面对决,成为英伟达芯片的替代品。微软主管Azure硬件系统和基础设施的副总Rani Borkar当时透露,Maia 100已在其Bing和Office AI产品上测试,OpenAI也在试用。这意味着,ChatGPT等模型的云训练和推理都将可能基于该芯片。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人