AMD 正式发布 MI300 加速器，性能较英伟达 H100 芯片提高 60%

AMD正式发布MI300加速器，性能较英伟达H100芯片提高60%在美国加州圣何塞举行的AI特别活动中，AMD宣布正式推出其旗舰AIGPU加速器MI300X，并称其性能比英伟达的H100芯片提高了60%。据AMD介绍，新芯片为性能最高的芯片，拥有超过1500亿个晶体管。与英伟达H100芯片相比，AMD新芯片的内存为其2.4倍，内存带宽为其1.6倍，训练性能与H100芯片相当，在运行AI模型方面则比英伟达快得多。——、

AMD推出MI300X加速器 较英伟达H100最多提升60% 猛增市场规模预期

AMD推出MI300X加速器较英伟达H100最多提升60%猛增市场规模预期周三，AMD发布备受瞩目的全新MI300系列AI芯片，包括MI300A和MI300X芯片，瞄准这一英伟达主导的市场。此类芯片比传统计算机处理器更擅长处理人工智能训练所涉及的大型数据集。本次新品发布是AMD公司长达50年历史上最重要的一次之一，有望挑战英伟达在炙手可热的人工智能加速器市场上的地位。AMD发布的新款芯片拥有超过1500亿个晶体管。MI300X加速器支持高达192GB的HBM3存储器。MI300X内存是英伟达H100产品的2.4倍，内存带宽是H100的1.6倍，进一步提升了性能。MI300X新款芯片较英伟达的H100性能最多可以提升60%。在与H100（Llama270B版本）的一对一比较中，MI300X性能提高了高达20%。在与H100（FlashAttention2版本）的一对一比较中，性能提高了高达20%。在与H100（Llama270B版本）的8对8服务器比较中，性能提高了高达40%。在与H100（Bloom176B）的8对8服务器比较中，性能提高了高达60%。AMD公司CEOLisaSu表示，新款芯片在训练人工智能软件的能力方面与H100相当，在推理方面，也即软件投入实际使用后运行该软件的过程，要比竞品好得多。伴随着人工智能的火爆，市场对高端芯片需求量极大。这令芯片制造商们瞄准这一利润丰厚的市场，加快推出高品质的AI芯片。虽然整个AI芯片市场竞争相当激烈，AMD在周三对未来市场规模给出了大胆惊人的预测，认为AI芯片市场将迅猛扩张。具体来说，预计人工智能（AI）芯片市场的规模到2027年将达到超过4000亿美元，这较其8月时预计的1500亿美元上调将近两倍，凸显人们对人工智能硬件的期望正在快速变化。AMD越来越有信心其MI300系列能够赢得一些科技巨头的青睐，这可能会让这些公司花费数十亿美元的支出，投向AMD的产品。AMD表示，微软、甲骨文和Meta等都是其客户。同日消息显示，微软将评估对AMD的AI加速器产品的需求，评估采用该新品的可行性。Meta公司将在数据中心采用AMD新推的MI300X芯片产品。甲骨文表示，公司将在云服务中采用AMD的新款芯片。此前市场预计AMD的MI300系列在2024年的出货约为30~40万颗，最大客户为微软、Google，若非受限台积电CoWoS产能短缺及英伟达早已预订逾四成产能，AMD出货有望再上修。AMD推出MI300X加速器消息发布后，英伟达股价下跌1.5%。今年英伟达股价暴涨，使其市值超过1万亿美元，但最大的问题是，它还能独享加速器市场多久。AMD看到了属于自己的机会：大型语言模型需要大量计算机内存，而这正是AMD认为自己的优势所在。为了巩固市场主导地位，英伟达也正在开发自己的下一代芯片。H100将于明年上半年被H200取代，后者于上个月推出，能够提供新型高速内存，在Llama2上的推理速度比H100快一倍。此外，英伟达将在今年晚些时候推出全新的处理器架构。...PC版：https://www.cnbeta.com.tw/articles/soft/1402609.htm手机版：https://m.cnbeta.com.tw/view/1402609.htm

英伟达财报“预热”：投行曝H100芯片利润率达1000%

英伟达财报“预热”：投行曝H100芯片利润率达1000%知名科技媒体Tom'sHardware称，这份报告意味着对英伟达公司来说，H100芯片的成本利润率高达1,000%，即十倍。由于不清楚瑞杰金融的成本分析有多深入，英伟达可能还需要在其他方面支付额外的费用，但费用空间是比较大的。来源：Tom'sHardware据了解，H100是目前训练大语言模型最需要的图形处理器（GPU），因为它对于大模型的推理和训练都是速度最快的，通常也是推理方面性价比最高的。它可以应用于各种AI场景，如AI聊天机器人、推荐引擎、视觉AI、数据分析、高性能计算等。H100芯片还可以搭配英伟达AIEnterprise软件套件，为企业提供端到端的AI就绪型基础架构。英伟达CEO黄仁勋将其描述为“世界上第一款专为生成式人工智能而设计的计算机芯片”。报道指出，产品开发需要时间和资源，在得出最终的平均产品开发成本之前，英伟达的研发成本也必须考虑在内。这一类别包括工程师和其他参与H100等产品开发生命周期的人员。据匿名评论平台GlaSSDoor的数据，英伟达电子硬件工程师的平均年薪约为20.2万美元，而开发H100等芯片很可能需要数千位这样薪资水平的专业人员。但即使这样，“十倍成本利润率”也足以令人叹为观止，凸显了公司充分享受到了AI时代“卖铲人”的超额红利。然而，H100的供应却十分紧张，据称英伟达的订单量已经排满到2024年，但这一消息尚未得到公司的确认。本周，沙特和阿联酋被曝正在“疯狂下单”英伟达的AI芯片。知情人士透露，沙特已通过公共研究机构阿卜杜拉国王科技大学购买了至少3000枚H100；阿联酋也已经确保自己将获得数千枚芯片。上周还有消息称，百度、字节跳动、腾讯和阿里巴巴等互联网巨头在争相购买英伟达的高性能芯片，订单总和价值高达50亿美元。先前，OpenAICEO山姆·阿尔特曼和特斯拉CEO埃隆·马斯克也先后抱怨GPU不够用。周一，摩根士丹利分析师JosephMoore表示，他依然看好英伟达公司的股票，并将其视为“首选”（toppick），目标价为每股500美元。Moore提到，英伟达定于美股8月23日盘后（北京时间8月24日凌晨）公布业绩，“尽管供应紧张，我们仍然预计业绩会显著超越预期并获得上调，更重要的是，未来三至四个财季的业绩会有很强的可见性。”...PC版：https://www.cnbeta.com.tw/articles/soft/1378037.htm手机版：https://m.cnbeta.com.tw/view/1378037.htm

英伟达：除了 H100 外，中国企业可以购买新架构 RTX 40 系显卡及新款 AI 芯片

英伟达：除了H100外，中国企业可以购买新架构RTX40系显卡及新款AI芯片英伟达负责人回应：此限制不适用于GraceCPU超级芯片，或基于AdaLovelace的RTX4090、4080或L40等主题演讲中提到的其他产品。此外，英伟达JetsonOrin芯片也可以在包括中国大陆在内的全球范围内使用。https://www.tmtpost.com/6260033.html老黄是不是还想用刀法切一个“H99”来绕开限制？

英伟达计划提高2024年H100 产量至少两倍 需先克服产能瓶颈

英伟达计划提高2024年H100产量至少两倍需先克服产能瓶颈英伟达CUDA架构专为AI和HPC工作负载订制，因此有数百种应用程式只能在英伟达运算GPU运行。虽然亚马逊和Google都有订制AI处理器，AI训练和推理用，但仍必须购买大量英伟达GPU。然而，想增加英伟达H100、GH200GraceHopper及基础产品供应并不容易，英伟达想增加GH100产能，必须先摆脱几个瓶颈。首先，GH100很难大量生产。虽然现在产品产量已相当高，但仍需从台积电取得大量4N晶圆供应，才能让GH100产量提高两倍以上。若要制造200万颗芯片，需3.1万片晶圆，台积电5纳米晶圆总产能每月约15万片，且产能还须由英伟达、AMD、苹果等共享。再来，GH100依赖HBM2E或HBM3记忆体，并使用台积电CoWoS封装，英伟达也需确保供应正常，台积电也在努力满足CoWoS封装需求；第三，基于H100设备使用HBM2E、HBM3或HBM3E存储器，英伟达必须从美光、三星和SK海力士等公司购入足够HBM存储器。最后是英伟达H100显卡或SXM模组必须安装在某个地方，英伟达必须确保合作伙伴的AI服务器也有两到三倍输出。如果英伟达能满足全部H100GPU需求，明年营收会相当可观。...PC版：https://www.cnbeta.com.tw/articles/soft/1379565.htm手机版：https://m.cnbeta.com.tw/view/1379565.htm

英伟达新增英特尔为封装服务商 有望月产 30 万颗 H100

英伟达新增英特尔为封装服务商有望月产30万颗H100据科创板日报援引外媒消息，市场日前传出，由于台积电CoWoS先进封装产能不足，促使英伟达新增英特尔为先进封装服务供货商、最快Q2加入，月产能约5000片。另据Tom`sHardware分析，假设良率完美、且英伟达与英特尔是针对H100签订合约，那么英伟达每月可增产超过30万颗H100GPU，可生产30万颗H100芯片。