三星计划为英伟达AI GPU提供HBM3和2.5D封装服务

三星计划为英伟达AIGPU提供HBM3和2.5D封装服务目前，英伟达的A100、H100和其他AIGPU均使用台积电进行晶圆制造和2.5封装工作的前端工艺。英伟达AIGPU使用的HBM（高带宽内存）芯片由SK海力士独家提供。然而，台积电没有能力处理这些芯片所需的2.5D封装的所有工作量。消息人士称，英伟达正在与二级和替代供应商就数量和价格进行谈判，其中包括AmkorTechnology（安靠科技）和SPIL（矽品精密工业）。SK海力士将继续供应所使用的HMB3。三星的先进封装团队（AVP）是另外的潜在供应商，该团队由三星电子去年底成立，旨在扩大芯片封装收入。AVP团队可以接收英伟达从台积电采购的AIGPU晶圆，然后从三星存储芯片业务部门采购HBM3，并使用自己的I-Cube2.5D封装来完成工作。三星向英伟达提出了这一提议，同时还补充说，它可以派遣大量工程师参与该项目。三星还提出为英伟达设计中介层晶圆。消息人士称，如果这笔交易通过，三星预计将处理英伟达约10%的AIGPU封装量。不过，他们补充说，三星必须满足英伟达的要求，并通过其HBM3和2.5D封装的质量测试。三星计划于今年晚些时候开始生产HBM3。7月早些时候，三星半导体负责人KyungKye-hyun通过公司内部聊天工具分享称，该公司的HBM3被客户评价为优秀。KyungKye-hyun表示，他预计HBM3和HBM3P将从明年开始为芯片部门的利润增长做出贡献。与此同时，台积电还计划将其2.5D封装产能扩大40%以上，以满足英伟达不断增长的需求。这意味着三星除非迅速通过英伟达的评估，否则可能无法达成交易。三星还致力于到2025年开发无凸点封装，该封装针对高层HBM，有助于降低封装高度，该技术也称为铜-铜直接键合或混合键合（Cu-CuHybridBonding）。...PC版：https://www.cnbeta.com.tw/articles/soft/1372021.htm手机版：https://m.cnbeta.com.tw/view/1372021.htm

AI 人才争夺战白热化：英伟达挖走三星 515 人，三星挖走英伟达 278 人

AI人才争夺战白热化：英伟达挖走三星515人，三星挖走英伟达278人https://www.ithome.com/0/776/463.htm英特尔员工中有848人出自三星电子；三星电子员工中有1,138人出自英特尔。美光员工中有205人出自三星电子；三星电子员工中有307人出自美光。三星电子员工中有195人出自台积电；台积电员工中有24人出自三星电子。

消息称三星赢得英伟达2.5D封装订单

消息称三星赢得英伟达2.5D封装订单2.5D封装将CPU、GPU、I/O、HBM等芯片水平放置在中介层上。台积电将其2.5D封装技术称为CoWoS，而三星则将其称为I-Cube。英伟达的A100和H100就是采用此类封装技术制造的，英特尔Gaudi也是如此。三星自去年以来一直致力于为其2.5D封装服务争取客户。三星向客户提议，将为AVP团队分配足够的人员，同时提供自己的中介层晶圆设计。消息人士称，三星将为英伟达提供2.5D封装，其中装有四个HBM芯片。他们补充说，三星已经拥有放置8个HBM芯片的封装技术。同时，为了在12英寸晶圆上安装8个HBM芯片，需要16个中介层，这会降低生产效率。因此，当HBM芯片数量达到8个时，三星为此开发了中介层的面板级封装技术。英伟达将订单交给三星，可能是因为其人工智能（AI）芯片的需求增加，这意味着台积电的CoWoS产能将不足。该订单还可能让三星赢得HBM芯片订单。...PC版：https://www.cnbeta.com.tw/articles/soft/1426558.htm手机版：https://m.cnbeta.com.tw/view/1426558.htm

为何三星在AI GPU订单争夺战中败给台积电？封装技术背大锅

为何三星在AIGPU订单争夺战中败给台积电？封装技术背大锅近年来，人工智能行业的快速发展推动了全球对英伟达GPU的需求，但目前仍然供不应求。因用于ChatGPT而闻名的英伟达旗舰A100和H100GPU完全外包给台积电。6月初，台积电决定应英伟达的要求扩大封装产能。台积电可以独家推出英伟达芯片，这要归功于其名为CoWoS的封装技术。快速高效处理数据的人工智能芯片在技术上具有挑战性，需要先进的封装技术。随着超微制造工艺最近达到人类头发丝厚度的百分之二十，封装技术作为提高半导体性能的一种方式的重要性得到了强调。在封装过程中，芯片以三维方式堆叠在单个薄膜中，从而缩短了它们之间的距离。这使得芯片之间的连接速度更快，从而带来高达50%或更多的巨大性能提升。芯片的堆叠和封装方式对性能产生巨大差异。台积电于2012年首次引入CoWoS技术，此后不断升级其封装技术。与此同时，全球半导体行业出现了一种新技术，该技术结合了不同类型的半导体（例如存储器和系统半导体），创造了全新类别的半导体（异构集成）。现在，英伟达、苹果和AMD都无法在没有台积电及其封装技术的情况下生产其核心产品。这意味着英伟达可以通过台积电进行封装和代工来获得成品芯片。换句话说，代工服务用户不仅会关注代工公司制造芯片的能力如何，还会关注制造芯片后的封装能力如何。除了CoWoS之外，台积电还有其他封装技术。除了台积电之外，中国台湾半导体封装专家已经主导了全球市场。包括该领域全球第一的日月光在内，中国台湾企业占据全球封装市场52%的份额。这种无与伦比的封装技术解释了为什么即使三星电子在2022年领先台积电成功量产3纳米半导体，英伟达和苹果等全球IT巨头仍然希望使用台积电的生产线。因此，所有AI大代工厂自动驾驶半导体的订单都转到了台积电，与三星的市场份额差距越来越大。6月8日，专门从事高端封装的半导体生产工厂Fab6开始运营，台积电表明了其必将赢得与三星竞争的意图。三星还全力开发先进封装技术，将芯片性能提升到一个新的水平。在6月27日举行的三星代工论坛2023上，三星电子宣布与台积电全面展开封装战，称不仅要推进封装技术，还要壮大相关生态系统。为此，这家韩国半导体巨头甚至推出了一站式封装服务的概念。它计划为想要提高芯片性能的客户提供定制封装服务。从长远来看，它将创建一条专门用于包装的新生产线。为了超越台积电的CoWoS，三星还正在开发更先进概念的I-cube和X-cube封装技术。据报道，这家韩国芯片制造商尤其将研究重点放在三维（3D）封装上，其中多个芯片垂直堆叠以提高性能。“三星正在准备一种更先进的方式，即半导体的三维封装。”一位半导体业内人士表示。“很快三星和台积电在封装上就会发生正面冲突。”（校对/武守哲）...PC版：https://www.cnbeta.com.tw/articles/soft/1368613.htm手机版：https://m.cnbeta.com.tw/view/1368613.htm

英伟达计划提高2024年H100 产量至少两倍 需先克服产能瓶颈

英伟达计划提高2024年H100产量至少两倍需先克服产能瓶颈英伟达CUDA架构专为AI和HPC工作负载订制，因此有数百种应用程式只能在英伟达运算GPU运行。虽然亚马逊和Google都有订制AI处理器，AI训练和推理用，但仍必须购买大量英伟达GPU。然而，想增加英伟达H100、GH200GraceHopper及基础产品供应并不容易，英伟达想增加GH100产能，必须先摆脱几个瓶颈。首先，GH100很难大量生产。虽然现在产品产量已相当高，但仍需从台积电取得大量4N晶圆供应，才能让GH100产量提高两倍以上。若要制造200万颗芯片，需3.1万片晶圆，台积电5纳米晶圆总产能每月约15万片，且产能还须由英伟达、AMD、苹果等共享。再来，GH100依赖HBM2E或HBM3记忆体，并使用台积电CoWoS封装，英伟达也需确保供应正常，台积电也在努力满足CoWoS封装需求；第三，基于H100设备使用HBM2E、HBM3或HBM3E存储器，英伟达必须从美光、三星和SK海力士等公司购入足够HBM存储器。最后是英伟达H100显卡或SXM模组必须安装在某个地方，英伟达必须确保合作伙伴的AI服务器也有两到三倍输出。如果英伟达能满足全部H100GPU需求，明年营收会相当可观。...PC版：https://www.cnbeta.com.tw/articles/soft/1379565.htm手机版：https://m.cnbeta.com.tw/view/1379565.htm

特斯拉可能拥有多达十余万片英伟达H100 而xAI也拥有大量高性能GPU储备

特斯拉可能拥有多达十余万片英伟达H100而xAI也拥有大量高性能GPU储备X帐户"技术兄弟"最近发布消息称，马克-扎克伯格的Meta公司目前已拥有全球最大的H100GPU“武器库”之一，数量约为35万个。不过，马斯克对该表格中特斯拉和xAI的排名不以为然，他指出："如果衡量正确的话，特斯拉会排在第二位，X/xAI会排在第三位。"假设其他条件不变，这意味着特斯拉现在拥有3万到35万块英伟达H100GPU。另一方面，xAI现在可能拥有2.6万到3万块英伟达AI计算卡。早在今年1月，埃隆-马斯克（ElonMusk）在确认对特斯拉Dojo超级计算机投资5亿美元（相当于约1万个H100GPU）的同时，还宣布这家电动汽车巨头"今年在英伟达硬件上的花费将超过这个数字"，因为"在人工智能领域具有竞争力的赌注目前每年至少有几十亿美元"。在马斯克从DeepMind、OpenAI、Google研究院、微软研究院、特斯拉和多伦多大学聘请人才，从头开始建立自己的人工智能企业时，xAI曾在2023年购买了大约1万台英伟达的GPU。不过，可以合理推断，这些采购很可能与A100GPU有关。此后，从马斯克最新发布的X帖子中可以推断，xAI似乎还积累了大量的H100GPU。当然，考虑到人工智能领域的创新速度，这些H100GPU很快就会过时。早在今年3月，英伟达就发布了GB200GraceBlackwell超级芯片，将一个基于Arms的GraceCPU与两个BlackwellB100GPU结合在一起。该系统可以部署一个包含27万亿个参数的人工智能模型，在执行聊天机器人提供答案等任务时，速度有望提高30倍。...PC版：https://www.cnbeta.com.tw/articles/soft/1426690.htm手机版：https://m.cnbeta.com.tw/view/1426690.htm