人工智能、数据中心和云计算的背后:不断变化的服务器业务

人工智能、数据中心和云计算的背后:不断变化的服务器业务 那就是:印刷电路板(PCB)、无源元件、电缆、电源、硬盘驱动器和放置它们的机架,我们应该加上网络,它的成本可能比所有其他元件都要高,但我们还是留到下次再说吧。那么,谁来销售所有这些设备,价值又从何而来?特邀作者乔纳森-戈德堡(Jonathan Goldberg)是多功能咨询公司 D2D Advisory 的创始人。这里有两类供应商原始设备制造商和原始设计制造商我们不打算拼写首字母缩略词,因为这实际上会混淆视听。一般来说,原始设备制造商拥有品牌和最终客户关系。原厂委托设计代工提供采购和制造,即所有设备的实际生产和组装。在两者之间,设计和系统集成领域有相当多的重叠,重要的是,原始设备制造商和原始设计制造商之间的界限是模糊的,在许多领域都有很大的交叉。一段历史。20 世纪 90 年代,随着个人电脑制造商将生产基地从美国转移到亚洲,这种模式应运而生。个人电脑品牌,即原始设备制造商将业务外包给主要位于台湾的合同制造商。这些公司在台湾生产设备,后来大量转向中国。随着时间的推移,合同制造商向价值链上游移动,增加了设计能力。合同制造商变成了原始设计制造商,然后其中许多公司分拆成独立公司,销售自己的品牌产品,成为自己的原始设备制造商。这种模式逐渐演变成今天大多数大批量电子产品的生产方式。服务器的发展速度略有不同。这些产品的产量较低,价格较高,因此 OEM(品牌所有者)可以更长时间地保留设计功能(有时是制造功能)。多年来,原始设备制造商与英特尔公司合作设计了一系列服务器。然后,他们将这些产品销售给客户。虽然它们提供各种配置,但这些基本上都是目录系统客户从可选项中挑选。十余年后,云改变了这一切。最关键的是,公共云提供商(又称超大规模提供商)开始主导市场,不仅集中了经济实力,还集中了技术能力。随着时间的推移,超大规模企业在很大程度上摒弃了原始设备制造商,直接与原始设计制造商合作,采购他们自己设计的系统。如今,原始设备制造商主要包括惠普、戴尔和联想。原始设计制造商有数百家,但最大的都在台湾,包括仁宝、富士康、英业达、广达和纬创。这些公司都非常多样化,在供应链中分布着数十家子公司。此外,还有一些其他委托设计代工公司,它们往往专注于特定的利基市场,例如时下的热门股超微公司(SuperMicro),它们的专长是 GPU 服务器。如今,超大规模企业与其他所有人之间存在着鸿沟。试想一家大型企业,如银行、快餐连锁店或汽车制造商,他们可能仍然希望拥有自己的服务器,甚至数据中心。他们将与原始设备制造商合作,后者将为他们提供可供选择的系统目录。然后,原始设备制造商通常会充当系统集成商的角色与所有供应商合作采购零部件、组装印刷电路板,然后将所有设备连接在一起并安装软件。原始设备制造商在这里扮演着重要的角色,因为很多采购决策都是由他们做出的。相比之下,超大规模企业运营着数十个数据中心。他们的业务建立在巨大的规模经济基础上,如果能降低 5%的服务器成本,就能节省数亿美元。除此之外,他们还拥有集中的技术人才。简单地说,他们有能力雇用团队来设计针对其特定需求进行优化的服务器。而其他大公司则没有这样的团队,也不需要这样的团队,只是运营规模不同而已。然后,超大型企业直接与原始设计制造商合作,由后者收集所有组件,组装系统并布线。在这里,几乎所有组件的购买决定都是由最终客户做出的。这给所有元件供应商带来了一个大问题。试想一家芯片供应商。他们需要说服客户购买他们的芯片,但客户要的不是芯片,而是一个完整的工作系统。在他们同意任何大额订单之前,客户会希望测试该系统,确保它能很好地运行他们的软件。因此,芯片供应商必须与 OEM 或 ODM 合作设计该系统。而这些设计是要花钱的。一个由 5-10 人组成的团队需要一两个月的时间来布置一切、验证性能并确保固件和软件的兼容性。然后,还得有人购买元件来制造一些原型。这些成本增加得很快,每个系统动辄几十万,通常达到七位数。因此,芯片供应商在销售单个芯片之前,必须投入大量资金。客户都希望服务器尽可能接近他们的需求,这意味着必须有人生产多个版本的服务器,因此成本会急剧上升。而这一切,都要在人们知道该平台的销售情况之前。这个问题越来越严重。当只有英特尔和 AMD 在销售服务器 CPU 时,供应链的决策空间有限,而且都是成熟的供应商。而现在,CPU设计者多达十几家,组合难度大大增加。任何想进入人工智能加速器市场的人都必须面对所有这些成本。而对于较小的供应商来说,他们必须非常谨慎地对待自己的赌注。投资于热门芯片的支持,回报可能是巨大的,但投资于错误的平台,回报则是巨大的损失。在向超级计算机销售时,问题就更加突出了。他们需要的远不止几个原型。他们有严格的测试周期,从十几个系统到几百个系统,再到几千个系统。他们可能会为此付费(也可能不付费),但任何设计芯片的公司都需要比这更大的产量,才能证明测试系统的成本是合理的,更不用说整个芯片的成本了。当然,也有各种各样的计划来实现这些方面的标准化。开放计算项目的核心任务是实现服务器设计的标准化。虽然开放计算项目为业界做出了一些重大贡献,但我们认为没有人会将其描述为通用标准。所有这些都将变得更加复杂。数据中心日益多样化,从纯 CPU 到异构计算,这迫使所有供应商(不仅仅是芯片设计商)开始承担一些重大风险。许多厂商会追逐每一笔交易,其他厂商则可能会重蹈覆辙,专注于 AMD、英特尔以及现在的 NVIDIA。聪明的厂商会采取投资组合的方式开展业务,并以类似对冲基金经理或风险投资者的方式监控自己的选择。我们无意危言耸听,这在很大程度上是电子产品周期性的自然规律。随着时间的推移,该行业将找到一些新的平衡点,但未来几年将更加混乱。 ... PC版: 手机版:

相关推荐

封面图片

苹果公司正开发数据中心人工智能芯片

苹果公司正开发数据中心人工智能芯片 苹果公司已经在开发自己的可以在数据中心服务器中运行人工智能软件的芯片,有望为该公司在 AI 军备竞赛中带来一项关键优势。过去十年间,苹果公司积极推进 iPhone、iPad、Apple Watch 和 Mac 电脑的自研芯片设计。知情人士透露,这个服务器项目内部代号为苹果数据中心芯片 (ACDC) 项目,将利用苹果在自研芯片方面的实力开发服务器芯片。ACDC 项目已经进行了几年,目前还不清楚这款新芯片将于何时亮相,甚至是否会亮相。苹果公司此前承诺将在6月份的全球开发者大会上发布多款新的人工智能产品和相关消息。

封面图片

台湾在全球人工智能服务器供应中占主导地位

台湾在全球人工智能服务器供应中占主导地位 (据称)经济部已经确定,台湾出货了全球 90% 的人工智能服务器设备DigiTimes声称(根据内部消息):"美国品牌供应商预计将从台湾合作伙伴处采购人工智能服务器"。北美客户可能(目前)100% 依赖台湾生产的设备供应这种情况可能会使当前的国际紧张局势复杂化。报告认为,相关各方已制定计划,在全球对人工智能硬件日益增长的需求中抓住机遇对于一些雄心勃勃的行业老板来说,90%的市场主导地位显然是不够的尽管制造商需要跨越几个(不断上升的)成本障碍。人工智能服务器的关键部件比普通服务器部件的价格要高得多,人工智能处理器/加速器芯片的价格比通用服务器 CPU 高出近 10 倍,类似的价格上涨也影响了人工智能邻近组件的供应链,尤其是冷却、电源和被动部件。台湾制造商的业务遍布全球,但行业观察家认为,着眼在本土生产的全球产能扩张正在进行中,或许正逐步接近更好的平衡供应条件。 ... PC版: 手机版:

封面图片

报道:苹果自主研发数据中心人工智能晶片

报道:苹果自主研发数据中心人工智能晶片 《华尔街日报》报道,美国苹果公司在自主研发用于数据中心的人工智能晶片,但尚不清楚何时或是否会推出。 《华尔街日报》援引知情人士报道,苹果已在iPhone、Mac和其他设备中使用了自研晶片,用于数据中心的人工智能晶片将在此基础上进行。报道称,这一项目在公司内部代号为ACDC。 彭博社报道,如果苹果可以推进开发自己的服务器处理器,将与几家最大的科技公司做法相似。亚马逊旗下的AWS、谷歌、微软和Meta Platforms Inc.运营的数据中心,都在一定程度上采用了自己设计的半导体,对英特尔在这一领域的传统主导地位形成一定影响。 2024年5月7日 10:58 AM

封面图片

英飞凌为高能耗的人工智能数据中心设计了12千瓦电源装置

英飞凌为高能耗的人工智能数据中心设计了12千瓦电源装置 德国半导体制造商英飞凌科技公司最近发布了新一代电源装置,有望为专注于云服务器和人工智能算法的数据中心提供前所未有的电力输送能力。英飞凌的新型服务器电源装置可提供高达 12 千瓦的功率,在单个模块中集成了三种不同的半导体材料。据英飞凌称,这些新型 PSU 是世界上首批能够提供高达 12 千瓦功率的设备。不过,首批型号的额定功率为 8 千瓦,将于 2025 年第一季度上市。根据该公司的PSU 路线图,12 kW 型号还没有确定的发布日期。英飞凌将硅(Si)、碳化硅(SiC)和氮化镓(GaN)集成到同一模块中,这将显著提高电源性能、效率和可靠性。12 kW PSU 的效率可达 97.5%,而 8 kW PSU 可支持输出功率为 300 kW 及以上的"AI 机架"。氮化镓是近年来帮助消费类充电器缩小体积的一种材料,而碳化硅则可以在更高的电压水平下提供更高的效率。碳化硅可用于电动汽车中的直流到直流逆变器,但也可用于为人工智能算法加速设计的 GPU 提供更多电能的 PSU。由于AI聊天机器人和人工智能服务的普及,数据中心的能源需求正在迅速增长。英飞凌表示,新的 PSU 凭借其更高的效率将帮助这些大型服务器群降低功耗,同时还能减少温室气体排放并降低运营成本。根据最近的预测,到 2030 年,数据中心的耗电量将占全球耗电量的 7%。现代高性能服务器 GPU 的单芯片功耗高达 1 千瓦,到本十年末可能达到 2 千瓦,甚至更高。大型科技和人工智能公司已经感受到了这种不断增长的电力需求所带来的影响,亚马逊被迫对资源进行配给操作,以避免都柏林数据中心的电网中断。 ... PC版: 手机版:

封面图片

苹果正在研发数据中心服务器芯片,用于运行AI软件,该项目的内部代号为Project ACDC(数据中心的苹果芯片)

苹果正在研发数据中心服务器芯片,用于运行AI软件,该项目的内部代号为Project ACDC(数据中心的苹果芯片) 知情人士向媒体透露称,该项目已经进行了好几年,尚不确定所谓的新型芯片何时会推出。 据一些人士称,Apple的服务器芯片可能会专注于运行AI模型即所谓的推理而不是训练AI模型,后者可能仍由芯片制造商Nvidia主导。 另有媒体指出,预计在AI软件方面,苹果将侧重于能够在日常生活中为用户提供新的主动功能。 值得注意的是,苹果CEO库克在最近的财报电话会上表示,计划在6月的全球开发者大会期间,展示其在AI软件方面的创新成果。 标签: #Apple #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

美国科技巨头转向墨西哥制造人工智能设备

美国科技巨头转向墨西哥制造人工智能设备 这些公司正利用2020年生效的美国-墨西哥-加拿大自由贸易协定吸引制造商将业务转移到墨西哥,此策略称为近岸外包(Nearshoring),已成功吸引数十亿美元的投资。今年二月,富士康宣布投资约2700万美元购买墨西哥西部哈利斯科州的土地。知情人士透露,此举是其针对人工智能服务器生产的重大扩张。过去四年,富士康已在墨西哥投资约6.9亿美元。据悉,富士康在墨西哥的工厂为亚马逊、谷歌、微软和英伟达等美国科技巨头生产人工智能服务器。这些美国公司对此或拒绝证实或未予回应。人工智能硬件包括高性能计算机服务器、存储系统、冷却设备、连接器等,外观上与处理非人工智能任务的设备相似。但在底层技术上,它们专为应对人工智能程序所需的复杂计算特别设计,通常配备尖端处理器。随着这类设备产量的提升,美国企业正努力避免重蹈覆辙,如十五年前智能手机及其零部件的核心制造基地大多转移到亚洲,尤其是富士康等公司经营的iPhone组装工厂。墨西哥作为生产中心,面临包括犯罪、水电供应不稳定及对熟练工人的激烈竞争等挑战。一些企业管理层透露,不得不依赖私人保安防范当地帮派抢劫工厂内芯片或其他贵重设备。此外,他们还提到,墨西哥工人不像中国工人那般愿意长时间加班,已组建工会,工厂运营需严格遵守美墨加贸易协定的劳工条款。英业达等为美国大型科技公司生产具有人工智能功能的服务器,正成为在墨西哥扩大业务的一员。去年十二月,英业达墨西哥地区经理Arch Chen表示,一位美国顶尖人工智能开发公司的重要客户,最初希望在美国本土生产设备,但考察墨西哥设施后,对其技术实力印象深刻,决定在此建立生产线。据知情人士透露,戴尔和慧与等美国服务器制造巨头已要求供应商将部分服务器和云计算生产环节转移至东南亚和墨西哥。这两家公司均表示,此举旨在加强并多元化其供应链。人工智能相关设备成为墨西哥在先进制造业领域日益重要的一环。墨西哥已与50个国家和地区签订14项自由贸易协定,位居全球首位。这些协定吸引了来自亚洲、欧洲和美国的汽车制造商,使墨西哥成为全球第五大汽车出口国。包括特斯拉在内的电动汽车制造商正在积极探求在墨西哥建立生产基地。这些制造商,包括富士康、和硕、纬创、广达、仁宝和英业达六家行业巨头,主要集中在靠近美国得克萨斯州的几个重要中心,例如与得克萨斯州埃尔帕索相邻的华雷斯市(Ciudad Juárez)和蒙特雷等地。它们在全球服务器主板生产领域占据主导地位。服务器主板作为核心组件,集成了众多关键部件。富士康董事长刘扬伟曾在去年八月表示,仅富士康一家在图形处理单元上游业务中就占据了超过70%的市场份额。图形处理单元是驱动人工智能服务器电路的关键构件。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人