7月15日,根据Digital Information World发布的最新报告,数据中心为训练AI模型产生的能耗将为常规云工作

7月15日,根据Digital Information World发布的最新报告,数据中心为训练AI模型产生的能耗将为常规云工作的三倍,预计到2030年,美国数据中心的电力需求将以每年约10%的速度增长。 数据显示,OpenAI训练GPT-3耗电为1.287吉瓦时,大约相当于120个美国家庭1年的用电量。而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。 2023年1月,OpenAI仅一个月已耗用可能等同17.5万个丹麦家庭的全年用电量。谷歌AI每年耗电量达2.3太瓦时,相当于亚特兰大所有家庭1年用电量。 据了解,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本从3100元直接飙升到12400元,大涨3倍。 数据中心客户为此支付的电费也更为高昂。市场研究公司Synergy Research Group的首席分析师John Dinsdale坦言,数据中心运营商正将运行AI应用程序产生的额外成本直接转嫁到客户身上。 一些数据中心的运营商们趁机提高商业租赁价格,以应对为运行日益能源密集型工作负载的计算机服务器组群(stack)供电和散热而产生的额外成本。 标签: #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

相关推荐

封面图片

英飞凌为高能耗的人工智能数据中心设计了12千瓦电源装置

英飞凌为高能耗的人工智能数据中心设计了12千瓦电源装置 德国半导体制造商英飞凌科技公司最近发布了新一代电源装置,有望为专注于云服务器和人工智能算法的数据中心提供前所未有的电力输送能力。英飞凌的新型服务器电源装置可提供高达 12 千瓦的功率,在单个模块中集成了三种不同的半导体材料。据英飞凌称,这些新型 PSU 是世界上首批能够提供高达 12 千瓦功率的设备。不过,首批型号的额定功率为 8 千瓦,将于 2025 年第一季度上市。根据该公司的PSU 路线图,12 kW 型号还没有确定的发布日期。英飞凌将硅(Si)、碳化硅(SiC)和氮化镓(GaN)集成到同一模块中,这将显著提高电源性能、效率和可靠性。12 kW PSU 的效率可达 97.5%,而 8 kW PSU 可支持输出功率为 300 kW 及以上的"AI 机架"。氮化镓是近年来帮助消费类充电器缩小体积的一种材料,而碳化硅则可以在更高的电压水平下提供更高的效率。碳化硅可用于电动汽车中的直流到直流逆变器,但也可用于为人工智能算法加速设计的 GPU 提供更多电能的 PSU。由于AI聊天机器人和人工智能服务的普及,数据中心的能源需求正在迅速增长。英飞凌表示,新的 PSU 凭借其更高的效率将帮助这些大型服务器群降低功耗,同时还能减少温室气体排放并降低运营成本。根据最近的预测,到 2030 年,数据中心的耗电量将占全球耗电量的 7%。现代高性能服务器 GPU 的单芯片功耗高达 1 千瓦,到本十年末可能达到 2 千瓦,甚至更高。大型科技和人工智能公司已经感受到了这种不断增长的电力需求所带来的影响,亚马逊被迫对资源进行配给操作,以避免都柏林数据中心的电网中断。 ... PC版: 手机版:

封面图片

人工智能和加密货币业务导致数据中心能耗快速增加

人工智能和加密货币业务导致数据中心能耗快速增加 这已经引发了加密货币和人工智能工具(如 ChatGPT)对环境影响的反弹,因为所有这些数据中心都要对与用电相关的温室气体排放负责。世界将需要更多的可再生能源来净化电网污染,同时满足数据中心激增的电力需求。国际能源署(IEA)今天发布的年度电力报告显示,2022 年,数据中心、加密货币和人工智能约占全球电力需求的 2%,耗电量达 460 太瓦时。据估计,仅加密货币挖矿一项就将占到近四分之一的用电量,2022 年将消耗掉110TWh的电力。到 2026 年,数据中心(包括用于加密货币和人工智能的数据中心)的耗电量可能会增加到 1050 太瓦时,这取决于技术发展的速度。这一增长相当于增加了一个国家的用电需求;在较为温和的情况下,相当于增加了瑞典的用电需求;在最多的情况下,相当于增加了德国的用电需求。目前,美国拥有最多的数据中心,占全球约 8000 个数据中心的 33%。美国也是比特币挖矿最多的国家。国际能源署预测,未来几年美国数据中心用电量将"快速增长"。爱尔兰是欧盟企业税率最低的国家之一,预计新数据中心将蓬勃发展。到 2022 年,爱尔兰 82 个数据中心的耗电量已占全国耗电量的 17%。另有 54 个数据中心正在建设或最近获准开始建设。到 2026 年,所有这些数据中心的用电量将占全国年用电量的近三分之一。国际能源署的报告称:"数据中心行业的快速扩张和电力需求的增加会给电力系统带来挑战。这种风险并非爱尔兰独有。在伦敦,数据中心的电力需求使得开发更多住房变得更加困难。德克萨斯州是美国的比特币采矿中心,它不得不应对新的加密货币矿场(又称加密货币数据农场)给其已经老化和不堪重负的电网带来的压力。"由于数据中心基本上是计算机的仓库,因此 40% 的电力需求来自计算。保持所有设备冷却的电力需求占另外的 40%,其余则来自其他 IT 设备。加入人工智能会增加数据中心的总体电力需求。国际能源署的报告称,在完全采用人工智能的情况下,Google搜索的用电量可能会增加十倍。同样,报告预测,到 2026 年,人工智能行业的耗电量可能是去年的十倍。到 2026 年,加密货币的电力需求预计将激增 40%。在限制加密货币的能源和环境足迹方面,已经有一些成功的案例。以太坊区块链在验证新交易区块时采用了更为节能的方法,从而将用电量减少了 99% 以上。即便如此,比特币网络仍拒绝效仿,并对加密货币挖矿产生的大部分碳排放负有责任。幸运的是,国际能源署还预测,全球可再生能源将加速增长,到 2025 年,其发电量将超过煤炭,占全球发电量的三分之一以上。但这并不能解决新数据中心带来的所有挑战。可以说,提高能源效率同样重要,比如采用高效冷却系统,因为电力需求的过快增长可能会超过可再生能源的增长。 ... PC版: 手机版:

封面图片

美国电力研究所:数据中心用电量将在2030年时翻倍

美国电力研究所:数据中心用电量将在2030年时翻倍 数据中心耗电量预计大增美国电力研究所是一家总部设在美国的研究机构,由能源企业和政府机构资助。该研究所的分析称,根据生成式人工智能等技术的普及速度和新数据中心的能源效率推算,到2030年,数据中心行业用电量的年增长率预计在3.7%至15%之间。这意味着,数据中心的用电量2030年时最多可能翻倍。众多能源公司今年的财报电话会议显示,数据中心的高强度计算业务和冷却系统都需要大量电力支撑,一个新的大型数据中心所需的电力相当于为75万户家庭供电所需的电量。该研究所表示,光是早期ChatGPT搜索所需的电力就大约是谷歌搜索的10倍。而且,随着企业越来越多地使用生成式人工智能技术制作电影和音乐,未来数据中心可能需要更多的电力。该研究所表示,“全球有53亿互联网用户,这些AI工具的广泛采用可能会导致电力需求的急剧变化。”该研究所建议提高数据中心的能源效率,增加电网投资。供电压力降越来越大数据中心用电量翻倍可能会给美国国家电网带来压力,并导致电费上涨和更高频次的停电。美国电力研究所表示,截至2023年底,美国数据中心约80%的用电负荷集中在15个州,主要是弗吉尼亚州和得克萨斯州。这样地域分布的不平衡,意味着这些州可能将面临更高的电力短缺风险。除了数据中心以外,在美国政府的政策推动下,美国本土制造业似乎正出现复苏趋势,美国交通行业也在向电气化转型,这些都给美国电力行业带来越来越高的潜在需求压力。 ... PC版: 手机版:

封面图片

中金公司:随着 AI 算力提升,先进 AI 服务器电源重要性持续升级

中金公司:随着 AI 算力提升,先进 AI 服务器电源重要性持续升级 中金公司研报表示,服务器电源是数据中心供电系统建设的核心,随着 AI 算力提升,先进 AI 服务器电源的重要性持续升级。先进 GPU 也对 AI 服务器电源功率和功率密度提出了更高要求,例如功率约为 10.2kw 的 H100 服务器机架需配置 19.8kw 电源,而功率约为 120kw 的 NVL72 机架需配置 198kw 电源。但服务器电源本身需在有限空间实现功率扩容,传统服务器电源功率密度大多不到 50w / 立方英寸,而 AI 服务器电源功率密度可达 100w / 立方英寸。这同步对服务器电源拓扑结构设计、元器件应用等提出了更高要求,未来先进 AI 电源需求有望持续升级。

封面图片

苹果公司正开发数据中心人工智能芯片

苹果公司正开发数据中心人工智能芯片 苹果公司已经在开发自己的可以在数据中心服务器中运行人工智能软件的芯片,有望为该公司在 AI 军备竞赛中带来一项关键优势。过去十年间,苹果公司积极推进 iPhone、iPad、Apple Watch 和 Mac 电脑的自研芯片设计。知情人士透露,这个服务器项目内部代号为苹果数据中心芯片 (ACDC) 项目,将利用苹果在自研芯片方面的实力开发服务器芯片。ACDC 项目已经进行了几年,目前还不清楚这款新芯片将于何时亮相,甚至是否会亮相。苹果公司此前承诺将在6月份的全球开发者大会上发布多款新的人工智能产品和相关消息。

封面图片

AI 正在“吸干”全球电力?更可怕的事还在后面

AI 正在“吸干”全球电力?更可怕的事还在后面 AI 到底有多费电?科比特称,训练 GPT-6 的微软工程师们正忙着搭建 IB 网络(InfiniBand),把分布在不同地区的 GPU 连接起来。这项工作很困难,但他们别无选择,因为如果把超过 10 万块 H100 芯片部署在同一个地区,电网就会崩溃。为什么这些芯片集中起来会导致电网崩溃的后果呢?让我们来简单算一笔账。英伟达网站上公布的数据显示,每块 H100 芯片的峰值功率为 700W,10 万块 H100 峰值功耗最高可达 7000 万W。而 X 评论区有能源行业从业者指出,10 万块芯片的总能耗将相当于一座小型太阳能或风能发电厂的全部输出。除此之外,还要考虑这么多芯片的配套设施的能耗,包括服务器和冷却设备。这么多耗电设施,集中在一小片区域,给电网带来的压力可想而知。AI 耗电,冰山一角关于 AI 能耗问题,《纽约客》的报道一度引起广泛关注。报道估算,ChatGPT 每日耗电量或超过 50 万千瓦时。实际上,目前AI耗电量虽然看上去是个天文数字,但仍然远远不及加密货币和传统的数据中心。而微软工程师遇到的难题也表明,制约 AI 发展的不仅是技术本身的能耗,还有配套基础设施的能耗,以及电网的承载力。国际能源署(IEA)发布的一份报告显示,2022 年全球数据中心、人工智能和加密货币的耗电量达到 460 TWh,占全球能耗的近 2%。IEA 预测,在最糟糕的情况下,到 2026 年这些领域的用电量将达 1000 TWh,与整个日本的用电量相当。但是,报告同时显示,目前直接投入 AI 研发的能耗远低于数据中心和加密货币。英伟达在 AI 服务器市场中占据约 95%的份额,2023 年供应了约 10 万块芯片,每年耗电量约为 7.3 TWh。但是在 2022 年,加密货币的能耗为 110 TWh,与整个荷兰的用电量相当。图注:2022 年与 2026 年,传统数据中心、加密货币、AI 数据中心的能耗估计值(柱状图从下往上依次展示)。可见,目前 AI 耗电量远低于数据中心和加密货币。图片来源:IEA冷却能耗,不容忽视数据中心的能效通常用能效比(Power Usage Effectiveness)评估,即消耗的所有能源与 IT 负载消耗的能源的比值。能效比越接近于 1,表明数据中心浪费的能源越少。数据中心标准组织 Uptime Institute 发布的报告显示,2020 年全球大型数据中心的平均能效比约为 1.59。也就是说,数据中心的 IT 设备每消耗 1 度电,其配套设备就消耗 0.59 度电。数据中心的额外能耗中,绝大部分应用于冷却系统。一项调查研究显示,冷却系统消耗的能量可达数据中心总能耗的 40%。近些年,随着芯片更新换代,单台设备的功率增大,数据中心的功率密度(即单位面积耗电量)不断提升,对散热提出了更高的要求。但与此同时,通过改进数据中心设计,就能大幅减少能量的浪费。因为冷却系统、结构设计等各方面的差异,不同数据中心的能效比差异很大。Uptime Institute 报告显示,欧洲国家已经把能效比降到了 1.46,而在亚太地区仍有超过十分之一的数据中心能效比超过 2.19。世界各国正在采取措施,敦促数据中心实现节能减排的目标。其中,欧盟要求大型数据中心设立余热回收设备;美国政府注资研发更高能效的半导体;中国政府也出台措施,要求数据中心从 2025 年起能效比不高于 1.3,并将可再生能源使用比例逐年上调,到 2032 年达到 100%。图注:2020 年,全球各地大型数据中心的能效比。从左到右依次为:非洲、亚太地区、欧洲、拉丁美洲、中东、俄罗斯及独联体国家、美国和加拿大。图片来源:Uptime Institute科技公司用电,节流难开源更难随着加密货币和 AI 的发展,各大科技公司的数据中心规模不断扩大。据国际能源署(IEA)统计,在 2022 年美国拥有 2700 座数据中心,消耗了全国用电量的 4%,并预测这一比例到 2026 年将达到 6%。随着美国东西海岸用地越发紧张,数据中心逐步向爱荷华州、俄亥俄州等中部地区转移,但这些二线地区原有的产业并不发达,电力供应可能无法满足需求。一些技术公司尝试摆脱电网的束缚,直接从小型核电站购买电能,但这种用电方式和新建核电站都要面临复杂的行政流程。微软尝试使用 AI 辅助完成申请,而谷歌使用 AI 进行运算任务调度,以提高电网运行效率,降低企业碳排放。至于可控核聚变何时投入应用,目前仍然是未知数。气候变暖,雪上加霜AI 的研发需要稳定而强大的电网支持,但随着极端天气频发,许多地区的电网正在变得更加脆弱。气候变暖会导致更加频繁的极端天气事件,不仅造成用电需求激增,加重电网负担,还会直接冲击电网设施。IEA 报告指出,受干旱、降雨不足和提早融雪的影响,2023 年全球水力发电占比下跌到三十年来的最低值,不足 40%。天然气往往被视为向可再生能源转型过程中的一座桥梁,但它在冬季极端天气下并不稳定。2021 年,寒潮袭击美国得克萨斯州,导致大面积断电,部分居民家中断电超过 70 小时。这次灾难的一个主要原因就是天然气管道冰冻,造成天然气发电厂停摆。北美电力可靠性委员会(North American Electric Reliability Council,简称 NERC)预测,在 2024-2028 年,美国、加拿大有超过 300 万人口面临越来越高的断电风险。为保障能源安全,同时实现节能减排,许多国家也将核电站视为一种过渡措施。在 2023 年 12 月举办的联合国应对气候变化委员会第 28 次峰会(COP 28)上,22 个国家签署联合声明,承诺到 2050 年将核能发电能力提升到 2020 年水平的 3 倍。与此同时,随着中国、印度等国大力推进核电建设,IEA 预测到 2025 年,全球核电发电量将达到历史新高。IEA 报告指出:“在变化的气候模式面前,提高能源多样化、提升电网跨区域调度能力和采取更加抗冲击的发电方式将变得越发重要。” 保障电网基础设施,不仅关系到 AI 技术的发展,更是关乎国计民生。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人