ChatGPT每天耗电超50万度 是美国普通家庭1.7万多倍

ChatGPT每天耗电超50万度 是美国普通家庭1.7万多倍 听起来很多,但如果生成式人工智能被进一步采用,耗电量可能会更多。例如,根据荷兰国家银行(Dutch National Bank)数据科学家亚历克斯·德弗里斯(Alex de Vries)在可持续能源期刊《焦耳》(Joule)上发表的一篇论文中的计算,如果谷歌将生成式A技术整合到每次搜索中,它每年将消耗约290亿千瓦时的电量。据《纽约客》报道,这比肯尼亚、危地马拉和克罗地亚等国一年的用电量还要多。“人工智能是非常耗能的,”德弗里斯说,“每个人工智能服务器的耗电量已经相当于十几个英国家庭的总和。所以这些数字很快就会增加。”然而,估计蓬勃发展的人工智能行业消耗多少电力是很难确定的。据the Verge报道,大型人工智能模型的运行方式存在相当大的差异,而推动人工智能繁荣的大型科技公司并没有完全公开他们的能源使用情况。然而,在他的论文中,德弗里斯提出了一个基于英伟达(Nvidia)公布的数据的粗略计算。这家芯片制造商占据了图形处理器市场约95%的份额。德弗里斯在论文中估计,到2027年,整个人工智能行业每年将消耗85至134太瓦时(1太瓦时相当于10亿千瓦时)。“到2027年,人工智能的用电量可能占全球用电量的0.5%,”德弗里斯说,“我认为这是一个相当重要的数字。” ... PC版: 手机版:

相关推荐

封面图片

The New Yorker 报道,ChatGPT 每天需要处理超过 2 亿次请求,其电量消耗可能高达每天 50 万千瓦时。相比

The New Yorker 报道,ChatGPT 每天需要处理超过 2 亿次请求,其电量消耗可能高达每天 50 万千瓦时。相比之下,美国普通家庭每天的平均用电量仅为 29 千瓦时,这意味着 ChatGPT 的日耗电量是普通家庭的 1.7 万倍以上。 更令人担忧的是,随着生成式人工智能的普及,其电量消耗可能会进一步激增。荷兰中央银行数据科学家 Alex de Vries 在一份发表于可持续能源期刊《焦耳》上的论文中计算得出,如果谷歌将生成式人工智能技术应用于所有搜索,其每年将消耗约 290 亿千瓦时电量,这相当于肯尼亚、危地马拉和克罗地亚一年的总发电量。 然而,目前评估蓬勃发展的 AI 行业究竟消耗了多少电量还存在困难。据 The Verge 报道,大型科技公司一直引领着 AI 发展,但它们对于自身能源消耗讳莫如深,同时不同的人工智能模型运行方式也存在巨大差异。 不过,de Vries 在论文中还是根据英伟达公布的数字做出了粗略计算,据 CNBC 报道援引 New Street Research 的数据,英伟达在图形处理器市场份额中占据了约 95%。de Vries 在论文中估计,到 2027 年,整个 AI 行业将每年消耗 85 到 134 太瓦时(terawatt,相当于 1340 亿千瓦时)的电量。 “这相当于到 2027 年,人工智能的电量消耗可能占到全球电量的一半左右,”de Vries 告诉《The Verge》,“我认为这是一个相当可观的数字。” 相比之下,世界上一些耗电量最大的企业也相形见绌。根据 Businessinsider 基于消费者能源解决方案报告的计算,三星的年耗电量接近 23 太瓦时,谷歌等科技巨头的数据中心、网络和用户设备每年耗电略高于 12 太瓦时,微软的耗电量则略高于 10 太瓦时。 via 匿名 标签: #ChatGPT #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

ChatGPT每年电费2亿?!日耗电量≈1.7万个家庭 网友:挺值!

ChatGPT每年电费2亿?!日耗电量≈1.7万个家庭 网友:挺值! 除了OpenAI,Google也“不容小觑”:在Google搜索中应用生成式AI技术,Google每年的耗电量将高达290亿千瓦时,也就是每天约7900万度(?)。而在未来,AI这一“吃电巨兽”的食量还会更惊人。数据统计:到2027年,人工智能数据中心的用电量将和荷兰、瑞典等小国用电量相当。有网友看完表示:这是利好光伏和风电?所以AI最后拼的是谁发电多、谁发电成本低?AI要耗多少电?如上数据来自一篇论文《The growing energy footprint of artificial intelligence》。作者是荷兰数字经济学家Alex de Vries,他通过英伟达、OpenAI、Google等公开数据进行估算。结果就得出了很多意想不到的结论。首先,现在大模型训练时期的耗电量和推理阶段相比,已经不值一提了。SemiAnalysis数据显示,OpenAI需要3617台英伟达HGX A100、共28936个GPU来支持ChatGPT推理。ChatGPT每天需要响应1.95亿次请求,预计每天需要消耗564兆瓦时电力,每个请求大约2.9瓦时。而GPT-3整个训练阶段的耗电量预估为1287兆瓦时,是ChatGPT大约4天的消耗量。Google报告也表示,2019-2021年,与人工智能相关的能源消耗中有60%来自推理部分。因此论文提出未来研究AI用电量时,更应该从全周期角度考量。但这也与模型再训练频率、模型性能与功耗之间的平衡有关系。比如BLOOM在推理阶段的耗电量就显著降低。其次,搜索引擎如果用上AI,耗电量还会更高。Google方面曾在去年2月表示,AI响应请求的成本可能是普通搜索的10倍。数据显示,使用一次Google搜索消耗的电量是0.3瓦时。这和上面分析给出的数据相呼应。如果要将大模型能力植入到Google搜索中,预计需要512821个HGX A100,按照每台设备功耗为6.5千瓦来计算,每天将需要80吉瓦时的电力消耗,一年需要29.2太瓦时。目前Google每天需要处理高达90亿次搜索,换算一下,平均每个请求要消耗6.9-8.9瓦时,已经是普通搜索的20倍+。同样的现象在英伟达的财报数据中也可以看到。去年第二季度,英伟达收入创纪录,其中数据中心部门较上季度相比增长了141%,这表示AI方面的需求扩增。今年,英伟达AI服务器出货量可能达到150万台,总功耗可能达到9.75-15.3吉瓦。这一数量级的服务器,每年的用电量将达到85.4-134太瓦时。不过AI用电量会一路飙升吗?研究认为也不一定。哪怕像Google这样在全球拥有数十亿用户的厂商,也会慎重考虑AI与搜索引擎的融合。硬件、软件和电力成本压力下,厂商脚步或许没那么快。硬件生产本身还受到掣肘,AI热潮使得台积电CoWoS先进封装产能吃紧,但新建工厂真正可能开始批量生产要等到2027年,这或许也会影响英伟达的出货量。以及模型本身的算法和架构也会让AI功耗在一定程度上降低。最终研究认为,关于AI用电量的问题,过于悲观或乐观都不可取。短期内,在各种资源因素影响下,AI用电量增速会被抑制;但硬件和软件的能效提高,显然也无法抵消长期的电力需求增长。总之,作者认为在AI开发方面,还是不要铺张浪费的好。监管机构也需要考虑要求厂商披露相关数据,提高整个AI供应链的透明度,从而更好了解这一新兴技术的环境成本。实际上,此前关于AI消耗资源的话题已经多次引发讨论。有研究指出,到2027年,数据中心人工智能的用电量将与荷兰或瑞典等小国的用电量相当。加州大学河滨分校研究表明,问ChatGPT5-50个问题,就可消耗500毫升水。因为AI超算数据中心需要大量水来散热,微软也承认用水是训练模型的一大成本,从2021年到2022年,其全球用水量飙升了34%,相比研究AIGC前急剧增加。网友:也要看产出除了微博,#ChatGPT日耗电超50万度#的消息也在知乎冲上热榜第三。尽管这一数据看起来惊人,但不少网友都表示:我们还是需要比较一下投入产出。知乎网友@段小草就浅算了一下:一天50万度电,1.7万个美国家庭。但美国有1.2亿个家庭,也就是只需万分之一的家庭用电,就能支撑一个服务全球TOP 1的AI产品、服务几亿用户,这还是在浪费能源破坏环境吗?言外之意,如下所说(来自知乎网友@桔了个仔):ChatGPT创造的价值其实远超它的能耗。和某些技术(咳咳,懂得都懂)的耗电量相比,它可能更不值一提了。所以,有人(知乎网友@玩吾伤智)直接就表示,这则消息应该这么理解:震惊, 只需要1.7万普通家庭的电量即可满足ChatGPT的一日用电需求。(手动狗头)咳咳,有意思的是,上面的答主@段小草还提到了一篇论文,题为《The Carbon Emissions of Writing and lllustrating Are Lower for Al than for Humans》,讲的是AI在画画和写作上的碳排放量一个比人类少310到2900倍,一个比人类少130到1500倍。这样看来,AI甚至算得上“节能减排的先锋”。(手动狗头)呐,我们还是早点洗洗睡、关注GPT-5什么时候发吧。奥特曼:我们需要可控核聚变话又说回来,尽管比起收益,ChatGPT一日1.7万个家庭的能耗还不值一提,但AI能耗确实也是一个值得关注的问题。而这点,奥特曼早就在“担忧”了。在今年1月的一场达沃斯会议中,他就表示:人工智能的未来取决于清洁能源的突破。△ 图源Digwatch具体而言,他认为:随着技术越来越成熟,AI将消耗越来越大量的电力,如果能源技术无法突破,就无法实现这一目标(即让AI技术释放全部潜力)。而现在,公众还不是很了解这个需求究竟有多大,奥特曼本人表示也远超他的预期。至于如何提升能源产量,他也直言:需要可控核聚变,或者更便宜的太阳能及存储等等。说起可控核聚变,奥特曼其实早就押注了一家相关公司,名叫Helion。他在它身上投资了3.75亿美元,这是他以个人名义投资的最大一笔。除此之外,奥特曼的“爸爸”微软也押注了这家公司。据了解,Helion成立于2013年,目前约150+员工。他们预计将在2028年上线50兆瓦规模的可控核聚变发电项目,微软将率先采购。原报告: ... PC版: 手机版:

封面图片

人工智能和加密货币业务导致数据中心能耗快速增加

人工智能和加密货币业务导致数据中心能耗快速增加 这已经引发了加密货币和人工智能工具(如 ChatGPT)对环境影响的反弹,因为所有这些数据中心都要对与用电相关的温室气体排放负责。世界将需要更多的可再生能源来净化电网污染,同时满足数据中心激增的电力需求。国际能源署(IEA)今天发布的年度电力报告显示,2022 年,数据中心、加密货币和人工智能约占全球电力需求的 2%,耗电量达 460 太瓦时。据估计,仅加密货币挖矿一项就将占到近四分之一的用电量,2022 年将消耗掉110TWh的电力。到 2026 年,数据中心(包括用于加密货币和人工智能的数据中心)的耗电量可能会增加到 1050 太瓦时,这取决于技术发展的速度。这一增长相当于增加了一个国家的用电需求;在较为温和的情况下,相当于增加了瑞典的用电需求;在最多的情况下,相当于增加了德国的用电需求。目前,美国拥有最多的数据中心,占全球约 8000 个数据中心的 33%。美国也是比特币挖矿最多的国家。国际能源署预测,未来几年美国数据中心用电量将"快速增长"。爱尔兰是欧盟企业税率最低的国家之一,预计新数据中心将蓬勃发展。到 2022 年,爱尔兰 82 个数据中心的耗电量已占全国耗电量的 17%。另有 54 个数据中心正在建设或最近获准开始建设。到 2026 年,所有这些数据中心的用电量将占全国年用电量的近三分之一。国际能源署的报告称:"数据中心行业的快速扩张和电力需求的增加会给电力系统带来挑战。这种风险并非爱尔兰独有。在伦敦,数据中心的电力需求使得开发更多住房变得更加困难。德克萨斯州是美国的比特币采矿中心,它不得不应对新的加密货币矿场(又称加密货币数据农场)给其已经老化和不堪重负的电网带来的压力。"由于数据中心基本上是计算机的仓库,因此 40% 的电力需求来自计算。保持所有设备冷却的电力需求占另外的 40%,其余则来自其他 IT 设备。加入人工智能会增加数据中心的总体电力需求。国际能源署的报告称,在完全采用人工智能的情况下,Google搜索的用电量可能会增加十倍。同样,报告预测,到 2026 年,人工智能行业的耗电量可能是去年的十倍。到 2026 年,加密货币的电力需求预计将激增 40%。在限制加密货币的能源和环境足迹方面,已经有一些成功的案例。以太坊区块链在验证新交易区块时采用了更为节能的方法,从而将用电量减少了 99% 以上。即便如此,比特币网络仍拒绝效仿,并对加密货币挖矿产生的大部分碳排放负有责任。幸运的是,国际能源署还预测,全球可再生能源将加速增长,到 2025 年,其发电量将超过煤炭,占全球发电量的三分之一以上。但这并不能解决新数据中心带来的所有挑战。可以说,提高能源效率同样重要,比如采用高效冷却系统,因为电力需求的过快增长可能会超过可再生能源的增长。 ... PC版: 手机版:

封面图片

ChatGPT一年电费高达2亿元 AI为何如此耗电?

ChatGPT一年电费高达2亿元 AI为何如此耗电? 公开数据显示,目前,ChatGPT每天需要处理超过2亿次请求,其电量消耗高达每天50万千瓦时。一年时间,ChatGPT光电费就要花2亿元人民币。这意味着,ChatGPT日耗电量是普通家庭的1.7万倍以上。(美国商业用电一度约为0.147美元也就是1.06元,相当于一天53万元)据荷兰咨询机构负责人Alex de Vries预计,到2027年,AI 行业每年将消耗850亿~1340亿千瓦时的电力,相当于瑞典或荷兰一个欧洲国家一年的总用电量。马斯克判断,电力缺口最早可能会在2025年发生,“明年你会看到,我们没有足够电力来运行所有的芯片”。OpenAI CEO奥尔特曼(Sam Altman)也预计,AI 行业正在走向能源危机,未来 AI 技术发展将高度依赖于能源,人们也需要更多的光伏和储能产品。这一切都显示出,AI 即将引爆全球新一轮“能源战争”。不止是芯片,AI 还被能源“卡脖子”过去500多天里,ChatGPT引发全球新一轮 AI 大模型和算力需求热潮。微软、Google、Meta、OpenAI等多家全球科技巨头开始疯抢 AI 芯片,甚至亲自下场“造芯”,总规模超过数十万亿元美金。实际上,AI 本质上是一种计算机技术和处理信息的技术,背后则需要大量GPU芯片,更底层则是大量电能、水力、风能、资金等资源的支持。早在1961年,在IBM公司工作的物理学家拉尔夫·兰道尔(Rolf Landauer)发表了一篇论文,提出了后来被称为“兰道尔原理”(Landauer's Principle)的理论。这一理论认为,计算机中存储的信息发生不可逆的变化时,会向周围环境散发一点点热量,其散发的热量和计算机当时所处的温度有关温度越高,散发的热量越多。兰道尔原理连接起了信息和能量。更具体地说,它连接到了热力学第二定律上。因为逻辑上不可逆的信息处理操作,也就意味着湮灭了信息,这会导致物理世界中熵的增加,从而消耗能量。这一原理自提出以来遭受过不少质疑。但近十几年来,“兰道尔原理”已被实验证明。2012年,《自然》杂志发表了一篇文章,研究团队首次测量到了一“位”(bit)数据被删除时释放的微量热量。后来的几次独立实验,也都证明了“兰道尔原理”。过去10多年间,现代电子计算机在计算时实际消耗的能量,是兰道尔理论值的数亿倍。而科学家们一直在努力寻找更高效的计算方法,以降低成本。如今,AI 大模型爆发,它确实需要大量计算。因此,AI 不止被芯片“卡脖子”,还被能源“卡脖子”。马斯克近期也在“博世互联世界2024”大会上表示,一年多以前,短缺的是芯片,明年你会看到电力短缺,无法满足所有芯片的需求。中国科学技术信息研究所人工智能中心副主任李修全也表示,近年来, AI 大模型规模、数量都在高速增长,也带来对能源需求的快速增加。尽管短期内还不会很快出现“缺电”等问题,但未来大规模智能化时代来临后的能源需求激增不容忽视。AI 大模型质量的关键在于数据、算力和顶尖人才,而高算力的背后,是靠着数万张芯片昼夜不停的运转支撑。具体来说,AI 模型算力的工作过程大致可以分为训练、推理两个阶段,能源消耗也是如此。其中,在AI训练阶段,首先需要收集和预处理大量的文本数据,用作输入数据;其次,在适当的模型架构中初始化模型参数,处理输入的数据,尝试生成输出;最后,通过输出与预想之间的差异反复调整参数,直到模型的性能不再显著提高为止。从训练15亿参数的GPT-2,到训练1750亿参数的GPT-3,OpenAI模型背后的训练能耗十分惊人。公开信息称,OpenAI 每训练一次需要128.7度电,相当于 3000 辆特斯拉同时跑 32 公里。据研究机构New Street Research估计,仅在AI方面,Google就需要大约40万台服务器,每天消耗62.4吉瓦时,每年消耗22.8太瓦时的能源。而在推理阶段,AI 则会先加载已经训练好的模型参数,预处理需要推理的文本数据,再让模型根据学习到的语言规律生成输出。Google称,从2019年到 2021年,AI相关能源消耗60%都来自推理。据Alex de Vries估算,ChatGPT每天大概要响应大约2亿个请求,耗电量超过50万度,按照一年电费就是2亿元人民币,比每个美国家庭的平均日用电量高1.7倍。SemiAnalysis报告称,使用大模型进行问题搜索所消耗的能源是常规关键词搜索的10倍。以Google为例,标准Google搜索使用0.3Wh电力,而大模型每次互动的耗电量为3Wh。如果用户每次在Google搜索都使用AI工具,每年大约需要29.2太瓦时的电力,也就是每天约7900万度。这相当于给全球最大的摩天大楼,迪拜的哈利法塔,连续供电超过300年。另据斯坦福人工智能研究所发布的《2023年 AI 指数报告》显示,每次 AI 搜索的耗电量大约为8.9瓦时。相比普通Google搜索,加入 AI 的单次耗电量几乎是一般搜索的30倍。而一个高达1760亿参数的模型,光是前期训练阶段就得用掉了43.3 万度电,相当于美国117个家庭一年的用电量。值得注意的是,在Scaling Law(缩放规律)之中,随着参数规模不断跃升,大模型性能也不断提升,而对应的是,能耗也会越来越高。因此,能源问题已经成为 AI 技术持续发展的关键“桎梏”。GPT每天消耗50000升水,电和水是 AI 两大能源需求AI不仅是“耗电狂魔”,更是“吞水巨兽”。其中,在电力方面,除了上述信息外,据国际能源署(IEA)数据显示,2022年,全球数据中心消耗约460太瓦时的电量(相当于全球总需求的2%),随着生成式AI飞速发展,这一数字到2026年可能膨胀至620至1050太瓦时。Alex de Vries预计,到2027年,AI服务器所消耗的用电量将等同于荷兰全国的能源需求量。最坏的情况就是,仅Google一家公司的AI就可以消耗与爱尔兰等国家一样多的电力。IBM高级副总裁达里奥·吉尔曾表示,“AI能耗”是非常重要的挑战。生成式 AI 的高性能服务器的持续运行,将导致数据中心一半以上的电力消耗都被AI占据。据悉,预计到2025年,AI 业务在全球数据中心用电量中的占比将从2%猛增到10%。那么,水能呢?大模型背后需要数据中心、云基础设施的支持,那就需要大量的“液冷”进行散热。得克萨斯大学的一份研究指出,作为ChatGPT背后的重要支持力量,微软的Microsoft Azure云数据中心光是训练GPT-3,15天就用掉将近70万升的水,相当于每天花销约50000L水。同时,ChatGPT每回答50个问题就要消耗500毫升水。公开信息称,2022年微软用水量达到640万立方米,比2500个奥林匹克标准游泳池的水量还多。美国加州大学河滨分校副教授任绍磊团队预计,到2027年,全球AI可能需要4.2-66亿立方米的清洁淡水量,这比4-6个丹麦、或二分之一的英国的一年取水总量还要多。除了数据中心,内置的GPU芯片也是能源消耗的重点领域之一。今年3月,英伟达发布史上性能最强AI芯片Blackwell GB200,宣称是A100/H100系列AI GPU的继任者,性能相比H100提升30倍,但能耗却降低了25倍。上个月,黄仁勋的一句“AI的尽头是光伏和储能”更是在网络疯传。尽管有网友扒出原视频称,黄仁勋本人并未说过这句话,更没有提及“光伏和能源”,但 AI 能耗严重,却是摆在公众面前的事实。国际能源机构(IEA)在一份报告中强调了这个问题,全球 AI 数据中心的耗电量将是 2022 年的十倍,并指出部分原因在于 ChatGPT 这样的大模型所需的电力,远高于Google等传统搜索引擎。不过,值得注意的是,由于科技巨头们并未正式披露过 AI 使用中的电力消耗数据,因此,目前关于 AI 耗电量的数据多为估算,并不一定是非常准确的数据。美国信息技术与创新基金会(ITIF)曾指出,个别不准确的研究高估了AI能耗。AI训练是一次... PC版: 手机版:

封面图片

从缺芯到缺电?美国能源巨头警告:AI将令美国电力需求增速大幅飙升

从缺芯到缺电?美国能源巨头警告:AI将令美国电力需求增速大幅飙升 美国电力需求将突然飙升美国能源情报署在去年发布的长期年度展望中估计,美国目前电力需求的年增长率不到1%。但据再生能源巨头NextEra Energy首席执行官约翰•凯彻姆(John Ketchum)的估计,在人工智能技术的影响下,这一电力需求年增长率将加快至1.8%左右。凯彻姆周一在标普全球能源周会议上表示:“(美国)电力需求多年来一直相对平稳,但突然之间,未来五年的电力需求增速预期将快速提高81%。”由于极端气温和气候变化的影响,美国电网本已紧张不堪,近年来的每年冬天几乎都面临大规模断电风险。而随着AI的持续发展,电力需求的急剧上升,可能会给美国电网带来进一步的压力。AI所需用的电远比想象更多事实上,凯彻姆并非第一个警告AI技术所带来的巨大能源需求的商界名人。在今年初的世界经济论坛上,ChatGPT创建者OpenAI的首席执行官山姆·阿尔特曼就曾坦言:“我们确实需要比我们之前想象的更多的能源…我们仍然没有意识到这项技术(人工智能)的能源需求。”近日,特斯拉CEO马斯克也曾预测,为了满足人工智能和电动汽车的需求,未来几年将出现电力短缺:“人工智能计算的限制是非常可预测的…一年前,短缺的是芯片,神经网络芯片。那么,很容易预测,下一个短缺将是电力基础设施(如变压器)。你得给这些东西提供能量。”在去年9月,波士顿咨询集团曾发布分析报告报告称,到2030年底,仅美国数据中心的用电量预计就将是2022年的三倍。这一增幅主要由AI模型训练和服务更高频的AI查询两项关键需求因素驱动。波士顿咨询集团的报告显示,2022 年,数据中心用电量占美国总用电量(约130太瓦时)的 2.5%,预计到2030年将增加两倍,达到7.5%(约390太瓦时)。这相当于约4000万个美国家庭的用电量,即全美三分之一家庭的用电量。该集团还预计,生成式人工智能将至少占美国新增用电量的1%。 ... PC版: 手机版:

封面图片

人工智能电力需求激增,美国放缓燃煤电厂退役计划

人工智能电力需求激增,美国放缓燃煤电厂退役计划 由于新技术产生的需求导致电力供应紧张,美国削减了将燃煤发电量减少近一半的计划。由于对电网可靠性的担忧,以及对电力需求飙升的预期,迫使运营商保持发电能力,美国老化的燃煤电厂的退役日期正被推迟。煤炭退役计划的转变突显出拜登政府面临的一个日益严峻的困境:美国在人工智能和制造业领域的领先地位推动了电力需求的空前增长,这与其脱碳目标相冲突。国际能源署估计,人工智能应用 ChatGPT 的用电量几乎是谷歌搜索的10倍。 ()

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人