ChatGPT的环境成本究竟有多大?

ChatGPT的环境成本究竟有多大?要想从大气中吸收这些二氧化碳,相当于需要栽种超过6.5万棵树。虽然“虚拟”的属性让人们容易忽视数字产品的碳账本,但事实上,互联网却无疑是地球上最大的煤炭动力机器之一。训练机器成碳排“大户”聊天机器人、数字助理以及来自流媒体服务的电影和音乐推荐都依赖于“深度学习”——一种训练计算机模型以识别数据模式的过程。这种训练需要强大的计算机和大量的能量支撑。对于ChatGPT全生命周期的碳足迹数据,这个阶段是名副其实的排放大户。最精细的深度学习模型之一,目标就是产生类似人类的语言。在ChatGPT问世前,OpenAI公司先开发了一套复杂的自然语言模型,命名为GPT-3。ChatGPT和GPT-3都是在大量文本数据上训练而成的,允许它们对文本输入产生类似人类的响应,但由于后者专门为会话任务而设计,GPT-3则更通用一些,所以参数库要小100多倍。“ChatGPT是基于GPT-3的一个升级版本,在GPT-3的模型架构基础上又进行了优化并在训练时期增加了强化学习。”唐淑姝对华尔街见闻分析,“所以要估算ChatGPT在训练阶段的碳排,可以参考GPT-3的排放值。”有数据显示,当时训练GPT-3消耗了1287MWh,排放出552吨温室气体。“GPT-3的大量排放可以部分解释为它是在较旧、效率较低的硬件上进行训练的,但因为没有衡量二氧化碳排放量的标准化方法,这些数字是基于估计,另外,这部分碳排放值中具体有多少应该分配给训练ChatGPT,标准也是比较模糊的,需要注意的是,由于强化学习本身还需要额外消耗电力,所以ChatGPT在模型训练阶段所产生的的碳排放应该大于这个数值。”可持续数据研究者卡斯帕-路德维格森如是分析。仅以552吨排放量计算,这些相当于126个丹麦家庭每年消耗的能量。运行阶段的碳成本用户在操作ChatGPT时的动作耗电量很小,但由于全球每天可能发生十亿次,累积之下使其成为了第二大碳排放来源。唐淑姝对华尔街见闻表示,可以将另一个大型语言模型BLOOM作为类比来推测ChatGPT运行阶段的碳排放。BLOOM曾在具有16个NVIDIAA10040GBGPU的GoogleCloudPlatform实例上部署并运行了18天,共432小时。“BLOOM与ChatGPT前身GPT-3的模型大小大致相同,假设把相同的硬件用于ChatGPT,并在16个NVIDIAA10040GBGPU上运行,并推测硬件利用率始终为100%,”唐淑姝通过使用MLCO2Impact计算机,估算出ChatGPT的每日碳排放为25.92kg。Databoxer联合创始人克里斯·波顿则解释了另一种计算方法。“首先,我们估计每个响应词在A100GPU上需要0.35秒,假设有100万用户,每个用户有10个问题,产生了10000000个响应和每天300000000个单词,每个单词0.35秒,可以计算得出每天A100GPU运行了29167个小时。”CloudCarbonFootprint列出了Azure数据中心中A100GPU的最低功耗46W和最高407W,由于很可能没有多少ChatGPT处理器处于闲置状态,以该范围的顶端消耗计算,每天的电力能耗将达到11870kWh。“美国西部的排放因子为0.000322167吨/kWh,所以每天会产生3.82吨二氧化碳当量,美国人平均每年约15吨二氧化碳当量,换言之,这与93个美国人每年的二氧化碳排放率相当。”克里斯·波顿说。Ai的能源账依据唐淑姝的观点,从全生命周期角度看还应该包含ChatGPT在制造阶段的隐性碳排。仍以BLOOM作为参照,训练总时间共持续108万小时,平均使用48个计算节点上的384个GPU,可以估计与模型训练相关的服务器隐含碳排放大约为7.57吨和GPU3.64吨,总计约11.2吨。“ChatGPT的训练时间大约比BLOOM长3倍,单从这个角度估算,估算ChatGPT中模型训练的隐含碳排放总量约为33.6吨。”唐淑姝对华尔街见闻解释道。事实上,学界对于人工智能与环境成本的关系颇为关切。伯克利大学关于功耗和人工智能主题的研究认为,人工智能几乎吞噬了能源。比如Google的预训练语言模型T5使用了86兆瓦的电力,产生了47公吨的二氧化碳排放量;Google的多轮开放领域聊天机器人Meena使用了232兆瓦的电力,产生了96公吨的二氧化碳排放;Google开发的语言翻译框架-GShard使用了24兆瓦的电力,产生了4.3公吨的二氧化碳排放;Google开发的路由算法SwitchTransformer使用了179兆瓦的电力,产生了59公吨的二氧化碳排放。深度学习中使用的计算能力在2012年至2018年间增长了300000倍,这让GPT-3看起来成为了对气候影响最大的一个。然而,当它与人脑同时工作,人脑的能耗仅为机器的0.002%。据估计,全球科技行业占全球温室气体排放量的1.8%至3.9%。尽管这些排放量中只有一小部分是由人工智能和机器学习引起的,但人工智能的碳足迹对于技术中的单个领域来说仍然非常高。发表于Nature的一项计算碳成本的研究揭示了与人工智能相关的碳足迹在各种云计算数据中心训练一系列模型。结果表明,在美国中部或德国的数据中心训练BERT(一种常见的机器学习语言模型)会排放22-28公斤二氧化碳。这是在挪威(大部分电力来自水力发电)或在主要依赖核能的法国进行相同实验产生的排放量的两倍多。而一天中进行实验的时间同样重要。例如,在美国华盛顿州,当该州的电力仅来自于水力发电时,在夜间训练人工智能导致的排放量低于在白天训练,因为那时的电力来自于燃气站。通过更好地了解AI系统消耗了多少能源,或许有助于人类权衡做出在污染和成本之间的更优选择。...PC版:https://www.cnbeta.com.tw/articles/soft/1343683.htm手机版:https://m.cnbeta.com.tw/view/1343683.htm

相关推荐

封面图片

生态环境部:正在组织开展电力碳足迹因子研究

生态环境部:正在组织开展电力碳足迹因子研究生态环境部今日召开4月例行新闻发布会,生态环境部新闻发言人裴晓菲表示,近日,生态环境部、国家统计局发布《2021年电力二氧化碳排放因子》。本次发布的电力二氧化碳排放因子可供不同主体核算电力消费的二氧化碳排放量时参考使用。后续将建立常态化发布机制,及时更新和定期发布电力二氧化碳排放因子,今年还将发布《2022年电力二氧化碳排放因子》。此外,生态环境部正在组织开展电力碳足迹因子研究,成熟后将发布电力碳足迹因子。

封面图片

中国将建立电力二氧化碳排放因子常态化发布机制

中国将建立电力二氧化碳排放因子常态化发布机制中国生态环境部、国家统计局发布公告称,将建立电力二氧化碳排放因子常态化发布机制,并拟于2024年尽早发布2022年电力二氧化碳排放因子。根据《人民日报》星期二(4月16日)报道,中国生态环境部、国家统计局发布《关于发布2021年电力二氧化碳排放因子的公告》。此次发布的2021年电力二氧化碳排放因子,分为三种口径,包括2021年全国、区域及省级电力平均二氧化碳排放因子,2021年全国电力平均二氧化碳排放因子(不包括市场化交易的非化石能源电量)和2021年全国化石能源电力二氧化碳排放因子。据介绍,电力二氧化碳排放因子是核算电力消费二氧化碳排放量的重要基础参数。本次发布的电力二氧化碳排放因子可供不同主体核算电力消费的二氧化碳排放量时参考使用,是落实《关于加快建立统一规范的碳排放统计核算体系实施方案》中“统筹推进排放因子测算”要求的重要举措,为碳排放核算提供基础数据支撑。公告说,下一步,生态环境部、国家统计局将建立电力二氧化碳排放因子常态化发布机制。根据基础数据更新情况,拟于2024年尽早发布2022年电力二氧化碳排放因子。2024年4月16日8:16PM

封面图片

中国首个海上二氧化碳封存示范工程项目投用

中国首个海上二氧化碳封存示范工程项目投用中国首个海上二氧化碳封存(CCS)示范工程项目在南中国海东部海域正式投用,开始规模化向海底地层注入二氧化碳。据财新网报道,中国海油集团星期四(6月1日)宣布上述信息。CCS是碳捕集、利用与封存(CCUS)技术中的一种,即把二氧化碳从发电、化工、炼钢等过程中分离出来,直接注入咸水层、枯竭油气层、煤床、盐床等地质体中,从而封存二氧化碳的过程。上述项目是为了封存伴随恩平15-1海上原油生产平台开采石油产生的二氧化碳。报道称,恩平15-1平台是亚洲最大的海上原油生产平台,所在油田群高峰日产原油超过7000吨,油田伴生气的二氧化碳含量达95%,若二氧化碳随原油一起被开采,不仅将增加二氧化碳排放量,还会腐蚀海上平台设施和海底管线。该项目目标是实现“岸碳入海”,即捕集陆上排放的二氧化碳,通过罐车、管道、船舶等方式输送到海洋中利用或封存。中国海油介绍,中国南部及沿海地区二氧化碳排放量高,但这些地区陆域沉积盆地面积小、分布零散,不适宜封存;而海洋碳封存具有不占用土地、远离蓄水层、海水层阻隔等优势。

封面图片

国际能源署:清洁能源增长遏制去年全球碳排放量升幅

国际能源署:清洁能源增长遏制去年全球碳排放量升幅国际能源署1日发布报告称,得益于太阳能、风能、核能等清洁能源转型和电动汽车等技术的快速推进,2023年全球与能源相关的二氧化碳排放量增幅低于2022年。这份名为《2023年二氧化碳排放》的报告指出,2023年全球与能源相关的二氧化碳排放量达到创纪录的374亿吨,较上一年增加4.1亿吨,增幅为1.1%。由于异常干旱影响了水电,去年全球与能源相关的二氧化碳排放量有所增加,但由于太阳能、风能和电动汽车等技术的发展,增量低于2022年的4.9亿吨。国际能源署的分析显示,太阳能、风能、核能和电动汽车的持续推广帮助人类避免使用更多化石燃料。如果没有清洁能源技术,过去5年全球二氧化碳排放量的增量将是现在的3倍。(新华社)

封面图片

国际能源署(IEA)于3月1日发布报告称,得益于太阳能、风能、核能等清洁能源转型和电动汽车等技术的快速推进,2023年全球与能源

国际能源署(IEA)于3月1日发布报告称,得益于太阳能、风能、核能等清洁能源转型和电动汽车等技术的快速推进,2023年全球与能源相关的二氧化碳排放量增幅低于2022年。这份名为《2023年二氧化碳排放》的报告指出,2023年全球与能源相关的二氧化碳排放量达到创纪录的374亿吨,较上一年增加4.1亿吨,增幅为1.1%。由于异常干旱影响了水电,去年全球与能源相关的二氧化碳排放量有所增加,但由于太阳能、风能和电动汽车等技术的发展,增量低于2022年的4.9亿吨。国际能源署的分析显示,太阳能、风能、核能和电动汽车的持续推广帮助人类避免使用更多化石燃料。如果没有清洁能源技术,过去5年全球二氧化碳排放量的增量将是现在的3倍。国际能源署当天还发布了《2023年二氧化碳排放》报告的姊妹篇——首份名为《清洁能源市场监测》的报告。

封面图片

观点:从空气中去除二氧化碳是一种成本高昂的应对气候变化的荒唐方法

观点:从空气中去除二氧化碳是一种成本高昂的应对气候变化的荒唐方法根据研究公司RhodiumGroup的最新报告,美国每年需要在CDR上花费大约1000亿美元,才能将其规模扩大到有助于美国实现气候目标的水平。其中大部分资金需要以税收减免和采购计划等支持性政策的形式提供。特别是随着美国石油和天然气产量不断创下历史新高,有关这一问题的讨论也越来越多。相比之下,2021年通过的《降低通货膨胀法案》包括3690亿美元的清洁能源激励措施,这是迄今为止美国最大的气候投资。因此,正如报告所建议的那样,政府每年花费1000亿美元用于尚未大规模证明自己的新型技术,实在是一笔不小的开支。这是一场豪赌,我们所知道的地球的宜居性正岌岌可危。解决气候变化问题是一场数字游戏,联合国政府间气候变化专门委员会确定的目标是,到2050年左右实现二氧化碳净零排放。这是阻止全球平均气温比工业革命前上升1.5摄氏度所需要的。跨过这一门槛意味着极端高温、海平面上升和生物多样性丧失等与气候相关的灾害会变得更加严重,在世界上最脆弱的地区,人类适应这些变化的能力可能会被超越。1.5摄氏度的目标是在近十年前的2015年巴黎协定中设定的,但温室气体排放量仍在攀升。尽管阻止气候变化和实现巴黎协定目标的唯一途径是停止依赖化石燃料,但美国已经在为捕获二氧化碳投入大量资金。2021年《两党基础设施法》(BipartisanInfrastructureLaw)包括35亿美元用于在全美建设新的碳清除中心。包括微软和亚马逊在内的大公司也在向初创企业支付费用,以获取部分污染。化石燃料行业也接受了这项技术,甚至利用它来推销所谓更可持续的石油。显然,这还远远不够。报告称,到2050年,美国将需要有能力吸收十亿吨二氧化碳,以实现净零排放目标。这是一笔巨大的二氧化碳捕获量,大约相当于美国碳足迹的20%。相比之下,美国目前从大气中吸收二氧化碳的能力微乎其微--迄今为止只有低个位数兆吨。报告指出了从大气中吸收二氧化碳的三种不同策略:依靠植物、土壤和海洋吸收二氧化碳的自然方法;制造捕捉二氧化碳的机器;以及采用自然和工程过程的混合技术。这三种策略都面临着各自的挑战。植树造林是迄今为止最受欢迎的自然策略,但收效甚微。越来越多的研究和调查发现,通过林业项目抵消排放的做法在很大程度上是失败的。例如,树木的存活时间往往不够长,无法对大气中的二氧化碳产生有意义的影响,而且当不止一个团体申请碳信用额度时,还会出现重复计算的情况。从空气或海水中吸入二氧化碳的机器应该能更好地记录它们捕获的二氧化碳量。但是,这些设备耗能巨大,不仅效率低下,而且价格昂贵。从空气中过滤一吨二氧化碳的成本高达600美元。乘以一千兆吨(十亿公吨),就是数千亿美元的支出。宾夕法尼亚大学科学、可持续发展和媒体中心高级研究员约瑟夫-罗姆(JosephRomm)认为,考虑到这一点,在CDR上花费1000亿美元可能只是这些技术可能花费的最低成本。罗姆说:"我认为这份报告中的确定性存在误导性。现在就推广这些[技术]还为时过早。这些还需要更多的研究。研究得最多的CDR技术(包括植树造林和捕捉二氧化碳的机器)有很多局限性,因此罗姆说,把钱花在研究其他减少温室气体排放的方法上会更好。"他说:"我们现在必须做的最紧迫的两件事是停止砍伐森林和停止向空气中排放更多的二氧化碳。一旦做到这两点,就值得将资源用于清除二氧化碳,以解决我们历史上的排放问题。但是,如果我们不能止血,为什么要在问题上贴创可贴呢?"...PC版:https://www.cnbeta.com.tw/articles/soft/1427046.htm手机版:https://m.cnbeta.com.tw/view/1427046.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人