ChatGPT一年电费高达2亿元 AI为何如此耗电？

ChatGPT一年电费高达2亿元 AI为何如此耗电？ 公开数据显示，目前，ChatGPT每天需要处理超过2亿次请求，其电量消耗高达每天50万千瓦时。一年时间，ChatGPT光电费就要花2亿元人民币。这意味着，ChatGPT日耗电量是普通家庭的1.7万倍以上。（美国商业用电一度约为0.147美元也就是1.06元，相当于一天53万元）据荷兰咨询机构负责人Alex de Vries预计，到2027年，AI 行业每年将消耗850亿~1340亿千瓦时的电力，相当于瑞典或荷兰一个欧洲国家一年的总用电量。马斯克判断，电力缺口最早可能会在2025年发生，“明年你会看到，我们没有足够电力来运行所有的芯片”。OpenAI CEO奥尔特曼（Sam Altman）也预计，AI 行业正在走向能源危机，未来 AI 技术发展将高度依赖于能源，人们也需要更多的光伏和储能产品。这一切都显示出，AI 即将引爆全球新一轮“能源战争”。不止是芯片，AI 还被能源“卡脖子”过去500多天里，ChatGPT引发全球新一轮 AI 大模型和算力需求热潮。微软、Google、Meta、OpenAI等多家全球科技巨头开始疯抢 AI 芯片，甚至亲自下场“造芯”，总规模超过数十万亿元美金。实际上，AI 本质上是一种计算机技术和处理信息的技术，背后则需要大量GPU芯片，更底层则是大量电能、水力、风能、资金等资源的支持。早在1961年，在IBM公司工作的物理学家拉尔夫·兰道尔（Rolf Landauer）发表了一篇论文，提出了后来被称为“兰道尔原理”（Landauer's Principle）的理论。这一理论认为，计算机中存储的信息发生不可逆的变化时，会向周围环境散发一点点热量，其散发的热量和计算机当时所处的温度有关温度越高，散发的热量越多。兰道尔原理连接起了信息和能量。更具体地说，它连接到了热力学第二定律上。因为逻辑上不可逆的信息处理操作，也就意味着湮灭了信息，这会导致物理世界中熵的增加，从而消耗能量。这一原理自提出以来遭受过不少质疑。但近十几年来，“兰道尔原理”已被实验证明。2012年，《自然》杂志发表了一篇文章，研究团队首次测量到了一“位”（bit）数据被删除时释放的微量热量。后来的几次独立实验，也都证明了“兰道尔原理”。过去10多年间，现代电子计算机在计算时实际消耗的能量，是兰道尔理论值的数亿倍。而科学家们一直在努力寻找更高效的计算方法，以降低成本。如今，AI 大模型爆发，它确实需要大量计算。因此，AI 不止被芯片“卡脖子”，还被能源“卡脖子”。马斯克近期也在“博世互联世界2024”大会上表示，一年多以前，短缺的是芯片，明年你会看到电力短缺，无法满足所有芯片的需求。中国科学技术信息研究所人工智能中心副主任李修全也表示，近年来， AI 大模型规模、数量都在高速增长，也带来对能源需求的快速增加。尽管短期内还不会很快出现“缺电”等问题，但未来大规模智能化时代来临后的能源需求激增不容忽视。AI 大模型质量的关键在于数据、算力和顶尖人才，而高算力的背后，是靠着数万张芯片昼夜不停的运转支撑。具体来说，AI 模型算力的工作过程大致可以分为训练、推理两个阶段，能源消耗也是如此。其中，在AI训练阶段，首先需要收集和预处理大量的文本数据，用作输入数据；其次，在适当的模型架构中初始化模型参数，处理输入的数据，尝试生成输出；最后，通过输出与预想之间的差异反复调整参数，直到模型的性能不再显著提高为止。从训练15亿参数的GPT-2，到训练1750亿参数的GPT-3，OpenAI模型背后的训练能耗十分惊人。公开信息称，OpenAI 每训练一次需要128.7度电，相当于 3000 辆特斯拉同时跑 32 公里。据研究机构New Street Research估计，仅在AI方面，Google就需要大约40万台服务器，每天消耗62.4吉瓦时，每年消耗22.8太瓦时的能源。而在推理阶段，AI 则会先加载已经训练好的模型参数，预处理需要推理的文本数据，再让模型根据学习到的语言规律生成输出。Google称，从2019年到 2021年，AI相关能源消耗60%都来自推理。据Alex de Vries估算，ChatGPT每天大概要响应大约2亿个请求，耗电量超过50万度，按照一年电费就是2亿元人民币，比每个美国家庭的平均日用电量高1.7倍。SemiAnalysis报告称，使用大模型进行问题搜索所消耗的能源是常规关键词搜索的10倍。以Google为例，标准Google搜索使用0.3Wh电力，而大模型每次互动的耗电量为3Wh。如果用户每次在Google搜索都使用AI工具，每年大约需要29.2太瓦时的电力，也就是每天约7900万度。这相当于给全球最大的摩天大楼，迪拜的哈利法塔，连续供电超过300年。另据斯坦福人工智能研究所发布的《2023年 AI 指数报告》显示，每次 AI 搜索的耗电量大约为8.9瓦时。相比普通Google搜索，加入 AI 的单次耗电量几乎是一般搜索的30倍。而一个高达1760亿参数的模型，光是前期训练阶段就得用掉了43.3 万度电，相当于美国117个家庭一年的用电量。值得注意的是，在Scaling Law（缩放规律）之中，随着参数规模不断跃升，大模型性能也不断提升，而对应的是，能耗也会越来越高。因此，能源问题已经成为 AI 技术持续发展的关键“桎梏”。GPT每天消耗50000升水，电和水是 AI 两大能源需求AI不仅是“耗电狂魔”，更是“吞水巨兽”。其中，在电力方面，除了上述信息外，据国际能源署(IEA)数据显示，2022年，全球数据中心消耗约460太瓦时的电量(相当于全球总需求的2%)，随着生成式AI飞速发展，这一数字到2026年可能膨胀至620至1050太瓦时。Alex de Vries预计，到2027年，AI服务器所消耗的用电量将等同于荷兰全国的能源需求量。最坏的情况就是，仅Google一家公司的AI就可以消耗与爱尔兰等国家一样多的电力。IBM高级副总裁达里奥·吉尔曾表示，“AI能耗”是非常重要的挑战。生成式 AI 的高性能服务器的持续运行，将导致数据中心一半以上的电力消耗都被AI占据。据悉，预计到2025年，AI 业务在全球数据中心用电量中的占比将从2%猛增到10%。那么，水能呢？大模型背后需要数据中心、云基础设施的支持，那就需要大量的“液冷”进行散热。得克萨斯大学的一份研究指出，作为ChatGPT背后的重要支持力量，微软的Microsoft Azure云数据中心光是训练GPT-3，15天就用掉将近70万升的水，相当于每天花销约50000L水。同时，ChatGPT每回答50个问题就要消耗500毫升水。公开信息称，2022年微软用水量达到640万立方米，比2500个奥林匹克标准游泳池的水量还多。美国加州大学河滨分校副教授任绍磊团队预计，到2027年，全球AI可能需要4.2-66亿立方米的清洁淡水量，这比4-6个丹麦、或二分之一的英国的一年取水总量还要多。除了数据中心，内置的GPU芯片也是能源消耗的重点领域之一。今年3月，英伟达发布史上性能最强AI芯片Blackwell GB200，宣称是A100/H100系列AI GPU的继任者，性能相比H100提升30倍，但能耗却降低了25倍。上个月，黄仁勋的一句“AI的尽头是光伏和储能”更是在网络疯传。尽管有网友扒出原视频称，黄仁勋本人并未说过这句话，更没有提及“光伏和能源”，但 AI 能耗严重，却是摆在公众面前的事实。国际能源机构（IEA）在一份报告中强调了这个问题，全球 AI 数据中心的耗电量将是 2022 年的十倍，并指出部分原因在于 ChatGPT 这样的大模型所需的电力，远高于Google等传统搜索引擎。不过，值得注意的是，由于科技巨头们并未正式披露过 AI 使用中的电力消耗数据，因此，目前关于 AI 耗电量的数据多为估算，并不一定是非常准确的数据。美国信息技术与创新基金会（ITIF）曾指出，个别不准确的研究高估了AI能耗。AI训练是一次... PC版： 手机版：

今年几乎所有有KOL属性的B站up主都在开辟新能源车和AI这两块的内容，因为这两个领域的甲方在今年的投放增量最明显，新能源和AI

今年几乎所有有KOL属性的B站up主都在开辟新能源车和AI这两块的内容，因为这两个领域的甲方在今年的投放增量最明显，新能源和AI本身的池子在扩大，另外B站也是这两类甲方没法绕开的PR阵地。 对于新能源汽车来说，这类客单价高、决策链路长的消费品，本身的购买决策偏向于理性。虽然B站现阶段很难说转化率有多高，但汽车手机这种品类的产品口碑和市场认知是在B站这个平台上形成的，这就是为什么就算大家都在说B站商业化的各类问题，但手机汽车品牌在B站投放的总预算每年一直在上升。 对AI企业来说，全中国再也找不到像B站这样，年轻人多、用户整体教育层次高、内容时长长（能相对完整地把AI企业宣传点传达出去）、对新事物接受度高、对科技有基础认知的平台了。和新能源车不太一样的是，AI大模型或者其他AI应用现阶段是完全可以在B站形成高转化的。所以不管是AI大模型，还是硬件终端产品（比如ai手机、aipc），或者是云智能产品，几乎有一个算一个，都给了B站不少预算。 综合这两个领域能看到，B站的一个优势就是“心智影响力”，也就是能够影响市场认知和消费者判断，这是B站在商业化上很重要的一个立足点和具有差异化的独特价值。另一个是数码科技等泛知识内容在B站本身具有沉淀，这个基础决定了这类投放会相对更受欢迎。 所以说B站up主商业化不行也是分情况分内容类型的，据我所知，AI/科技垂类一定体量以上的up主，在过去一年都活的还不错。2023年很多这个赛道的up主都接到了两位数的商单，今年的流水应该还会增加。

摩尔线程升级智算集群解决方案，万卡集群成 AI 主战场标配

摩尔线程升级智算集群解决方案，万卡集群成 AI 主战场标配 7 月 3 日，芯片设计公司摩尔线程宣布其 AI 旗舰产品夸娥（KUAE）智算集群解决方案实现重大升级，从当前的千卡级别大幅扩展至万卡规模。摩尔线程是国内明星初创企业之一，其核心产品是图形处理器（GPU）。随着大模型参数越来越多，对算力的需求越来越高，GPU 成为当前市场备受追捧的产品。摩尔线程创始人兼 CEO 张建中表示，在多元趋势下，万卡已是 AI 模型训练主战场的标配。随着计算量不断攀升，大模型训练亟需超级工厂，即一个 “大且通用” 的加速计算平台，以缩短训练时间，实现模型能力的快速迭代。当前，国际科技巨头都在通过积极部署千卡乃至超万卡规模的计算集群，以确保大模型产品的竞争力。随着模型参数量从千亿迈向万亿，模型能力更加泛化，大模型对底层算力的诉求进一步升级，万卡甚至超万卡集群成为这一轮大模型竞赛的入场券。(中国日报)

摩尔线程携全栈 AI 产品和万卡集群解决方案首次亮相 WAIC，并以 “全栈 AI 为美好世界加速” 为主题进行成果展示，设置了

摩尔线程携全栈 AI 产品和万卡集群解决方案首次亮相 WAIC，并以 “全栈 AI 为美好世界加速” 为主题进行成果展示，设置了 “夸娥：打造高效能 AI 算力底座”“AIGC：加速释放创作生产力”“AI + 产业数智化升级” 三大板块，展示包括计算加速卡、服务器、超融合一体机、万卡集群方案和 AIGC 应用在内的摩尔线程全栈 AI 产品，以及携手众多行业合作伙伴联合展示基于夸娥智算集群的丰富的行业大模型与应用方案。（上证报）

奇瑞计划再推新品牌 “多生孩子”能解销量之困？

奇瑞计划再推新品牌 “多生孩子”能解销量之困？ 根据乘联会公布的今年3月新能源乘用车批发销量榜单，奇瑞位居第八名，相比2023年未进入前十有些进步，但距离尹同跃去年豪言“进入全国头部位置”的目标还有很大差距。数据显示，其2022年新能源汽车销量的渗透率为近19%左右；而到了今年一季度，却下降至11%，不进反退。这一数字相比同行以及整个行业，可谓惨淡。奇瑞希望依靠“多生孩子好打架”的策略来补课。不仅通过奇瑞、星途、捷途、iCAR四个品牌布局新能源汽车赛道，还联合华为推出智界品牌，最近更是传出要再推新品牌“越己”。频频推出新品牌，能否拯救奇瑞的新能源焦虑？新能源依旧硬伤，渗透率仅11%今年1月，奇瑞集团发布2023年产销数据，2023年累计销量达到188.13万辆，同比增长52.6%，全年单月销量实现“十二连涨”。不过，奇瑞显然有些报喜不报忧。奇瑞2023年的销量主要依靠燃油车和出口，其中全年出口超93万辆，占据半壁江山；而在新能源大潮面前，奇瑞的销量主力依然是燃油车。或许是数据实在不佳，奇瑞并未公布2023年的新能源销量。在乘联会公布的2023年1-12月新能源狭义乘用车厂商批发和零售销量排名中，奇瑞均未进入前十。近日，奇瑞发布的数据显示，其一季度累计销售汽车529604辆，同比增长60.3%，继续保持高速增长的态势。其中，累计出口汽车253418辆，占总销量比重接近一半。此外，奇瑞集团一季度销售新能源汽车60133辆，占比仅11%左右。11%这个数字，无论是与自己、还是与其他厂商，乃至市场整体对比，都不理想。数据显示，奇瑞集团2022年累计销售汽车达1232727辆，其中新能源汽车销量232814辆，按此计算奇瑞集团2022年新能源汽车的渗透率为近19%左右；而到了今年一季度，却下降至了11%，不进反退。从同行来看，长城汽车2023年的新能源汽车渗透率为20.8%，吉利汽车2023年新能源渗透率超过28%，长安汽车则为近19%，奇瑞明显处于落后状态；从行业整体来看，据中国汽车工业协会数据，2023年国内新能源汽车的市场渗透率攀升至31.6%。甚至在2023年12月，乘用车领域的新能源汽车渗透率突破40%，奇瑞更是明显滞后。奇瑞在新能源上确实慢了半拍，在新能源销量上长期严重依赖微型车，奇瑞小蚂蚁及奇瑞QQ冰淇淋两款微型车型成为销量担当。但尴尬的是，众多车企也纷纷发力这一细分市场，推出了不少微型纯电车的热销产品，这进一步加剧了微型电动车市场的竞争。在微型电动车销量遭受冲击之下，导致2023年奇瑞新能源汽车的销量并不乐观。左手华为，右手小米在新能源焦虑症之下，奇瑞开始引入外援。首先就是华为。2023年11月，智界S7正式发布，一共四款车型，售价24.98万元起。这款产品为华为和奇瑞联合打造，华为常务董事、终端BG CEO、智能汽车解决方案BU董事长余承东放言，智界S7的定位将超越特斯拉Model S。当天下午，华为便宣布智界S7预订量已突破20000台。不过，相比于发布时的高调，智界S7在交付上却命运多舛。今年初，多位准车主在社交平台发文称，智界S7的交付环节问题频发，车辆无法在承诺期内交付，订单交付顺序尤为混乱。交付困难也导致智界S7在订单量火爆的情况下实际销量却不佳。作为对比的是，与智界S7同平台的奇瑞星纪元ES却并未遇到产能问题，有传闻称这是奇瑞为了优先保证自有品牌产品的产能。今年1月还有消息称，奇瑞汽车股份有限公司副总经理、制造事业部总经理韩必文突然离职，离职原因与智界S7生产制造有关。奇瑞方面则回应称，“网上传言并不属实，双方合作顺利，高管离职也并非因为合作项目的原因。”而今年3月，余承东首次对外公开回应了智界S7交车缓慢的原因，他表示，华为与奇瑞合作的智界S7是因为芯片缺货和工厂搬迁，耽误了上市和量产，预计4月份会恢复正常状态。3月30日，他发文称智界S7开启大规模交付。不过，发布近四个月后才开启大规模交付，智界S7的热度已经不如从前。更何况小米首款汽车小米SU7也在期间正式发布，同样定位轿车，起售价为21.59万元起，比智界S7更具性价比。近日，华为官宣春季沟通会时间4月11日，海报显示智界S7将会亮相，能否与小米SU7抢回热度，还未可知。另外有意思的是，奇瑞还把外援瞄准了小米系。2023年上海车展期间，奇瑞发布了旗下首个新能源电动品牌iCAR。而今年，奇瑞联合小米生态链企业智米科技造车的消息甚嚣尘上，甚至传出了小米集团双线造车的传闻。此事也遭遇了小米态度强烈的否认。小米集团公关部总经理王化表示：“此前我们已经多次澄清小米集团没有双线造车，也不存在生态链企业造车的情况。该产品和小米集团、小米生态链、智米科技全然无关，请知悉！”4月7日，@小米公司发言人 也发布声明称：智米科技创始人苏峻个人与奇瑞合作的有关汽车业务，与小米集团、小米生态链完全无关；另据智米科技此前声明，亦与智米科技无关。请知悉。iCAR品牌最终可谓并没有蹭上小米的热度。车海战术能成功吗？实际上，除了外援，奇瑞也在多线尝试。梳理来看，奇瑞是想在保持燃油车基础优势的前提下，尽快向新能源转型。通过奇瑞、星途、捷途、iCAR四个品牌布局新能源汽车赛道。其中奇瑞品牌还启用了全新的新能源产品序列奇瑞风云。2023年12月，承载着奇瑞向上使命的星途品牌，其全新电动产品序列首款产品星纪元ES正式上市，售价区间拉高到22.58万元至33.98万元；今年1月，奇瑞品牌新能源序列奇瑞风云首款车型风云A8上市，售价11.99万元-14.99万元；今年2月，iCAR品牌首款车型iCAR 03上市，新车共推出6款车型，官方指导价为10.98万-16.98万元。动作频频之下，是奇瑞希望通过“多生孩子好打架”的策略来加快向新能源的转型。不过详细来看，除了星途星纪元之外，奇瑞不同品牌和序列之间的定位区隔还是并没有那么清晰，车型和价位上存在着一定的重合。而近日再有消息称，奇瑞将于今年第三季度发布全新新能源汽车品牌，品牌名或为“越己”，首款车型将于年底正式上市。如果消息属实，届时奇瑞集团也将拥有奇瑞、星途、捷途、iCAR、越己五个品牌，做好品牌和价位的区隔更为重要，否则或将陷入左右手互搏的尴尬局面。从目前的情况来看，奇瑞的新能源转型依然还在路上。比如被视为品牌向上关键动作的星纪元ES，连续两个月销量未破千；主打性价比的iCAR 03，今年3月的销量为5487辆，还难以成为奇瑞新能源的销量担当。在2024新年献词中，尹同跃透露，未来两年内计划推出24款混动和15款高端纯电新产品，并再次强调要迅速进入中国新能源汽车第一阵营。而奇瑞的车海战术，又能否真正奏效？文 | 新浪科技 张俊 ... PC版： 手机版：

天风证券：新能源领域铜需求量有望持续上涨 成为铜消费增长主力

天风证券：新能源领域铜需求量有望持续上涨 成为铜消费增长主力 天风证券研报认为，再全球化过程中，资源品价值正在经历重估。供给面临刚性收缩，看起来不错的价格仍难刺激真正有效的供给。传统需求范式正被逐步打破，地域上和结构上存在双重预期差。中长期来看，在 “双碳” 背景下的新能源行业转型趋势中，新能源领域铜需求量有望持上涨，成为铜消费增长主力。其他潜力场景，AI 算力有望成为铜需求新动能。随着科技的不断进步和新材料技术的开发，铜的应用场景有望进一步扩展，拉动铜消费量上行。