《科学》杂志发文 25 位世界顶尖科学家呼吁：应采取更强有力行动防范 AI 风险

《科学》杂志发文25位世界顶尖科学家呼吁：应采取更强有力行动防范AI风险随着第二届AI安全峰会（5月21日至22日）在韩国首尔举行，25位世界顶尖AI科学家呼吁，全世界应对AI风险采取更强有力的行动。发表于《科学》杂志的一份专家共识文章中，专家组概述了全球应采取的紧急政策优先事项。文章指出，全球领导人需认真考虑，在未来十年内可能开发出超越人类能力的通用AI系统。他们表示，尽管世界各国政府一直在讨论先进AI，并尝试引入初步指导方针，但这与许多专家期望的快速、变革性进展仍有距离。目前关于AI安全的研究严重缺乏，只有1%—3%的AI出版物涉及相关安全问题。此外，全球没有适当的机制或机构来防止滥用和鲁莽行为，包括如何使用能独立采取行动和自行实现目标的自治系统。

联合国全球盘点报告出炉：需要采取更多行动应对气候变化

联合国全球盘点报告出炉：需要采取更多行动应对气候变化这份报告汇集了来自行业专家、政府和活动人士的数千份意见书。在COP28上，各缔约方将首次对《巴黎协定》实施情况进行全球盘点，找到行动与目标之间的整体差距。报告称，《巴黎协定》通过设定目标，并向世界各国发出了应对气候危机紧迫性的信号，推动了近乎一致性的气候行动。虽然行动仍在进行中，但目前看来做的还不够多。根据各国在2015年达成的《巴黎协定》，所有签署国同意将全球平均气温较工业化前水平升高控制在2摄氏度之内，同时寻求将气温升幅进一步限制在1.5摄氏度以内的措施。虽然每个国家都有责任决定自己的气候行动，但他们也同意在2023年之前提交一份进度报告，看看还应该做些什么。联合国指出，现有的各国减排承诺不足以将气温升幅控制在1.5摄氏度之内。联合国评估称，为了实现这些目标，本十年需要进一步减少超过200亿吨的二氧化碳排放，并在2050年之前实现全球净零排放。该报告敦促各国到2030年将“有增无减”的煤电使用量比2019年减少67-92%，到2050年几乎完全消除煤电作为一种电力来源。到本世纪中叶，低碳和零碳电力应占全球电力总量的99%，阻碍碳捕获的技术挑战必须得到解决。报告还呼吁拿出更多资金支持低碳发展，指出仍有数十亿美元投资于化石燃料。英国气候智库E3G的气候外交政策顾问TomEvans表示：“这为各国政府提供了一个大胆的任务清单，将气温上升幅度限制在1.5摄氏度以内，保护世界各地的人们免受气候变化的伤害。”Evans补充说，各国需要承诺逐步淘汰化石燃料，制定2030年扩大可再生能源的目标，确保金融体系为气候行动提供资金，并为设立“损失和损害”基金筹集资金。非营利组织世界资源研究所总裁兼首席执行官AniDasgupta在一份声明中表示：“联合国过于文雅的文笔掩盖了全球气候行动糟糕的成绩单。碳排放仍在上涨，富裕国家拖欠气候资金。当然，也有一些值得庆祝的亮点，比如近年来可再生能源和电动汽车的迅速普及。”联合国气候谈判主席Sultanal-Jaber表示：“今天的全球盘点为我们如何在这个关键的十年里采取果断行动，实现《巴黎协定》的期望提供了明确的方向。”...PC版：https://www.cnbeta.com.tw/articles/soft/1382599.htm手机版：https://m.cnbeta.com.tw/view/1382599.htm

《环看天下》：迪拜联合国气候大会盘点各方行动

《环看天下》：迪拜联合国气候大会盘点各方行动联合国气候变化大会今天起至下月12日在阿联酋迪拜举行，将检视《巴黎协定》生效以来，在应对全球变暖方面，采取了甚么行动，以及有哪些不足，以便制定下阶段行动计划。今次大会能否达成逐步淘汰化石燃料、富裕国家能否进一步注资，为贫穷国家应对气候变化，都引起关注。联合国秘书长古特雷斯呼吁各国领袖采取行动，打破全球变暖的恶性循环，避免气候变化到达「致命临界点」。2023-11-3009:12:33

联合国气候变化大会签署粮食、农业和气候行动宣言

联合国气候变化大会签署粮食、农业和气候行动宣言在阿联酋迪拜举行的《联合国气候变化框架公约》第二十八次缔约方大会上，134个国家和地区签署《关于韧性粮食体系、可持续农业及气候行动的阿联酋宣言》，希望解决全球温室气体排放问题的同时，保护在受气候变化影响最大地区的农民的生命和生计。签署《宣言》的所有国家和地区共代表57亿人口、70%的粮食生产力和76%的全球粮食系统温室气体排放量。大会主席国阿联酋宣布，国际社会已动员超过25亿美元资金用于支持粮食安全，同时应对气候变化以及开展食品系统创新等。另外，超过20个国家在大会呼吁到2050年，将全球核能容量从2020年的水平增加三倍。美国、日本、几个欧洲国家等国家签署的声明称，核能在实现温室气体零排放的努力中发挥关键作用。2023-12-0214:56:29

联合国秘书长敦促全球领导人采取行动应对气候变化

联合国秘书长敦促全球领导人采取行动应对气候变化（早报讯）联合国秘书长古特雷斯向全球领导人发出紧急呼吁，要求他们采取行动应对气候变化，降低全球升温幅度，以免全世界被“淹没”。综合外电报道，古特雷斯星期三（9月14日）在记者会上说，他在访问遭受洪水袭击的巴基斯坦后，透过窗户看到了一个气候混乱的未来，而且其规模是难以想象、永久和无处不在的。巴基斯坦官方星期四（15日）公布说，当地洪灾已造成近1500人罹难，3300万人受洪灾影响，财物损失估计高达300亿美元（约421.5亿新元）。他说，巴基斯坦的洪灾显示，全球应对气候危机的措施不足。他再次敦促世界各国的领导人，“现在就要降低（全球升温幅度）。不要让今天面临洪灾，也不要让明天出现淹没消息。”他指出，二十国集团（G20）成员的排放量占全球总排放量的80%，本身也遭受着创纪录的干旱、火灾和洪水的影响，但气候行动却似乎趋于平缓。他直言：“如果今天G20成员国之中有三分之一被淹，并且是随时可能发生的事，那么或许它们将能就大幅减排更容易达成一致。”古特雷斯还对国际社会的分歧表示遗憾。“地缘战略分歧是自冷战以来最广泛的分歧。”发布：2022年9月15日3:56PM

25位世界顶尖科学家在《科学》呼吁应采取更强有力行动防范AI风险

25位世界顶尖科学家在《科学》呼吁应采取更强有力行动防范AI风险文章截图：《科学》网站自6个月前在英国布莱奇利公园举行第一届AI安全峰会以来，世界各国领导人承诺以负责任的方式管理AI，但是AI专家认为这依然不够。随着第二届AI安全峰会（5月21日至22日）在韩国首尔举行，25位世界顶尖AI科学家呼吁，全世界应对AI风险采取更强有力的行动。发表于《科学》杂志的一份专家共识文章中，专家组概述了全球应采取的紧急政策优先事项。文章作者之一、英国牛津大学工程科学系教授菲利普·托尔表示：“在上届AI峰会上，世界一致认为我们需要采取行动，而现在是时候将模糊的建议转变为具体的承诺了。”安全性研究严重匮乏这25位全球顶尖的AI及其治理专家来自美国、中国、欧盟、英国和其他AI技术强国，其中包括图灵奖获得者以及诺贝尔奖获得者。这也是首次由国际专家组就AI风险的全球政策制定达成一致。文章指出，全球领导人需认真考虑，在未来十年内可能开发出超越人类能力的通用AI系统。他们表示，尽管世界各国政府一直在讨论先进AI，并尝试引入初步指导方针，但这与许多专家期望的快速、变革性进展仍有距离。目前关于AI安全的研究严重缺乏，只有1%—3%的AI出版物涉及相关安全问题。此外，全球没有适当的机制或机构来防止滥用和鲁莽行为，包括如何使用能独立采取行动和自行实现目标的自治系统。在快速发展中防范极端风险文章建议，各国政府需建立可快速行动的AI监管机构，并为这些机构提供资金。美国AI安全研究所目前的年度预算为1000万美元，听起来并不少，但相比之下，美国食品和药物管理局（FDA）的预算达67亿美元。AI领域需要更严格的风险评估并制定可执行的措施，而不是依赖一些不甚明确的模型评估。应要求AI研发企业优先考虑安全性，并证明其系统不会造成伤害，AI开发人员要承担起证明安全性的责任。人们还要有一个与AI系统带来的风险水平相称的缓解办法，解决之道是制定一个“自动”政策，当AI达到某些能力里程碑时“自动触发”——如果AI发展迅速，这一严格的要求就会自动生效；如果进展缓慢，要求将相应放缓。对于能力超凡的未来AI系统，政府必须作好带头监管的准备。这包括许可开发，限制其在关键社会角色中的自主权，停止部署部分能力，强制执行访问控制，以及要求对国家级黑客采取强有力的信息安全手段，直到人们准备好足够的保护措施。谨记AI不是玩具不列颠哥伦比亚大学AI教授、强化学习领域专家杰夫·克伦纳表示，太空飞行、核武器和互联网等技术在数年内就从科幻变成了现实，AI也不例外。“我们现在必须为那些看似科幻小说的风险做好准备”。现在，AI已经在黑客攻击、社交操纵和战略规划等关键领域取得了快速进展，并可能很快带来前所未有的关于“控制”的挑战。AI系统可能会为了实现某个“不良目的”而骗取人类信任、获取资源并影响关键决策者。为了避免人为干预，它们还可以在全球服务器网络上复制自身算法。在这种情况下，大规模网络犯罪、社会操纵和其他危害会因此迅速升级。而在公开冲突中，AI系统能自主部署各种武器，甚至包括生物武器。因此，当AI的进步不受控制，很可能最终导致大规模生命损失、生物圈破坏、人类边缘化甚至灭绝。美国加州大学伯克利分校计算机科学教授斯图尔特·卢塞尔表示：“此次是权威专家的共识文章，其呼吁政府严格监管，而不是自愿制定一些规范行业的行为。”“企业可能抱怨说满足这些法规太难，但所谓‘法规扼杀创新’的说法是荒谬的。”卢塞尔这样说，“是时候认真对待先进AI系统了，它们不是玩具。在我们了解如何确保它们的安全性之前，轻易增强它们的能力是完全鲁莽的行为。”...PC版：https://www.cnbeta.com.tw/articles/soft/1431826.htm手机版：https://m.cnbeta.com.tw/view/1431826.htm