为期两天的2024年“人工智能造福人类全球峰会”30日在瑞士日内瓦开幕，会议聚焦于人工智能全球合作、监管与治理、标准建设，以及人

为期两天的2024年“人工智能造福人类全球峰会”30日在瑞士日内瓦开幕，会议聚焦于人工智能全球合作、监管与治理、标准建设，以及人工智能在教育、健康、通信、金融、气候变化方面的应用等议题。联合国秘书长古特雷斯在视频致辞中说，“人工智能正在改变我们的世界和生活”，人工智能可以推动可持续发展，也可能改变实现可持续发展目标的“游戏规则”，但要把人工智能的潜力转化为现实，需要人工智能减少偏见、错误信息和安全威胁，而不是加剧它们。他强调全球需要协调建设安全、包容、人人可及的人工智能。（新华社）

首届全球人工智能峰会召开 吁国际合作解决AI安全问题

首届全球人工智能峰会召开吁国际合作解决AI安全问题首届全球人工智能峰会在英国召开，与会各国就人工智能安全问题发表联合声明，强调协力解决一系列人工智能安全问题的必要性和紧迫性，并继续为促进人工智能发展进行包容性的全球对话。当地时间星期三（11月1日），第一届全球人工智能（AI）峰会在伦敦布莱切利公园（BletchleyPark）召开。包括东道国英国在内的28个国家和区域集团代表与会，马斯克等AI企业高管也出席峰会。与会各国（包括欧盟）当天发布《布莱切利声明》（BletchleyDeclaration），一致承诺推动全球合作努力，确保AI安全问题得到解决。声明指出，“AI带来了巨大的全球机遇，有可能改变和增进人类福祉、和平与繁荣”，也拥有“变革性的积极潜力”。不过，AI的发展也伴随着巨大的风险，涉及人们生活的多个方面，比如隐私、透明度、数据保护、公平、问责、监管、道德、偏见和欺骗性内容等。声明说，AI技术的“前沿”领域，即一些能力很强的通用AI模型等，尤其具有安全风险。与会各国特别关注“网络安全”和“生物技术”等领域的风险，以及“前沿AI系统可能放大虚假信息”等风险的情况。这些模型最重要的能力有可能造成“严重甚至灾难性的伤害”，无论是蓄意产生还是无意制造。声明强调，AI带来的许多风险其实具有国际性，因此“最好通过国际合作加以应对”。与会国家“将以包容的方式共同努力，通过现有的国际论坛和其他相关倡议，确保AI能够以人为本、值得信赖、负责人、安全可靠并造福所有人”。声明呼吁各国基于风险制定自己的政策，提高AI前沿能力的开发者的透明度，并指定适当的评估指标和安全测试工具，同时也要培养相关公共部门的能力和科学研究。与会国家在声明中宣布，“决心支持建立一个具有国际包容性的AI前沿安全科学研究网络”。这一网络将“包含并补充现有的和新的多边、诸边和双边合作”。此外，英国数码部长多兰（MichelleDonelan）在星期三的开幕式上宣布，韩国将在半年后主办第二届全球人工智能峰会，法国将于一年后主办第三届峰会。2023年11月1日8:57PM

英国将举办首届全球峰会以阻止潜在的人工智能“终结者”

英国将举办首届全球峰会以阻止潜在的人工智能“终结者”“人工智能具有不可思议的潜力，可以让我们的生活变得更美好，”英国首相RishiSunak说。“但我们需要确保以安全可靠的方式开发和使用它。”“纵观历史，我们一次又一次地发明了颠覆范式的新技术，并利用它们造福人类。这是我们必须再次做的事情。没有一个国家可以单独做到这一点。这需要全球的努力。但凭借我们丰富的专业知识和对开放、民主国际体系的承诺，英国将与我们的盟友站在一起，引领潮流。”从日常生活到科幻小说，人工智能所带来的潜在风险已经被多方面关注。目前人工智能最常见的危险是它会产生称为幻觉的虚假信息。OpenAI正在研究其LLM中的处理方法，验证每个阶段的逻辑以减少"胡说八道"的发生率，但该模型尚未部署用于广泛使用。除了这个问题，人工智能还可以被恶意黑客用来生成可用于攻击的恶意代码。虽然这不直接构成人工智能安全问题，但围绕人工智能抢走工作的情况是政客们必须应对的另一件事。例如，上周报道说，一些公司已经开始用生成人工智能取代人类。在本次峰会宣布之前，RishiSunak的AI顾问MattClifford表示，如果不受监管，AI可能会在短短两年内变得非常强大，这显然会让人类难以控制。虽然终结者AI场景现在感觉像是科幻小说，而且可能会持续两年多，但政府最好在为时已晚之前调查潜在风险。...PC版：https://www.cnbeta.com.tw/articles/soft/1364211.htm手机版：https://m.cnbeta.com.tw/view/1364211.htm

经济日报：“人工智能 +” 潜力巨大

经济日报：“人工智能+”潜力巨大经济日报第四版文章指出，目前，人工智能驱动的科学研究已经表现出突破传统科学研究能力瓶颈的巨大潜力。人工智能与生物制造、清洁能源等领域的交叉融合，将有助于解决气候变化、能源危机等全球性问题。而一旦人工智能、量子计算、可控核聚变等技术相互赋能，将会产生很强的协同效应，有可能带来真正的科技革命“奇点”。放眼未来，人类和人工智能体之间该如何和谐共处，也是广受关注的问题。正如《人工智能：现代方法》作者、加州大学伯克利分校计算机科学系教授斯图尔特・罗素所说，“我们如何在面对比我们更强大的机器时保持掌控权？这需要我们重新思考AI”。面对人工智能技术快速发展可能带来的风险与挑战，需要世界各国政府和机构、企业在人工智能治理领域广泛合作，改进治理机制，加快构建技术和产品标准，使技术为我所用，造福人类生活。

中国科技部副部长率团赴英出席人工智能安全峰会

中国科技部副部长率团赴英出席人工智能安全峰会中国科技部副部长吴朝晖星期三（11月1日）率团赴英国参加人工智能安全峰会。据央视新闻客户端报道，吴朝晖将率团出席11月1日至2日在英国布莱切利园举行的人工智能安全峰会。中国代表团将在人工智能安全峰会期间向参会各方介绍即将提出的《全球人工智能治理倡议》。报道称，作为发展中国家的一员，中国愿与参会各方就人工智能安全议题加强交流和沟通，反映“全球南方”对新兴技术的普遍关切，为推动形成普遍参与的国际机制和具有广泛共识的治理框架贡献智慧，促进人工智能技术更好造福于人类，促进全球可持续发展，共同构建人类命运共同体。2023年11月1日6:28PM

经济日报：加强人工智能伦理治理

经济日报：加强人工智能伦理治理经济日报发文称，近日，人工智能研究公司OpenAI推出全新的生成式人工智能模型Sora成为全球关注热点。Sora的出现意味着人工智能技术已经发展到一个新的高度，同时也对人工智能技术的监管能力提出挑战。如果不能有效地管控Sora等技术，可能会出现无法预料的后果。人工智能技术日新月异，伦理规范和监管制度难免存在滞后性。加之伦理问题的复杂性，各个国家和地区规范存在差异，许多规定过于原则性，缺乏可操作性，难以有效落地实施。因此，完善细化相关伦理规范，加强审查和监管，以及相关伦理教育和宣传，更显迫切。只有正视Sora带来的伦理挑战，并加强伦理治理，才能确保人工智能技术造福人类，而不是成为威胁。