英韩合办AI峰会 16家企业签署AI安全承诺 中国入列

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列 去年11月，英国召开首届全球AI安全峰会，有近30个国家的官方代表，以及超过80个学术研究机构、企业和公民组织与会。今年5月，英国与南韩合办在线峰会，规模较小，下一场实体峰会则由法国主办，明年召开。根据英国科学创新暨科技部（DSIT）释出的资料，峰会尚未正式展开，已有16家AI科技企业签署安全承诺，要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构，以及向大众揭露各企业对前沿AI（frontier AI）科技安全的应处策略。这16家签署“前沿AI安全承诺”（Frontier AI Safety Commitments）的企业包括OpenAI、亚马逊（Amazon）、Google（Google）及其旗下DeepMind、Meta、马斯克（ElonMusk）去年创办的xAI、微软（Microsoft）、IBM。另外还有三星电子（Samsung Electronics）、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智谱AI、阿拉伯联合酋长国的“科技创新研究院”（Technology InnovationInstitute）等。英国科技部指出，这16家企业名单包含AI两大强权：美国和中国。科技部表示，这些企业将各自发布AI安全框架，向大众说明未来将如何测算自家前沿AI模型的安全风险，包括遭恶意行为者滥用的风险，以及各家企业对安全风险的最高容忍极限为何、如何确保AI模型的安全风险不会超越此预设门坎。在极端情况下，若企业在采取补救措施后，仍未能将AI模型或系统的安全风险保持在门坎以下，则不得继续发展或进一步部署该模型或系统。英国科技部指出，在订定前沿AI安全风险门坎时，相关企业已承诺将寻求“受信任行为者”的意见，包括本国政府（前提为若情况适当）。根据议程，英国首相苏纳克（Rishi Sunak）和南韩总统尹锡悦，以及英国科技大臣唐萃兰（MichelleDonelan）和南韩科技部长李宗昊将在21和22日分别共同主持一场高阶会议。 ... PC版： 手机版：

领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺 英国和韩国政府宣布，领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的 OpenAI 和马斯克的 xAI 以及中国开发商智谱AI，这些公司将发布框架，概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕，两国政府在峰会开幕前表示，这些公司承诺，如果无法缓解严重风险，他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前，以及在训练之前和期间。”

首届全球人工智能峰会召开 吁国际合作解决AI安全问题

首届全球人工智能峰会召开 吁国际合作解决AI安全问题 首届全球人工智能峰会在英国召开，与会各国就人工智能安全问题发表联合声明，强调协力解决一系列人工智能安全问题的必要性和紧迫性，并继续为促进人工智能发展进行包容性的全球对话。 当地时间星期三（11月1日），第一届全球人工智能（AI）峰会在伦敦布莱切利公园（Bletchley Park）召开。包括东道国英国在内的28个国家和区域集团代表与会，马斯克等AI企业高管也出席峰会。 与会各国（包括欧盟）当天发布《布莱切利声明》（Bletchley Declaration），一致承诺推动全球合作努力，确保AI安全问题得到解决。 声明指出，“AI带来了巨大的全球机遇，有可能改变和增进人类福祉、和平与繁荣”，也拥有“变革性的积极潜力”。 不过，AI的发展也伴随着巨大的风险，涉及人们生活的多个方面，比如隐私、透明度、数据保护、公平、问责、监管、道德、偏见和欺骗性内容等。 声明说，AI技术的“前沿”领域，即一些能力很强的通用AI模型等，尤其具有安全风险。与会各国特别关注“网络安全”和“生物技术”等领域的风险，以及“前沿AI系统可能放大虚假信息”等风险的情况。这些模型最重要的能力有可能造成“严重甚至灾难性的伤害”，无论是蓄意产生还是无意制造。 声明强调，AI带来的许多风险其实具有国际性，因此“最好通过国际合作加以应对”。与会国家“将以包容的方式共同努力，通过现有的国际论坛和其他相关倡议，确保AI能够以人为本、值得信赖、负责人、安全可靠并造福所有人”。 声明呼吁各国基于风险制定自己的政策，提高AI前沿能力的开发者的透明度，并指定适当的评估指标和安全测试工具，同时也要培养相关公共部门的能力和科学研究。 与会国家在声明中宣布，“决心支持建立一个具有国际包容性的AI前沿安全科学研究网络”。这一网络将“包含并补充现有的和新的多边、诸边和双边合作”。 此外，英国数码部长多兰（Michelle Donelan）在星期三的开幕式上宣布，韩国将在半年后主办第二届全球人工智能峰会，法国将于一年后主办第三届峰会。 2023年11月1日 8:57 PM

英外长：已邀请中国出席全球AI安全峰会

英外长：已邀请中国出席全球AI安全峰会 英国外长克莱弗利说，英国已邀请中国出席将于今年11月举行的全球人工智能（AI）安全峰会，并表示如果AI领域的主要参与者缺席，AI技术的风险将无法得到控制。 综合路透社和政治新闻网Politico报道，克莱弗利星期二（9月19日）在一份声明中说：“如果我们将人工智能技术的领先国家之一排除在外，我们就无法保证英国公众能免受人工智能风险的影响。这就是为什么中国获邀参加我们11月举办的AI安全峰会的原因。” 克莱弗利说，“英国对华政策是保护我们的机构和基础设施，与合作伙伴保持一致，并在符合英国国家利益的情况下（与中国）进行接触。” 报道称，这是首次有英国内阁高官证实相关消息，但目前仍不清楚中国是否只参加峰会核心活动，还是会参加更广泛的活动。中国驻英使馆没有说明中方是否与会。 全球AI安全峰会将于11月1日至2日在英国白金汉郡举办。英国政府称，这次峰会将讨论人工智能如何破坏生物安全，以及如何将这项技术用于公共利益，例如打造更安全的交通。 了解峰会筹备的消息人士称，全程出席峰会的领导人预计包括法国总统马克龙、加拿大总理特鲁多和欧盟委员会主席冯德莱恩。美国总统拜登将不会出席，而是由副总统哈里斯代为出席。 消息人士称，“我们一直都知道拜登不太可能出席，但唐宁街现在必须解决的问题是，该如何对待中国人。” Politico报道称，英国邀请北京与会的决定已引来七国集团的担忧，尤其日本政府认为，在民主国家尚未就人工智能治理达成共同立场之际，让中国参与峰会还为时尚早。 对此，英国财长亨特称：“如果你要尝试打造一种体制，让人工智能从总体上给人类带来净利益，那么你就不能忽视这个世界第二大经济体”。针对美欧日等国的担忧，亨特说，不会邀请中国参加峰会的每一个环节。

谷歌、微软等“七巨头”发声：自愿承诺AI监管八项措施

谷歌、微软等“七巨头”发声：自愿承诺AI监管八项措施 7月21日，包括谷歌、微软、OpenAI、亚马逊、Meta、Anthropic、Inflection在内的七家顶级人工智能公司在白宫召开会议。这些企业的高管承诺，将为消费者创建识别生成式人工智能的方法，并确保在生成式人工智能工具发布前，会测试其安全性。 标签: #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

首届人工智能安全峰会发布《布莱奇利宣言》

首届人工智能安全峰会发布《布莱奇利宣言》 在英国布莱奇利园举行的首届人工智能（AI）安全峰会，星期四（11月2日）发布《布莱奇利宣言》（Bletchley Declaration）。 与会28个国家和欧盟一致认为需要在全球范围内做出新的努力，以确保以安全和负责任的方式开发和使用AI。 新华社报道，《布莱奇利宣言》（简称《宣言》）说，AI带来巨大机遇，有潜力增强人类福祉、和平和繁荣，并已部署在日常生活的许多领域。但同时AI也带来重大潜在风险。《宣言》认为，对于前沿AI技术有意识滥用或者无意识控制方面的问题，可能会引发巨大风险，尤其是在网络安全、生物技术和加剧传播虚假信息等方面。 《宣言》强调，AI的许多风险本质上是国际性的，因此“最好通过国际合作来解决”。与会国家和地区同意协力打造一个“具有国际包容性”的前沿AI安全科学研究网络，以对尚未完全了解的AI风险和能力加深理解。 在本届全球AI安全峰会两天会期内，美国、英国、欧盟、中国、印度等多方代表就AI技术快速发展带来的风险与机遇展开讨论。 根据英国政府发表的声明，下届AI安全峰会将于一年后在法国举办，韩国将在未来六个月内联合主办一次小型虚拟峰会。 2023年11月3日 7:46 AM