中国科技部副部长率团赴英出席人工智能安全峰会

中国科技部副部长率团赴英出席人工智能安全峰会 中国科技部副部长吴朝晖星期三（11月1日）率团赴英国参加人工智能安全峰会。 据央视新闻客户端报道，吴朝晖将率团出席11月1日至2日在英国布莱切利园举行的人工智能安全峰会。中国代表团将在人工智能安全峰会期间向参会各方介绍即将提出的《全球人工智能治理倡议》。 报道称，作为发展中国家的一员，中国愿与参会各方就人工智能安全议题加强交流和沟通，反映“全球南方”对新兴技术的普遍关切，为推动形成普遍参与的国际机制和具有广泛共识的治理框架贡献智慧，促进人工智能技术更好造福于人类，促进全球可持续发展，共同构建人类命运共同体。 2023年11月1日 6:28 PM

中国预计下月出席英国人工智能峰会

中国预计下月出席英国人工智能峰会 据英国和中国官员称，中国计划参加下个月在布莱切利公园举行的英国人工智能峰会，尽管最近有关北京在威斯敏斯特涉嫌间谍活动的争议不断。 英国首相里希·苏纳克 (Rishi Sunak) 将人工智能峰会视为一次聚集全球政策制定者和技术高管的机会，以制定治理快速新兴技术的国际方法。 两名中国政府官员告诉英国《金融时报》，中国已决定至少派出一名代表参加此次峰会。英国官员还表示，北京已接受伦敦出席峰会的邀请。 在华盛顿加强对北京获取人工智能技术的控制之际，将中国代表与西方领导人聚集在一起面临着外交挑战，这使得中国的参与变得不确定。 英国外交大臣詹姆斯·克莱弗利 (James Cleverly) 表示，如果我们将人工智能技术领先国家之一排除在外，政府就无法“确保英国公众免受人工智能风险”。 为期两天的峰会将于 11 月 1 日在伦敦郊外的二战密码破译中心布莱切利公园开始。英国官员表示，他们预计中国将出席这两天的会议。

意大利称教皇将出席 G7 峰会讨论人工智能

意大利称教皇将出席 G7 峰会讨论人工智能 意大利总理乔治亚·梅洛尼周五表示，教皇方济各将出席今年的七国集团（G7）领导人峰会，讨论人工智能（AI）带来的挑战。教皇今年对人工智能的“反常”危险发出警告，并再次呼吁全球制定法规，利用人工智能来实现共同利益。G7 峰会于6月13日至15日在意大利南部普利亚大区举行，美国、德国、英国、法国、意大利、加拿大和日本的领导人以及一些特邀嘉宾将出席。梅洛尼在视频致辞中表示：“这是历史上教皇首次参加七国集团会议。”她表示将参加一个专门讨论人工智能的会议，称人工智能是“我们这个时代最大的人类学挑战”之一。梅洛尼说：“我相信，尊者的出席将对制定人工智能的道德和文化监管框架做出决定性的贡献。”

首届全球人工智能峰会召开 吁国际合作解决AI安全问题

首届全球人工智能峰会召开 吁国际合作解决AI安全问题 首届全球人工智能峰会在英国召开，与会各国就人工智能安全问题发表联合声明，强调协力解决一系列人工智能安全问题的必要性和紧迫性，并继续为促进人工智能发展进行包容性的全球对话。 当地时间星期三（11月1日），第一届全球人工智能（AI）峰会在伦敦布莱切利公园（Bletchley Park）召开。包括东道国英国在内的28个国家和区域集团代表与会，马斯克等AI企业高管也出席峰会。 与会各国（包括欧盟）当天发布《布莱切利声明》（Bletchley Declaration），一致承诺推动全球合作努力，确保AI安全问题得到解决。 声明指出，“AI带来了巨大的全球机遇，有可能改变和增进人类福祉、和平与繁荣”，也拥有“变革性的积极潜力”。 不过，AI的发展也伴随着巨大的风险，涉及人们生活的多个方面，比如隐私、透明度、数据保护、公平、问责、监管、道德、偏见和欺骗性内容等。 声明说，AI技术的“前沿”领域，即一些能力很强的通用AI模型等，尤其具有安全风险。与会各国特别关注“网络安全”和“生物技术”等领域的风险，以及“前沿AI系统可能放大虚假信息”等风险的情况。这些模型最重要的能力有可能造成“严重甚至灾难性的伤害”，无论是蓄意产生还是无意制造。 声明强调，AI带来的许多风险其实具有国际性，因此“最好通过国际合作加以应对”。与会国家“将以包容的方式共同努力，通过现有的国际论坛和其他相关倡议，确保AI能够以人为本、值得信赖、负责人、安全可靠并造福所有人”。 声明呼吁各国基于风险制定自己的政策，提高AI前沿能力的开发者的透明度，并指定适当的评估指标和安全测试工具，同时也要培养相关公共部门的能力和科学研究。 与会国家在声明中宣布，“决心支持建立一个具有国际包容性的AI前沿安全科学研究网络”。这一网络将“包含并补充现有的和新的多边、诸边和双边合作”。 此外，英国数码部长多兰（Michelle Donelan）在星期三的开幕式上宣布，韩国将在半年后主办第二届全球人工智能峰会，法国将于一年后主办第三届峰会。 2023年11月1日 8:57 PM

第二届全球人工智能安全峰会面临棘手问题：参与人数大幅减少

第二届全球人工智能安全峰会面临棘手问题：参与人数大幅减少 6 个月后，第二届人工智能安全峰会（主要由英国和韩国共同主办的虚拟活动）将举行，届时对人工智能潜力的炒作将让位于对其局限性的质疑。研究与咨询公司 Forrester 的高级分析师玛莎-贝内特（Martha Bennett）说："有一些截然不同的方法......很难超越在布莱切利公园达成的协议。"她指的是关于人工智能安全的历史性但必然广泛的协议。围绕版权材料的使用、数据稀缺性和环境影响等更棘手的问题似乎也不太可能吸引如此多的明星出席。虽然组织者已经拖出了一个可与布莱切利媲美的活动，但一些主要与会者拒绝了首尔的邀请。首届峰会于 11 月闭幕，英国首相苏纳克承诺以后每六个月举行一次峰会，以便各国政府随时了解这项快速发展的技术。从那时起，人们的注意力从生存风险转向了推动人工智能发展所需的资源，例如训练大型语言模型所需的大量数据，以及为越来越多的数据中心提供电力。以数据和人工智能为重点的阿达-拉芙蕾丝研究所（Ada Lovelace Institute）临时主任弗朗辛-贝内特（Francine Bennett）说："围绕人工智能的政策讨论已扩大到其他重要问题，如市场集中度和环境影响。"OpenAI 首席执行官奥特曼曾表示，人工智能的未来取决于能源方面的突破。今年 2 月，据《华尔街日报》报道，他还在寻求筹集多达7 万亿美元的资金，以促进计算机芯片的生产，而目前这种元件供不应求。但是，专家警告说，把人工智能的未来寄托在科学突破和有利可图的融资努力上可能不是最好的选择。伦敦大学学院技术政策专家杰克-斯蒂尔戈（Jack Stilgoe）教授说："技术未能达到炒作的效果是不可避免的。人们会为这项技术找到令人惊讶的创造性用途，但这并不意味着未来会是埃隆-马斯克或萨姆-奥特曼想象中的样子"。科技巨头 Meta上周宣布将加倍投入人工智能后，股价下挫了 13%，尽管Google和微软的大笔投资带来的回报受到了市场的欢呼。5月21-22 日的韩国峰会一直被称为"小型峰会"，以迎接下一次在巴黎举行的亲自会晤。第一天的虚拟"领导人会议"和第二天的技术部长面对面会议，都是为了继承布莱切利公园的遗产。但据熟知内情的消息人士透露，即使法国政府将下一次会议推迟到 2025 年，出席会议的领导人和部长也会少得多。欧盟发言人没有排除欧盟出席会议的可能性，但确认其首席技术监管者玛格丽特-维斯塔格（Margrethe Vestager）、蒂埃里-布雷顿（Thierry Breton）和薇拉-尤洛娃（Vera Jourova）不会出席会议。美国国务院确认将派代表前往首尔，但没有透露是谁。加拿大和荷兰政府表示不会出席。巴西政府表示仍在考虑是否发出邀请，理由是这与巴西在同一周举办的 20 国集团会议相冲突。瑞士政府表示，外交部数字化主管 Benedikt Weschsler 大使将亲自出席会议。Mozilla 公共政策负责人琳达-格里芬（Linda Griffin）说："没有什么能媲美首次同类聚会。达成国际协议真的很难，所以这些活动可能需要反复几次才能找到节奏"。Mozilla 没有参加首尔峰会的具体原因，但它的重点是巴黎会议。同样，人工智能先驱研究机构Google DeepMind也表示欢迎此次峰会，但拒绝确认是否出席。Google前研究员、人工智能"教父"杰弗里-辛顿（Geoffrey Hinton）告诉路透社记者，他拒绝了参加此次活动的邀请，理由是受伤后坐飞机困难。英国政府发言人说："人工智能首尔峰会将借助布莱切利公园的发展势头，在人工智能的安全性、创新性和包容性方面取得进一步进展，让我们更加接近一个人工智能全面改善我们生活的世界。"相关文章:韩国将于5月21-22日举办第二届人工智能安全峰会 ... PC版： 手机版：

马斯克：希望中国在人工智能问题上与美英合作

马斯克：希望中国在人工智能问题上与美英合作 美国电动车巨头特斯拉创办人马斯克表示，他希望中国能在人工智能安全领域，与英国和美国合作。 中国官方早前宣布，中国科技部副部长吴朝晖将率团出席11月1日至2日在英国举行的人工智能安全峰会。 据路透社报道，马斯克星期四（11月2日）与英国首相苏纳克共同发表讲话时，对中国的出席表示欢迎。他说：“如果美国、英国和中国在（人工智能）安全问题上达成一致，那将是一件好事，因为这通常是领导地位所在。” 马斯克称：“我认为让他们（中国）来这里是必要的，真的。如果他们不是参与者，那就毫无意义。” 第一届全球人工智能（AI）峰会在伦敦布莱切利公园（Bletchley Park）召开。包括东道国英国在内的28个国家和区域集团代表与会。与会各国当天将发布《布莱切利声明》（Bletchley Declaration），承诺推动确保AI安全问题得到解决。 路透社早前报道称，中国此次与会是继英国外长克莱弗利8月访华后，中英关系解冻的又一迹象。 苏纳克和马斯克一致认为，人工智能的发展可能需要“物理开关”，以防止机器人以危险的方式失控，就如《终结者》系列电影和其他科幻电影那样。 2023年11月3日 7:18 AM