意大利称教皇将出席 G7 峰会讨论人工智能

意大利称教皇将出席 G7 峰会讨论人工智能 意大利总理乔治亚·梅洛尼周五表示，教皇方济各将出席今年的七国集团（G7）领导人峰会，讨论人工智能（AI）带来的挑战。教皇今年对人工智能的“反常”危险发出警告，并再次呼吁全球制定法规，利用人工智能来实现共同利益。G7 峰会于6月13日至15日在意大利南部普利亚大区举行，美国、德国、英国、法国、意大利、加拿大和日本的领导人以及一些特邀嘉宾将出席。梅洛尼在视频致辞中表示：“这是历史上教皇首次参加七国集团会议。”她表示将参加一个专门讨论人工智能的会议，称人工智能是“我们这个时代最大的人类学挑战”之一。梅洛尼说：“我相信，尊者的出席将对制定人工智能的道德和文化监管框架做出决定性的贡献。”

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

第二届全球人工智能安全峰会面临棘手问题：参与人数大幅减少

第二届全球人工智能安全峰会面临棘手问题：参与人数大幅减少 6 个月后，第二届人工智能安全峰会（主要由英国和韩国共同主办的虚拟活动）将举行，届时对人工智能潜力的炒作将让位于对其局限性的质疑。研究与咨询公司 Forrester 的高级分析师玛莎-贝内特（Martha Bennett）说："有一些截然不同的方法......很难超越在布莱切利公园达成的协议。"她指的是关于人工智能安全的历史性但必然广泛的协议。围绕版权材料的使用、数据稀缺性和环境影响等更棘手的问题似乎也不太可能吸引如此多的明星出席。虽然组织者已经拖出了一个可与布莱切利媲美的活动，但一些主要与会者拒绝了首尔的邀请。首届峰会于 11 月闭幕，英国首相苏纳克承诺以后每六个月举行一次峰会，以便各国政府随时了解这项快速发展的技术。从那时起，人们的注意力从生存风险转向了推动人工智能发展所需的资源，例如训练大型语言模型所需的大量数据，以及为越来越多的数据中心提供电力。以数据和人工智能为重点的阿达-拉芙蕾丝研究所（Ada Lovelace Institute）临时主任弗朗辛-贝内特（Francine Bennett）说："围绕人工智能的政策讨论已扩大到其他重要问题，如市场集中度和环境影响。"OpenAI 首席执行官奥特曼曾表示，人工智能的未来取决于能源方面的突破。今年 2 月，据《华尔街日报》报道，他还在寻求筹集多达7 万亿美元的资金，以促进计算机芯片的生产，而目前这种元件供不应求。但是，专家警告说，把人工智能的未来寄托在科学突破和有利可图的融资努力上可能不是最好的选择。伦敦大学学院技术政策专家杰克-斯蒂尔戈（Jack Stilgoe）教授说："技术未能达到炒作的效果是不可避免的。人们会为这项技术找到令人惊讶的创造性用途，但这并不意味着未来会是埃隆-马斯克或萨姆-奥特曼想象中的样子"。科技巨头 Meta上周宣布将加倍投入人工智能后，股价下挫了 13%，尽管Google和微软的大笔投资带来的回报受到了市场的欢呼。5月21-22 日的韩国峰会一直被称为"小型峰会"，以迎接下一次在巴黎举行的亲自会晤。第一天的虚拟"领导人会议"和第二天的技术部长面对面会议，都是为了继承布莱切利公园的遗产。但据熟知内情的消息人士透露，即使法国政府将下一次会议推迟到 2025 年，出席会议的领导人和部长也会少得多。欧盟发言人没有排除欧盟出席会议的可能性，但确认其首席技术监管者玛格丽特-维斯塔格（Margrethe Vestager）、蒂埃里-布雷顿（Thierry Breton）和薇拉-尤洛娃（Vera Jourova）不会出席会议。美国国务院确认将派代表前往首尔，但没有透露是谁。加拿大和荷兰政府表示不会出席。巴西政府表示仍在考虑是否发出邀请，理由是这与巴西在同一周举办的 20 国集团会议相冲突。瑞士政府表示，外交部数字化主管 Benedikt Weschsler 大使将亲自出席会议。Mozilla 公共政策负责人琳达-格里芬（Linda Griffin）说："没有什么能媲美首次同类聚会。达成国际协议真的很难，所以这些活动可能需要反复几次才能找到节奏"。Mozilla 没有参加首尔峰会的具体原因，但它的重点是巴黎会议。同样，人工智能先驱研究机构Google DeepMind也表示欢迎此次峰会，但拒绝确认是否出席。Google前研究员、人工智能"教父"杰弗里-辛顿（Geoffrey Hinton）告诉路透社记者，他拒绝了参加此次活动的邀请，理由是受伤后坐飞机困难。英国政府发言人说："人工智能首尔峰会将借助布莱切利公园的发展势头，在人工智能的安全性、创新性和包容性方面取得进一步进展，让我们更加接近一个人工智能全面改善我们生活的世界。"相关文章:韩国将于5月21-22日举办第二届人工智能安全峰会 ... PC版： 手机版：

韩国将于5月21-22日举办第二届人工智能安全峰会

韩国将于5月21-22日举办第二届人工智能安全峰会 当微软支持的 OpenAI 于 2022 年末发布 ChatGPT 时，许多人留下了深刻印象，但也有人感到震惊。前Google研究员、"人工智能教父"杰弗里-辛顿（Geoffrey Hinton）说，这项技术对世界构成的威胁比气候变化更紧迫。埃隆-马斯克呼吁立即暂停开发此类系统。去年 11 月，英国主办了首届人工智能安全峰会，世界各国领导人、科技大亨和学术界人士齐聚一堂，共同探讨如何以最佳方式监管这项快速发展的技术。在为期两天的活动结束后，超过 25 位政府代表签署了一份联合声明，同意各国共同努力，建立共同的监管方法。为了跟上技术发展的步伐，会议商定今后每六个月举行一次峰会。韩国将于今年 5 月举行一次主要是虚拟的峰会，法国将于 2024 年晚些时候主办下一次面对面的峰会。"去年在布莱切利举行的人工智能安全峰会是一个里程碑，政府、行业和学术界齐聚一堂，共同应对人工智能的潜在风险，我很高兴大韩民国从英国手中接过接力棒，"韩国科学与信息通信技术部的李钟镐说。"人工智能正以前所未有的速度向前发展，超出了我们的预期，至关重要的是要建立全球规范和治理，以利用这种技术创新来增进人类的福祉。" ... PC版： 手机版：

英国开始起草人工智能法规 重点关注最强大的语言模型

英国开始起草人工智能法规 重点关注最强大的语言模型 据报道，英国科学、创新和技术部（DSIT）正处于起草立法的早期阶段，该立法将努力防止人工智能对用户造成潜在伤害。英国在人工智能问题上的立场一直是避免快速行动，英国首相苏纳克（Rishi Sunak）在去年举行的首届世界领导人人工智能峰会上表示，各国不应"急于监管"人工智能。不过，DSIT 和文化、媒体与体育部的官员一直在建议修改英国版权法，以保护内容创作者免受人工智能模型对其内容的搜刮。在其他方面，欧盟于去年 12 月采取行动，批准了针对人工智能软件和服务的新法规，该法规将针对人工智能软件、服务以及开发和提供生成式人工智能产品的公司。2024 年 3 月 13 日，欧盟议会通过了《人工智能法案》，一旦成员国签署，该法案将成为法律。在美国，司法部于 2024 年 2 月任命了有史以来第一位人工智能官员，旨在为司法部提供他们的专业知识，并建立一个技术和政策专家团队，以解决不断发展的技术问题。当彭博社询问政府是否计划尽快引入人工智能立法时，首相发言人戴夫-帕雷斯重申了苏纳克关于实施速度的立场。不过他们表示，"我们一直都很清楚，所有国家最终都需要引入某种形式的人工智能立法"。 ... PC版： 手机版：

英国在旧金山设立办事处应对人工智能风险

英国在旧金山设立办事处应对人工智能风险 在本周晚些时候在韩国首尔举行的人工智能安全峰会之前，其共同主办国英国正在扩大自己在该领域的努力。人工智能安全研究所是一家于2023年11月成立的英国机构，其雄心勃勃的目标是评估和解决人工智能平台的风险。该研究所表示将在旧金山开设第二个地点。这个想法是为了更接近目前人工智能发展的中心，湾区是 OpenAI、Anthropic、谷歌和 Meta 等构建基础人工智能技术的公司的所在地。基础模型是生成人工智能服务和其他应用的基石，有趣的是，尽管英国已与美国签署了谅解备忘录，两国将在人工智能安全举措上进行合作，但英国仍选择投资在美国建立直接存在来解决这个问题。