美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

英国金融时报（FT）报道，白宫科技政策办公室主任Arati Prabhakar称，美国将与中国就人工智能安全方面展开合作，目前已

英国金融时报（FT）报道，白宫科技政策办公室主任Arati Prabhakar称，美国将与中国就人工智能安全方面展开合作，目前已为此作一定的准备。她表示，虽然中国和美国可能在某些价值观和监管方法上存在分歧，但“我们也会在某些地方达成一致”，包括人工智能软件的全球技术和安全标准。

在首次人工智能对话中，美国指责中国“滥用”人工智能，北京抗议华盛顿的限制

在首次人工智能对话中，美国指责中国“滥用”人工智能，北京抗议华盛顿的限制 当地时间2024年5月15日，即中美两国政府在瑞士日内瓦就人工智能举行政府间对话首次会议的第二天。美国官员对中国“滥用人工智能”表示担忧，而北京代表则谴责华盛顿对人工智能的“限制和施压”。闭门会谈的摘要涉及人工智能的风险及其管理方式，暗示北京和华盛顿之间在人工智能技术快速发展方面的紧张关系，而人工智能已成为双边关系的另一个导火索。美国国家安全委员会发言人沃森在一份声明中表示，中美两国在前一天举行的“坦诚和建设性”讨论中“就人工智能安全和风险管理各自方法交换了看法”。北京方面表示，双方“深入、专业、建设性地”交换了意见。

中美将举行人工智能政府间对话首次会议

中美将举行人工智能政府间对话首次会议 中美两国官员将于周二举行人工智能政府间对话首次会议。美国官员称，双方将在日内瓦举行会晤，此前双方就这一问题进行了一些讨论，包括美国国家安全顾问杰克•沙利文与中国外交部长王毅的讨论。一位美国官员表示：“我们对中国的策略仍然集中在‘投资、协调和竞争’上，但我们也认为，激烈的竞争需要密集的外交，以减少误判和意外冲突的风险。在人工智能方面尤其如此。”另一位美国官员表示，拜登政府认识到了人工智能的“变革潜力”，但也认识到“有必要在风险管理和抓住先进人工智能提供的机遇之间取得平衡”。他表示，这次会议将围绕先进人工智能系统，重点讨论风险和安全问题，但并不谋求取得成果。 （）

中美关于共同应对人工智能风险的会谈将在日内瓦举行

中美关于共同应对人工智能风险的会谈将在日内瓦举行 乔-拜登总统的政府一直寻求在一系列问题上与中国接触，以减少两个竞争对手之间的误解。美国国务卿安东尼-布林肯和中国外交部长王毅于4月在北京讨论了人工智能问题，并同意就此问题举行首次正式双边会谈。美国国务院已向中国和俄罗斯施压，要求它们响应美国的声明，即只有人类而非人工智能才能做出部署核武器的决定。"这是第一次此类会议。因此，我们预计将对所有风险进行讨论，但目前不会预先判断任何具体细节，"一位高级政府官员在会议前告诉记者，当被问及美国是否会优先考虑核武器问题时。这位官员说，中国在民用、军事和国家安全部门快速部署人工智能能力往往会破坏美国及其盟国的安全，并补充说，会谈将使华盛顿能够直接表达其关切。官员补充说："非常明确的一点是，与中国政府的会谈重点不是促进任何形式的技术协作，也不是在任何问题上开展前沿研究合作。我们的技术保护政策也不容谈判。"白宫国家安全委员会（NSC）周一表示，美国代表团将包括白宫、国务院和商务部的官员。路透社报道称，拜登政府计划对美国开发的、为 ChatGPT 等流行聊天机器人提供动力的专有人工智能模型设置防护栏，以保护该技术不受中国和俄罗斯等国的影响。另一位美国官员在向记者介绍情况时说，华盛顿和北京正在竞相制定人工智能规则，但也希望探讨一些规则是否能"为所有国家所接受"。第二位官员说："在许多人工智能话题和应用上......我们的看法当然不尽相同，但我们相信，就关键的人工智能风险进行沟通可以让世界更加安全。"国家安全委员会官员塔伦-查布拉（Tarun Chhabra）和美国国务院关键和新兴技术代理特使塞思-中心（Seth Center）将带队与中国外交部和国家发展和改革委员会的官员举行会谈。美国参议院多数党领袖查克-舒默（Chuck Schumer）计划在未来几周内提出建议，以应对人工智能带来的风险，他说这些建议随后将转化为零散的立法。他提到了与中国的竞争以及中国在人工智能（包括监控和面部识别应用）方面的不同目标，这也是华盛顿需要在围绕这项快速发展的技术制定法律方面发挥主导作用的原因。中国政府一直强调其需要开发自己的"可控"人工智能技术。 ... PC版： 手机版：

美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议 美国和英国签署了一项具有里程碑意义的人工智能协议，这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议，列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所 (AISI) 和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估 OpenAI 和谷歌等公司建立的私人人工智能模型。