英韩合办AI峰会 16家企业签署AI安全承诺 中国入列

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列 去年11月，英国召开首届全球AI安全峰会，有近30个国家的官方代表，以及超过80个学术研究机构、企业和公民组织与会。今年5月，英国与南韩合办在线峰会，规模较小，下一场实体峰会则由法国主办，明年召开。根据英国科学创新暨科技部（DSIT）释出的资料，峰会尚未正式展开，已有16家AI科技企业签署安全承诺，要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构，以及向大众揭露各企业对前沿AI（frontier AI）科技安全的应处策略。这16家签署“前沿AI安全承诺”（Frontier AI Safety Commitments）的企业包括OpenAI、亚马逊（Amazon）、Google（Google）及其旗下DeepMind、Meta、马斯克（ElonMusk）去年创办的xAI、微软（Microsoft）、IBM。另外还有三星电子（Samsung Electronics）、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智谱AI、阿拉伯联合酋长国的“科技创新研究院”（Technology InnovationInstitute）等。英国科技部指出，这16家企业名单包含AI两大强权：美国和中国。科技部表示，这些企业将各自发布AI安全框架，向大众说明未来将如何测算自家前沿AI模型的安全风险，包括遭恶意行为者滥用的风险，以及各家企业对安全风险的最高容忍极限为何、如何确保AI模型的安全风险不会超越此预设门坎。在极端情况下，若企业在采取补救措施后，仍未能将AI模型或系统的安全风险保持在门坎以下，则不得继续发展或进一步部署该模型或系统。英国科技部指出，在订定前沿AI安全风险门坎时，相关企业已承诺将寻求“受信任行为者”的意见，包括本国政府（前提为若情况适当）。根据议程，英国首相苏纳克（Rishi Sunak）和南韩总统尹锡悦，以及英国科技大臣唐萃兰（MichelleDonelan）和南韩科技部长李宗昊将在21和22日分别共同主持一场高阶会议。 ... PC版： 手机版：

英外长：已邀请中国出席全球AI安全峰会

英外长：已邀请中国出席全球AI安全峰会 英国外长克莱弗利说，英国已邀请中国出席将于今年11月举行的全球人工智能（AI）安全峰会，并表示如果AI领域的主要参与者缺席，AI技术的风险将无法得到控制。 综合路透社和政治新闻网Politico报道，克莱弗利星期二（9月19日）在一份声明中说：“如果我们将人工智能技术的领先国家之一排除在外，我们就无法保证英国公众能免受人工智能风险的影响。这就是为什么中国获邀参加我们11月举办的AI安全峰会的原因。” 克莱弗利说，“英国对华政策是保护我们的机构和基础设施，与合作伙伴保持一致，并在符合英国国家利益的情况下（与中国）进行接触。” 报道称，这是首次有英国内阁高官证实相关消息，但目前仍不清楚中国是否只参加峰会核心活动，还是会参加更广泛的活动。中国驻英使馆没有说明中方是否与会。 全球AI安全峰会将于11月1日至2日在英国白金汉郡举办。英国政府称，这次峰会将讨论人工智能如何破坏生物安全，以及如何将这项技术用于公共利益，例如打造更安全的交通。 了解峰会筹备的消息人士称，全程出席峰会的领导人预计包括法国总统马克龙、加拿大总理特鲁多和欧盟委员会主席冯德莱恩。美国总统拜登将不会出席，而是由副总统哈里斯代为出席。 消息人士称，“我们一直都知道拜登不太可能出席，但唐宁街现在必须解决的问题是，该如何对待中国人。” Politico报道称，英国邀请北京与会的决定已引来七国集团的担忧，尤其日本政府认为，在民主国家尚未就人工智能治理达成共同立场之际，让中国参与峰会还为时尚早。 对此，英国财长亨特称：“如果你要尝试打造一种体制，让人工智能从总体上给人类带来净利益，那么你就不能忽视这个世界第二大经济体”。针对美欧日等国的担忧，亨特说，不会邀请中国参加峰会的每一个环节。

领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺 英国和韩国政府宣布，领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的 OpenAI 和马斯克的 xAI 以及中国开发商智谱AI，这些公司将发布框架，概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕，两国政府在峰会开幕前表示，这些公司承诺，如果无法缓解严重风险，他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前，以及在训练之前和期间。”