美国和英国在人工智能安全领域达成里程碑式协议

美国和英国在人工智能安全领域达成里程碑式协议当地时间4月2日，美国和英国宣布建立人工智能安全科学合作伙伴关系，在AI安全的研究、安全评估和指导方面开展合作。双方在华盛顿签署谅解备忘录，寻求为最先进的AI模型开发测试，兑现去年11月在AI安全峰会上做出的承诺。美英两国计划在一个可公开访问的模型上至少开展一次联合测试，并考虑探索各自AI安全研究所之间的人员交流。据悉，这是全球首个关于AI安全的双边协议。（界面新闻）

欧盟接近就里程碑式AI法案达成协议 对ChatGPT等AI技术进行监管

欧盟接近就里程碑式AI法案达成协议对ChatGPT等AI技术进行监管知情人士称，来自欧盟委员会、欧洲议会和27个成员国的代表们在周三下午开始的会议上达成了折衷方案，使该集团接近就更广泛的AI法案达成正式协议。由于谈判未公开，知情人士要求匿名。这一协议标志着向具有里程碑意义的人工智能政策获批迈出了关键一步，在美国国会没有采取任何有意义的行动之际，此举为发达国家对OpenAI的ChatGPT和谷歌的Bard等生成式人工智能工具的监管定下基调。决策者几个月来一直在努力敲定AI法案的措辞，并争取在6月的欧洲选举迎来全新的委员会和议会之前获得通过。...PC版：https://www.cnbeta.com.tw/articles/soft/1402623.htm手机版：https://m.cnbeta.com.tw/view/1402623.htm

马拉松式39小时谈判后 欧盟AI监管达成“里程碑协议” 直指ChatGPT和谷歌Bard

马拉松式39小时谈判后欧盟AI监管达成“里程碑协议”直指ChatGPT和谷歌Bard据悉，该项法案旨在通过全面监管人工智能，为这一技术的开发和使用提供更好的条件，谈判同意对生成式人工智能工具（如OpenAI的ChatGPT和Google的Bard）实施一系列控制措施。欧盟委员ThierryBreton在X平台发文称：“《人工智能法案》（AIAct）不仅仅是一本规则手册，它还是欧盟初创企业和研究人员引领全球人工智能竞赛的跳板。”据相关报道，该立法草案仍需得到欧盟成员国和议会的正式批准，一旦双方正式批准，该立法预计将于明年初生效，并应在两年后实施，或将为全球范围内监管人工智能技术定下基调。矛头直指ChatGPT和GoogleBard根据官网介绍，欧洲议会推行AI监管的首要任务是确保欧盟使用的人工智能系统安全、透明、可追溯、非歧视和环境友好；人工智能系统应该由人而不是自动化来监督，以防止产生有害结果。因此，据称，该立法草案提出了一种平衡、适度的人工智能横向监管方法，仅限于解决人工智能相关风险和问题的最低必要要求，而不会过度限制或阻碍技术发展，或以其他方式不成比例地增加将人工智能解决方案投放市场的成本。具体来看，该草案的主要内容包含以下几点：采用基于风险占比的方法，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则。禁止某些违背欧盟价值观、特别有害的人工智能做法。这类做法包括：使用人工智能进行“社会评分”、操纵人类行为以规避其自由意志等。针对某些执法用途的远程生物识别系统提出了具体的限制和保障措施。比如，将禁止根据政治或宗教信仰、性取向或种族等敏感特征对人进行分类的生物识别扫描，媒体称这是谈判中最困难、最敏感的问题之一。规定了一种可靠的风险方法，以界定对人的健康和安全或基本权利构成重大风险的“高风险”人工智能系统。对于某些特定的人工智能系统，只提出了最低限度的透明度义务，特别是在使用聊天机器人或“深度伪造技术（deepfake）”时。值得注意的是，Breton表示，立法者同意采取两层办法，即“对所有通用人工智能模型（例如ChatGPT）提出透明度要求”，以及对整个欧盟“具有系统影响的强大模型提出更严格的要求”。知情人士也曾于12月8日向媒体透露，谈判代表已同意对OpenAI的ChatGPT和Google的Bard等能够根据命令生成内容的生成式人工智能工具进行一系列控制。也就是说，该草案直接要求ChatGPT和通用人工智能系统（GPAI）等基础模型在投放市场之前遵守透明度义务，其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。比如，具有系统性风险的高影响力AI模型必须进行模型评估，评估和减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件，确保网络安全并报告其能源效率；具有系统性风险的GPAI可能需要依靠实践守则来遵守新法规。在处罚规定方面，拟议的立法将对违反规定的公司处以经济处罚，罚款最高可达3500万欧元，或全球营业额的7%，具体取决于违规情况和公司规模。接下来，欧盟等还将就此草案讨论细节，这可能会改变最终立法的形式。法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。率先立法，欧洲领跑AI竞赛？该项草案如果成功立法，意味着欧盟将成为第一个制定人工智能法律的世界主要强国。Breton表示：“欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。”根据央视新闻报道，此前，欧盟方面一直希望推动《人工智能法案》尽早出台。2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。《人工智能法案》的出台也将为欧洲自身的AI技术发展带来便利。草案中提及：“鉴于技术变革的速度和可能面临的挑战，欧盟致力于努力采取一种平衡的方法。保持欧盟的技术领先地位，确保欧洲人能够从根据欧盟价值观、基本权利和原则开发和运行的新技术中受益，符合欧盟的利益。”反对的声音今年6月，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。OpenAI的Altman也此前曾批评欧盟监管AI技术的计划。此前起草的拟议法律暗示ChatGPT和大型语言模型GPT-4都可能被指定为高风险。Altman曾就此回应道：“如果我们能遵守，我们会，如果我们不能，我们将停止运营。我们需要试试，但可能存在技术限制。”草案达成协议的结果公布后，欧盟高级政策顾问EllaJakubowska表示：“欧盟首次采取措施使整个欧盟范围内的实时公共面部识别合法化，这很难让人感到兴奋。”“虽然议会努力限制损失，但生物识别监视和分析的整体方案充其量只是冷淡。”商业组织DigitalEurope的总干事CeciliaBonefeld-Dahl称：“我们达成了一项协议，但代价是什么？我们完全支持基于人工智能使用的基于风险的方法，而不是技术本身。”不过，该法案草案达成协议的背后，更重要的意义或许在于提供了监管AI技术的政策蓝图。欧盟执行机构欧盟委员会主席UrsulavonderLeyen表示：在该法案完全适用之前，我们将支持企业和开发商预见新规则。大约100家公司已经表示有兴趣加入我们的《人工智能法案》。风险提示及免责条款市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。...PC版：https://www.cnbeta.com.tw/articles/soft/1403321.htm手机版：https://m.cnbeta.com.tw/view/1403321.htm

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议该法将禁止人工智能技术的某些应用，对被认为是高风险的使用案例施加严格限制，并对最先进的软件模型进行约束，要求其承担透明度和压力测试的义务。欧盟是第一个为快速发展的人工智能技术制定具有约束力的规则的国家。尽管许多国家和国际俱乐部--从经合组织到七国集团--在过去几年里一直在思考如何监管人工智能，但大多数都停留在自愿性指南或实践守则上。当欧盟政策制定者在12月宣布他们已就《人工智能法》的内容达成最终妥协时，这一突破被誉为在OpenAI的ChatGPT和Google的Bard等无处不在的人工智能工具崛起之际，欧洲应该庆祝的开创性一步。但这一成果却引起了一些欧盟国家的不满。在过去几周里，该集团的头号经济体德国和法国以及奥地利都暗示，它们可能会在周五的投票中反对该文本。维也纳的不满在于数据保护条款，而巴黎和柏林则警告说，针对先进人工智能模型的规则将阻碍欧洲新晋人工智能冠军的发展，如法国的Mistral和德国的AlephAlpha。意大利（有时也是《人工智能法》的批评者）对其意图保持沉默，《人工智能法》的命运顿时成了问题，因为四个对立的国家足以让该法永远脱轨。法国经济部长布鲁诺-勒梅尔（BrunoLeMaire）内阁呼吁与欧洲议会进行新一轮谈判，以解决他所关切的问题。由于缺乏进一步谈判的时间，比利时理事会主席对这一前景感到震惊。更糟糕的是，欧洲议会本身也在处理由隐私问题鹰派议员斯文雅-哈恩（SvenjaHahn）引发的关于人工智能法案面部识别规则的争论。最终，通过欧盟惯用的公关攻势和外交手腕，问题得到了解决。欧盟委员会加大了压力，宣布了一揽子针对人工智能领域的重大创新措施，并一举成立了欧盟人工智能办公室--一个负责执行《人工智能法》的机构。两位参与谈判的人士透露，奥地利、法国和德国是在委员会将发表正式声明，就其关心的问题作出保证的承诺的诱惑下重返谈判桌的。 这些声明并非法律行为，但由于委员会将监督《人工智能法》的实施，它们将提供某种保证。德国数字部长沃尔克-维辛（VolkerWissing）是德国联合政府中最主要的《人工智能法》怀疑论者，他的发言人告诉媒体："我们要求欧盟委员会澄清，《人工智能法》不适用于医疗设备中的人工智能应用。"POLITICO在投票前在欧盟外交官中分发的一份欧盟委员会声明显示，计划成立一个由欧盟成员国当局组成的"专家组"。该小组的职能将是"建议并协助"欧盟委员会应用和实施《人工智能法》。特别是，专家组将协助欧盟委员会避免《人工智能法》与欧盟其他法规之间的重叠，包括《医疗器械法规》、《体外诊断设备法规》和《机械法规》。声明还责成人工智能办公室为高级"通用"人工智能模型的开发者提供"详细指导"，说明如何披露用于训练软件的受版权保护的资料摘要。声明还重申委员会致力于促进人工智能领域的创新，并在更新影响高级人工智能的某些文本时"确保建立一个灵活且面向未来的法律框架"。最后，声明允许成员国对面部识别、情感识别和生物识别分类等技术采取限制性更强的规则和保障措施。《人工智能法》仍需欧洲议会的正式批准。该文本将于两周后在委员会一级获得认可，预计将于四月进行全会表决。心怀不满的支持隐私权的立法者可能仍会试图通过提出修正案来阻碍法律的进展--如果修正案获得通过，还需要与理事会进行额外的谈判。但大多数在议会中参与《人工智能法》起草工作的人都相信，该法将在不做任何修改的情况下获得通过。...PC版：https://www.cnbeta.com.tw/articles/soft/1415867.htm手机版：https://m.cnbeta.com.tw/view/1415867.htm

联合国大会通过里程碑式决议，呼吁让人工智能给人类带来 “惠益”

联合国大会通过里程碑式决议，呼吁让人工智能给人类带来“惠益”联合国大会今天未经表决一致通过了一项具有里程碑意义的决议，呼吁抓住“安全、可靠和值得信赖的”人工智能系统带来的机遇，让人工智能给人类带来“惠益”，并以此促进可持续发展。大会强调，就本决议而言，“安全、可靠和值得信赖的人工智能系统”是指非军事领域的人工智能系统，必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。大会还促请所有会员国及其他利益攸关方“不要使用或停止使用无法按照国际人权法运作或对享受人权构成过度风险的人工智能系统，特别是对于那些处于弱势的人而言”。决议同样提出，“人们在线下享有的权利也必须在线上得到保护，包括在人工智能系统的整个生命周期内”。决议中文翻译（NewsFW）

美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议美国和英国签署了一项具有里程碑意义的人工智能协议，这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议，列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所(AISI)和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估OpenAI和谷歌等公司建立的私人人工智能模型。——