欧盟国家就具有里程碑意义的《人工智能法》立法达成协议

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议 该法将禁止人工智能技术的某些应用，对被认为是高风险的使用案例施加严格限制，并对最先进的软件模型进行约束，要求其承担透明度和压力测试的义务。欧盟是第一个为快速发展的人工智能技术制定具有约束力的规则的国家。尽管许多国家和国际俱乐部从经合组织到七国集团在过去几年里一直在思考如何监管人工智能，但大多数都停留在自愿性指南或实践守则上。当欧盟政策制定者在12月宣布他们已就《人工智能法》的内容达成最终妥协时，这一突破被誉为在 OpenAI 的 ChatGPT 和Google的 Bard 等无处不在的人工智能工具崛起之际，欧洲应该庆祝的开创性一步。但这一成果却引起了一些欧盟国家的不满。在过去几周里，该集团的头号经济体德国和法国以及奥地利都暗示，它们可能会在周五的投票中反对该文本。维也纳的不满在于数据保护条款，而巴黎和柏林则警告说，针对先进人工智能模型的规则将阻碍欧洲新晋人工智能冠军的发展，如法国的 Mistral 和德国的 Aleph Alpha。意大利（有时也是《人工智能法》 的批评者 ）对其意图保持沉默，《人工智能法》的命运顿时成了问题，因为四个对立的国家足以让该法永远脱轨。法国经济部长布鲁诺-勒梅尔（Bruno Le Maire）内阁呼吁与欧洲议会进行新一轮谈判，以解决他所关切的问题。由于缺乏进一步谈判的时间，比利时理事会主席对这一前景感到震惊。更糟糕的是，欧洲议会本身也在处理由隐私问题鹰派议员斯文雅-哈恩（Svenja Hahn）引发的关于人工智能法案面部识别规则的争论。最终，通过欧盟惯用的公关攻势和外交手腕，问题得到了解决。欧盟委员会加大了压力，宣布了一揽子针对人工智能领域的重大创新措施，并一举成立了欧盟人工智能办公室一个负责执行《人工智能法》的机构。两位参与谈判的人士透露，奥地利、法国和德国是在委员会将发表正式声明，就其关心的问题作出保证的承诺的诱惑下重返谈判桌的。  这些声明并非法律行为，但由于委员会将监督《人工智能法》的实施，它们将提供某种保证。德国数字部长沃尔克-维辛（Volker Wissing）是德国联合政府中最主要的《人工智能法》怀疑论者，他的发言人告诉媒体："我们要求欧盟委员会澄清，《人工智能法》不适用于医疗设备中的人工智能应用。"POLITICO 在投票前在欧盟外交官中分发的一份欧盟委员会声明显示，计划成立一个由欧盟成员国当局组成的"专家组"。该小组的职能将是"建议并协助"欧盟委员会应用和实施《人工智能法》。特别是，专家组将协助欧盟委员会避免《人工智能法》与欧盟其他法规之间的重叠，包括《医疗器械法规》、《体外诊断设备法规》和《机械法规》。声明还责成人工智能办公室为高级"通用"人工智能模型的开发者提供"详细指导"，说明如何披露用于训练软件的受版权保护的资料摘要。声明还重申委员会致力于促进人工智能领域的创新，并在更新影响高级人工智能的某些文本时"确保建立一个灵活且面向未来的法律框架"。最后，声明允许成员国对面部识别、情感识别和生物识别分类等技术采取限制性更强的规则和保障措施。《人工智能法》仍需欧洲议会的正式批准。该文本将于两周后在委员会一级获得认可，预计将于四月进行全会表决。心怀不满的支持隐私权的立法者可能仍会试图通过提出修正案来阻碍法律的进展如果修正案获得通过，还需要与理事会进行额外的谈判。 但大多数在议会中参与《人工智能法》起草工作的人都相信，该法将在不做任何修改的情况下获得通过。 ... PC版： 手机版：

《人工智能法》在欧盟《官方公报》刊宪 法律生效进入倒计时

《人工智能法》在欧盟《官方公报》刊宪 法律生效进入倒计时 不过，该法律采取了分阶段实施欧盟人工智能规则手册的方法，这意味着从现在到那时会有各种值得注意的截止日期，有些甚至更晚，因为不同的法律条款将开始适用。去年 12 月，欧盟立法者就该集团首份全面的人工智能规则手册达成了政治协议。该框架根据使用情况和可感知的风险，为人工智能开发者规定了不同的义务。大部分人工智能用途将不受监管，因为它们被认为是低风险的，但法律禁止少数潜在的人工智能用例。法律允许所谓的"高风险"用例如人工智能的生物识别用途，或用于执法、就业、教育和关键基础设施的人工智能但此类应用程序的开发者在数据质量和反偏见等方面面临义务。第三级风险还对人工智能聊天机器人等工具的制造商提出了一些较宽松的透明度要求。对于通用人工智能（GPAI）模型的开发商，如 OpenAI 的 GPT（ChatGPT 的基础技术），也有一些透明度要求。最强大的 GPAI 通常根据计算阈值设定，也可能被要求进行系统性风险评估。 在少数成员国政府的支持下，人工智能行业的一些成员进行了大量游说，试图淡化 GPAI 的义务，因为他们担心该法律可能会阻碍欧洲生产本土人工智能巨头的能力，从而无法与美国和中国的竞争对手竞争。 禁止使用人工智能的清单将在法律生效六个月后（即 2025 年初）适用。被禁止（或"不可接受的风险"）的人工智能使用案例包括"中国式的社会信用评分"；通过对互联网或摄像头进行无针对性的数据采集来编制人脸识别数据库；执法部门在公共场所使用实时远程生物识别技术，除非存在几种例外情况之一，如在搜寻失踪或被绑架人员时。接下来，在该法生效九个月后，即 2025 年 4 月左右，将对范围内的人工智能应用程序开发者适用实践准则。欧盟人工智能办公室是依法成立的生态系统建设和监督机构，负责提供这些准则。但究竟由谁来编写这些准则仍是个问题。据Euractiv本月早些时候的一篇报道称，欧盟一直在寻找咨询公司来起草这些准则，这引发了民间社会的担忧，认为人工智能行业的参与者将能够影响适用于他们的规则的形式。最近，MLex 报道称，在欧洲议会议员施加压力，要求让这一过程具有包容性之后，人工智能办公室将发起意向征集，挑选利益相关者起草通用人工智能模型的实践准则。另一个关键的截止日期是法律生效 12 个月后，即 2025 年 8 月 1 日，届时法律中关于必须遵守透明度要求的通用人工智能模型的规则将开始适用。一部分高风险的人工智能系统获得了最宽松的合规期限，在法律生效后的 36 个月内，也就是到 2027 年，它们可以履行自己的义务。其他高风险系统则必须在 24 个月后更早地履行义务。 ... PC版： 手机版：

欧盟《人工智能法》在议会全体投票前获得委员会支持

欧盟《人工智能法》在议会全体投票前获得委员会支持 欧盟《人工智能法案》最初由欧盟委员会于2021 年 4 月提出，它根据人工智能模型的能力和/或打算应用人工智能的目的，为人工智能开发者制定了相关规则。该法案包括一份禁止使用人工智能的清单（如社会评分），以及针对一组定义的高风险用途（如教育、医疗或就业）的规则，如数据质量、测试和风险评估等领域的义务。此外，它还对通用人工智能以及深度伪造和人工智能聊天机器人等工具提出了一些透明度要求。除此之外，大多数人工智能应用程序将被视为"低风险"这意味着它们不属于法律管辖范围。该计划还规定在国家层面建立监管沙盒，使开发者能够在受监督的"真实世界"环境中开发、训练和测试有风险的应用程序。欧盟委员会三年前提出人工智能规则手册提案时并没有引起多大轰动。但随着过去一年生成式人工智能的兴起，该计划已成为全球瞩目的焦点，并在欧盟立法者之间造成了巨大的分歧。欧洲议会议员提出修改提案，以确保其适用于功能强大的通用人工智能，而以法国为首的少数几个成员国则一直在向反对的方向推进寻求为高级人工智能划出监管范围，希望借此占据先行优势。12 月举行的马拉松式三方会谈达成了一个妥协文本，其中仍包括一些关于通用人工智能的条款，这导致一些国家政府的反对意见挥之不去。直到上个月，这些分歧似乎仍有可能阻碍法案的通过。但随着本月早些时候成员国对妥协文本的关键性投票获得通过，该集团看来几乎肯定会在几个月后通过其人工智能规则手册。尽管如此，该法律草案在通过之前仍有一些障碍需要克服：未来几周，议会将举行全体会议表决，要求欧洲议会议员正式通过该草案。之后将由理事会最终批准。最后几个步骤似乎不太可能导致欧盟共同立法者之间发生任何冲突。随着议会选举的临近和现任议会任期的结束，任何此类举动都将对当前周期内的法案造成破坏，这意味着立法时间和声誉上的回旋余地都很紧张。两个议会委员会多年来一直参与立法提案的详细审查工作，今天的充分支持也发出了一个强烈的信号，即欧洲议会议员将以绝对多数支持立法提案这将为法律在今年晚些时候获得通过并生效铺平道路。首批条款（禁止违禁行为）将在 6 个月后（因此很可能在今年下半年）生效。欧盟决定分阶段推出该法案，在 2024 年至 2027 年期间，可能会对范围内的开发商提出更高的法律要求。(欧盟还允许在法案生效 9 个月后适用实践准则；在法案生效 12 个月后适用包括治理在内的通用人工智能规则）。欧盟还表示，该法律将在生效 24 个月后完全适用尽管针对高风险系统的义务仍有更长的适用时限（36 个月））。虽然议会全会投票似乎有可能通过，但仍有一些反对意见。例如，海盗党（Pirate Party）拒绝支持该党的欧洲议会议员，他们在今天的委员会投票中占了反对票数的几席，议员称之为"有缺陷的"法律。同时也是 IMCO 委员会成员的海盗党欧洲议会议员马塞尔-科拉亚（Marcel Kolaja）在一份声明中评论说："不幸的是，尽管欧洲议会立场坚定，但各国政府还是设法削弱了《人工智能法》。因此，海盗党无法支持该法案"。在另一份声明中，海盗党欧洲议会议员、LIBE 委员会成员帕特里克-布雷耶（Patrick Breyer）也发出了警告："欧盟的《人工智能法案》为永久性实时面部监控打开了大门：超过 6000 人因《人工智能法》中列出的罪行而受到欧洲逮捕令的通缉。欧洲的任何公共场所都可以基于这些理由被置于永久性的大规模生物识别监控之下。这项法律使不信任文化合法化和正常化。它将欧洲带入一个充满不信任的高科技监控国家的乌托邦式未来"。 ... PC版： 手机版：

美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议 美国和英国签署了一项具有里程碑意义的人工智能协议，这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议，列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所 (AISI) 和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估 OpenAI 和谷歌等公司建立的私人人工智能模型。

【欧盟27国代表一致支持《人工智能法案》文本】

【欧盟27国代表一致支持《人工智能法案》文本】 2月3日消息，据新华社报道，欧盟27国代表投票一致支持《人工智能法案》文本，标志欧盟向立法监管人工智能迈出重要一步。欧盟内部市场委员蒂埃里·布雷东在社交媒体上发文说，27国一致支持这一法案，说明它们认可“谈判者在创新与安全之间找到了完美平衡”。 欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。去年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。此后，包括法国、德国在内的一些国家对法案文本表达异议，担忧法案对先进人工智能模型的严格监管将阻碍欧洲人工智能的发展。为了解决这些担忧，欧盟委员会在人工智能领域推出多项支持创新的措施，建立新的监管机构“人工智能办公室”负责该法案的实施。 《人工智能法案》仍需要提交欧洲议会批准。如果获得批准，相关规则将分阶段实施，其中一些禁止性规则将在该法律通过六个月后生效，与通用人工智能模型相关的某些规则将从2025年起适用。 快讯/广告 联系 @xingkong888885

欧盟27国代表一致支持《人工智能法案》文本

欧盟27国代表一致支持《人工智能法案》文本 欧盟27国代表星期五（2月2日）投票一致支持《人工智能法案》文本，标志欧盟向立法监管人工智能迈出重要一步。 新华社报道，欧盟内部市场委员布雷东（Thierry Breton）在社媒平台X发文说，27国一致支持这一法案，说明它们认可“谈判者在创新与安全之间找到了完美平衡”。 欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。2023年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。 此后，包括法国、德国在内的一些国家对法案文本表达异议，担忧法案对先进人工智能（AI）模型的严格监管将阻碍欧洲人工智能的发展。为了解决这些担忧，欧盟委员会在人工智能领域推出多项支持创新的措施，建立新的监管机构“人工智能办公室”负责该法案的实施。 《人工智能法案》仍需要提交欧洲议会批准。如果获得批准，相关规则将分阶段实施，其中一些禁止性规则将在该法律通过六个月后生效，与通用人工智能模型相关的某些规则将从2025年起适用。 2024年2月3日 12:02 PM