欧盟就全球首部AI监管法案达成临时协议 影响几何？

欧盟就全球首部AI监管法案达成临时协议影响几何？欧盟内部市场委员布雷东在社交媒体上表示：“欧盟成为第一个为人工智能使用设立明确规则的地区。《人工智能法案》不仅是一本规则手册，也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”按照目前临时协议中披露的内容，未来违反《人工智能法案》的公司可能面临高达其全球收入7%的罚款，具体取决于违规情况和违反规则的公司规模。据悉，此次通过的临时协议是为了确保能够在2024年5月欧洲议会选举前顺利通过这项立法。一旦通过，还将需要两年时间才能完全生效。这部《人工智能法案》会对人工智能模型的开发、人工智能初创企业造成何种影响？又将如何监管OpenAI的ChatGPT和谷歌的Bard等生成式人工智能工具？主要监管内容根据欧洲理事会的解释，此次法案的中心方法论是根据人工智能对社会造成危害的能力，遵循“基于风险”（risk-based）的方法来监管人工智能：风险越高，规则越严。欧盟方面希望，作为全球首个此类立法提案，该法案可以像《通用数据保护条例》（GDPR）一样为其他司法管辖区的人工智能监管制定全球标准，从而在世界舞台上推广欧洲的技术监管方式。2021年4月开始，欧盟方面就酝酿对人工智能行业的监管，提出《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。不过，在酝酿过程中由于ChatGPT的“横空出世”，欧盟方面对该法案提案进行了修改。第一财经记者看到，相比于以前的提案，此次临时协议的主要新内容包括：针对未来可能导致系统性风险的高影响力通用人工智能模型以及高风险人工智能系统的治理体系；一个修订过的管理体系，该体系在欧盟层面具有一定执行权；一份扩大了的禁止清单，但执法机构可以在遵守相关措施的同时，在公共场所使用远程生物识别技术；以及在人工智能系统投入使用之前，高风险人工智能系统的部署者有义务接受基本权利影响评估，从而更好地保护公民相关权利。同时，按照“风险越高，规则越严”的原则，该临时协议规定，仅呈现出有限风险的人工智能系统将受到非常轻微的透明度义务的约束，例如披露内容是人工智能生成的，以便用户可以就进一步使用作出明智的决定。各种高风险人工智能系统将获得授权，但要遵守一系列要求和义务才能进入欧盟市场。不过，对于人工智能的某些用途，欧盟方面认为，其风险是不可接受的，因此，这些系统将被欧盟禁止。欧盟方面给出了详细说明。例如，此次达成的临时协议禁止认知行为操纵、从互联网或闭路电视录像中无目的地抓取面部图像、在工作场所和教育机构中实施情绪识别、社会评分、用于推断敏感数据的生物识别分类，以及一些针对个人的预测性警务案例等。值得注意的是，临时协议纳入了对人工智能基础模型的限制，但对开源模型给予了广泛的豁免。开源模型是使用开发人员可以免费使用的代码开发的，可以根据自己的产品和工具进行修改。此举可能有利于游说反对该法律的欧洲开源人工智能公司，包括法国的Mistral和德国的AlephAlpha等。然而，一些被归类为具有“系统性风险”的专有模型将受到额外义务的约束，不过欧洲委员会没有在声明中具体说明什么标准会触发更严格要求。立法跑赢美国观察人士认为，欧洲此次制定法律进一步巩固了在科技监管方面的地位。该法案主要发起者之一、欧洲议会议员图多拉奇（DragosTudorache）表示，自起草立法的早期阶段以来，《人工智能法案》的制定者就“仔细考虑”了对世界各国政府的影响。他说，他经常听到其他立法者在开始起草自己的人工智能法案时正在研究欧盟的做法。“这项立法将代表许多其他司法管辖区的标准、模式。”他说，“这意味着我们在起草它时必须承担额外的谨慎义务，因为它将对许多其他司法管辖区产生影响。”实际上，在美国国会多年无所作为之后，欧盟的各项科技法案对美国硅谷公司产生了广泛的影响。譬如，欧洲的GDPR迫使微软等一些公司彻底改革他们处理欧洲境外用户数据的方式。然而，有人担心欧盟频繁制定在科技方面的法律，令在欧洲地区的合规措施成本高昂，阻碍了小企业的发展。与此同时，经过数月针对人工智能技术的听证会和论坛后，美国国会仍处于制定有关人工智能的两党立法的早期阶段。有国际贸易法领域资深专家对第一财经记者表示，拜登政府上台之初就表示要“整顿”科技行业，结果“板子高高举起轻轻落下”，第一任期都快结束了，既没有真正反垄断，也没有搞规则监管立法，这也体现了拜登政府的一种态度。在此情况之下，欧洲人工智能界的担忧更为强烈，有不少人士都发声表示，新立法可能会阻碍技术创新，从而为人工智能研究和开发已经更加先进的美国和英国带来进一步优势。“有一些创新将不再有可能性，或在经济上不再可行。”德国人工智能发展促进中AppliedAIInitiative董事总经理利布尔（AndreasLiebl）表示：“它（人工智能法案）只会让你在全球竞争中放慢脚步。”此前，欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（TheosEvgeniou）在接受第一财经记者采访时表示，GDPR确实导致小公司成本高昂。这些公司大多是欧洲科技公司。它最终帮助了美国的大公司。“从某种意义上说，这与欧洲想要做的事情恰恰相反。”埃夫根尼奥说，但监管本身是一个不断学习的过程，其目标不是为了监管而监管，监管和创新都是为了更好地造福世界。...PC版：https://www.cnbeta.com.tw/articles/soft/1403411.htm手机版：https://m.cnbeta.com.tw/view/1403411.htm

专家警告欧盟人工智能监管法案或严重打击开源工作的积极性

专家警告欧盟人工智能监管法案或严重打击开源工作的积极性针对欧盟拟议的开源人工智能监管新政，无党派智囊团Brookings已于近日表达了明确的反对意见。其在文章中指出——新规强加给通用人工智能系统的法律责任，也将对该领域的技术发展造成严重的破坏。根据欧盟的“人工智能法案”草案，开源开发者也必须遵守风险管理、数据治理、技术文档和透明度、以及准确性和网络安全标准等方面的指导方针。截图（来自：Brookings）布鲁金斯学会分析师AlexEngler断言，若一家公司部署了一套导致某些灾难性后果的开源人工智能系统，那该公司将可通过起诉构建该产品的开源开发人员来试图转移责任，而这样的后果是不堪想象的。这么做或进一步导致未来AI权利被集中到大型科技企业的手中，并对公众想要深入的至关重要的AI研究造成阻碍。最终欧盟对开源领域的监管尝试，可能只会产生一系列危及开源AI贡献者的复杂要求、而无法改进通用AI的使用。2021年的时候，欧盟委员会公示了旨在促进可信赖人工智能的监管草案（AIAct），以期在今秋投票之前广泛征集各行业的意见。尽管该机构原本想要尝试在技术创新与问责之间加以平衡，但据一些专家所述——纸面上的规定，对AI系统的开发工作提出了相当繁重的要求。据悉，该法案包含了对某些类别的开源AI的例外情况，比如专用于研究和控制以防止滥用的那些。但正如AlexEngler所指出的那样，想要无死角封堵这些项目进入商业系统是相当困难的，因为它们很可能被恶意行为者滥用。以“StableDiffusion”这款开源文本转图像AI系统为例，尽管其在发布许可中禁止了某些类型的内容，但社区中还是很快冒出了利用此类工具来实施“深度色情伪造”的案例。艾伦人工智能研究所（AllenInstituteforAI）创始人兼首席执行官OrenEtzioni也赞同了这一观点，即当前人工智能监管草案存在多方面的问题。规则带来的沉重负担，或对开源文本生成系统等开发等领域产生寒蝉效应。毕竟单打独斗的开发人员，很难赶上Google和Meta之类科技巨头的水平。欧盟不曾想到这一点——通向监管地狱的道路，竟是该机构在善意驱使下铺就的。尽管对于开源开发者来说，他们本不该承受与商业软件开发商同等的负担。以学生开发者为例，他们可能出于无力遵守欧盟AIAct的考虑，而被迫选择不分发其辛苦打造的软件，结果对科研成果和学术进步都造成了可重复性的寒蝉效应。有鉴于此，Etzioni认为欧盟监管机构不应寻求广泛监管的人工智能技术、而应专注于AI的特定应用。理由是AI存在快速变化和太多的不确定性，以至于迟缓的监管过程无法发挥作用。相比之下，自动驾驶汽车、机器人或玩具等AI应用，更应成为被监管的对象。PC版：https://www.cnbeta.com/articles/soft/1313583.htm手机版：https://m.cnbeta.com/view/1313583.htm

欧盟《AI法案》还热乎着 法国马克龙却希望制定“更优法案”

欧盟《AI法案》还热乎着法国马克龙却希望制定“更优法案”法国一直在寻求将自己定位为欧洲人工智能发展的中心。周三（6月14日），法国高层政界人士称，他们认为全球人工智能监管将在今年年底开始。全球监管法国总统马克龙、财政部长布鲁诺·勒梅尔（BrunoLeMaire）和数字转型和电信部长让-诺埃尔·巴罗特（Jean-NoelBarrot）周三在巴黎举行的VivaTech会议上称，希望对人工智能进行全球监管。马克龙在活动间隙称，“我认为我们确实需要一个规则，让全球所有参与国家都同意这一点。我认为我们需要一个全球性的监管。”马克龙表示，七国集团（G7）和经济合作与发展组织（OECD）将是发展全球监管的“良好平台”。今年早些时候，七国集团数字与技术部长会议的参会者同意对AI采取“基于风险”的监管。巴罗特表示，希望到今年年底，关于监管AI的一些核心原则将开始出现。欧盟AI法案在法国呼吁全球人工智能监管之际，欧盟即将通过一项前所未有的法律——《欧盟人工智能法案（EUAIAct）》。就在周三，欧洲议会批准了这项具有里程碑意义的法律，按照立法议程，接下来将正式进入与欧洲理事会和欧盟委员会进行协商的程序，以确定最终版本的法案。最新的法律修正案包括对所谓的生成式人工智能（AIGC）采取更强硬的立场。该法规规定，AIGC开发者在商业发布之前必须提交他们的系统进行审查。一直以来对AI监管持支持立场的法国这次却对欧盟这项法律表示担忧。巴罗特在谈到这项规定时称，“我担心的是，最近几周，欧盟议会……对人工智能监管采取了非常强硬的立场，在某种意义上，想要利用这种法案一次性解决太多问题。”巴罗特指出，“我们想要的是一项既能为用户提供保护……又能建立信任的监管，但也要有足够的灵活性，以便在未来几周、几个月在法国和欧洲发展。”即使欧盟层面的法律仍在通过立法程序持续推进，法国还是希望自身能推动一项全球范围内的法规。财政部长勒梅尔表示，“竞争总是一件好事。”马克龙也表示，希望与别国合作制定出一项关于AI监管的最佳方案，“我们希望确保这是安全的、公正的……我们拥有的语言模型没有偏见，并且社会中的一些禁忌是能被禁止的。所以我们需要一些规则。”马克龙还表示，如果你正在观看由AI制作的视频或照片，用户有权知道它们的出处。...PC版：https://www.cnbeta.com.tw/articles/soft/1365393.htm手机版：https://m.cnbeta.com.tw/view/1365393.htm

欧盟就《人工智能法案》谈判22小时未果 周五继续

欧盟就《人工智能法案》谈判22小时未果周五继续欧盟各方代表就具有里程碑意义的人工智能监管法案《人工智能法案》长谈22小时，但仍未达成一致。会议宣布中止，并于新加坡时间星期五（12月8日）下午4时继续进行。综合外电报道，来自欧盟委员会、欧洲议会和27个成员国的代表于当地时间星期三（6日）下午开会并达成折衷方案，希望最终能就《人工智能法案》（AIAct）达成协议。在历经22小时的讨论后，欧盟执委会内部市场执委布雷顿（ThierryBreton）星期四（7日）在社媒平台X上发文说，尽管会议取得了很多进展，在一些关键问题上仍未达成共识；会议将于新加坡时间星期五下午4时继续进行。《人工智能法案》草案于两年前提出后，欧盟各国和立法者一直在努力敲定草案的各种细节，而AI技术发展迅猛，各国难以追赶其步伐，迟迟无法就这项具有开创性意义的监管法案达成一致。根据路透社看到的一份外泄妥协提案，《人工智能法案》可能会免除对开源模型的严格监管，除非相关模型被视为高风险，或被用于已遭禁止的目的。对欧盟来说，《人工智能法案》意义重大。鉴于美国尚未对高速发展的AI技术采取任何有意义的行动，《人工智能法案》若能出台，将为发达国家对生成式AI工具的监管定下基调。该法案也将使欧盟成为亚洲以外第一个对该技术设置严格限制的政府。2023年12月7日9:29PM

欧盟 AI 法案即将生效，杨立昆等 AI 科学家反对欧盟 AI 法案

欧盟AI法案即将生效，杨立昆等AI科学家反对欧盟AI法案在欧盟放行了全球首部人工智能法案后，有科技界领袖对此表达担忧，认为人工智能的风险夸大了。在上周举行的巴黎VivaTech大会期间，科技巨头Meta人工智能负责人杨立昆（YannLeCun）公开表示，欧盟新法案面临的一个“大问题”是“人工智能的研究和开发是否应该受到监管”。杨立昆表示，欧盟人工智能法案和其他各个地方都有规范研究和开发的条款，但他认为这不是一个好主意，理由是他并不认为人工智能会很快超越人类智能。“坦率地说，我不相信AI有任何与人接近的地方。”杨立昆表示，“我认为它目前没有那么危险。”不过他承认，未来人工智能系统可能会变得更加智能，届时需要对它们的设计采取适当的保障措施。百度CEO李彦宏也在VivaTech期间表示，AGI的实现还需要超过十年的时间。他表示：“我们希望人工智能像人类一样聪明，但当今最强大的模型远未达到这一程度。”（第一财经）

欧盟AI法案即将生效 杨立昆等AI科学家表示反对

欧盟AI法案即将生效杨立昆等AI科学家表示反对AGI何时实现,业内分歧较大杨立昆表示，欧盟人工智能法案和其他各个地方都有规范研究和开发的条款，但他认为这不是一个好主意，理由是他并不认为人工智能会很快超越人类智能。“坦率地说，我不相信AI有任何与人接近的地方。”杨立昆表示，“我认为它目前没有那么危险。”不过他承认，未来人工智能系统可能会变得更加智能，届时需要对它们的设计采取适当的保障措施。百度CEO李彦宏也在VivaTech期间表示，AGI的实现还需要超过十年的时间。他表示：“我们希望人工智能像人类一样聪明，但当今最强大的模型远未达到这一程度。”李彦宏呼吁加快人工智能的发展步伐。“我担心的是人工智能技术进步得不够快。每个人都对过去几年技术发展的速度感到震惊。但对我来说还是不够快。”他表示。以特斯拉CEO马斯克为代表的科技人士强调人工智能的风险，马斯克在XSpace的访谈中预测，到明年或2026年，人工智能的智慧可能会超过世界上最聪明的人类，也就是通用人工智能（AGI）的实现。ChatGPT的开发商OpenAI的CEO奥尔特曼（SamAltman）在今年早些时候预测，AGI可能会在“相当近的未来”开发出来。对于人工智能安全性风险的分歧在OpenAI的“内斗”中已经暴露出来。OpenAI在宣布向公众免费提供迄今为止最强大的人工智能模型GPT-4o后，该公司前首席科学家苏茨克维尔（IlyaSutskever）宣布辞职，“超级对齐”团队解散。这也引发了谁来为AI负责的讨论。现任清华大学国强教授、智能产业研究院首席研究员聂再清对第一财经记者表示：“Ilya对大模型技术的理解非常深刻，他的离职和对齐团队的解散短期内对OpenAI大模型技术的发展和安全可控可能会有一些影响。OpenAI应该还会继续大力投入到安全和对齐相关的工作上，确保大模型长期安全可控，在各种边界情况下都表现良好。”他认为，作为大的科技企业，可以通过团队的协同，在“对齐”这个方向上做更好的长期规划和资源共享及调配。创新与监管如何平衡欧盟一直走在人工智能监管的最前沿。上周，欧盟委员会批准了《人工智能法案》，这项法案是全球首创，将为人工智能监管制定全球标准。该立法遵循“基于风险”的方法，旨在促进私人和公共参与者在欧盟市场上开发和采用安全、值得信赖的人工智能系统。法案规定，提供公共服务的实体部署高风险人工智能系统之前，需要评估其基本权利影响。这也意味着AI对社会造成伤害的风险越高，监管的规则就越严格。该法案也涉及通用人工智能大模型（GPAI）的使用。根据法案，不构成系统性风险的GPAI模型将受到一些有限的要求，例如透明度方面的要求，但那些存在系统性风险的模型将必须遵守更严格的规则。一些企业和行业组织已经明确对欧盟的AI法案提出反对，认为这不利于欧洲打造人工智能高地。欧洲科技行业组织DigitalEurope此前在一份声明中称：“这意味着我们需要投入更多来研究对抗人工智能使用风险的方法，而不是投入技术本身，新的监管规则将要求公司投入大量资源来遵守，把资源花在律师身上，而不是雇佣人工智能工程师。”Meta欧盟事务主管MarcoPancini也表示：“最重要的是，我们不应该忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力，而开放是关键。”亚马逊首席技术官沃纳·沃格尔斯(WernerVogels)也在VivaTech期间表达了对人工智能监管可能会扼杀某些领域创新的担忧。他表示，在考虑风险时，监管机构应该考虑将新技术应用于医疗保健和金融服务。“我认为AI在很多领域应用的风险很小，我们应该让创新在这些领域发挥作用。在其他领域，AI犯的错误可能对人们的生活产生更大的影响，应该针对这些特定领域进行特别的风险管理。”沃格尔斯表示。他还强调，亚马逊欢迎监管，并与监管机构的总体目标保持一致，但警告欧盟不要过度监管人工智能。对此，欧盟委员会表示，该法案的推出目标是“刺激欧洲人工智能的投资和创新”。“这项具有里程碑意义的法案是世界上第一部AI法案，它解决了全球技术挑战，也为我们的社会和经济创造了机会。通过人工智能法案，欧洲强调在处理新技术时信任、透明度和问责制的重要性，同时确保这种快速变化的技术能够蓬勃发展并促进欧洲创新。”欧盟在一份声明中称。欧盟表示，该立法法案经欧洲议会通过后，将在未来几天内在欧盟官方公报上发布，并在发布后二十天生效，新法案将在生效两年后对企业正式产生影响。不遵守规则的公司将面临3500万欧元或等同于全球收入7%的罚款（二选一）。...PC版：https://www.cnbeta.com.tw/articles/soft/1432513.htm手机版：https://m.cnbeta.com.tw/view/1432513.htm