欧盟 AI 法案即将生效，杨立昆等 AI 科学家反对欧盟 AI 法案

欧盟AI法案即将生效，杨立昆等AI科学家反对欧盟AI法案在欧盟放行了全球首部人工智能法案后，有科技界领袖对此表达担忧，认为人工智能的风险夸大了。在上周举行的巴黎VivaTech大会期间，科技巨头Meta人工智能负责人杨立昆（YannLeCun）公开表示，欧盟新法案面临的一个“大问题”是“人工智能的研究和开发是否应该受到监管”。杨立昆表示，欧盟人工智能法案和其他各个地方都有规范研究和开发的条款，但他认为这不是一个好主意，理由是他并不认为人工智能会很快超越人类智能。“坦率地说，我不相信AI有任何与人接近的地方。”杨立昆表示，“我认为它目前没有那么危险。”不过他承认，未来人工智能系统可能会变得更加智能，届时需要对它们的设计采取适当的保障措施。百度CEO李彦宏也在VivaTech期间表示，AGI的实现还需要超过十年的时间。他表示：“我们希望人工智能像人类一样聪明，但当今最强大的模型远未达到这一程度。”（第一财经）

多家欧洲企业签署公开信，批评欧盟 AI 法案草案限制产业发展

多家欧洲企业签署公开信，批评欧盟AI法案草案限制产业发展欧洲议会在6月14日通过了人工智能法案草案，这是欧美第一个全面性的AI法规，以确保能够可控监管欧洲公司推出的AI模型。但包括德国西门子、法国空中客车、法国育碧、德国银行等超过150名欧洲企业高管日前签署公开信，反对该方案草案，表示该草案限制了相关产业及技术的进步空间。公开信中声称，人工智能法案草案不仅会危及欧洲企业竞争力，实际上也无法有效解决欧洲所面临的种种技术挑战。该法案草案严格监管了模型的训练数据来源、相应能力、输出结果，并要求任何模型在欧盟区域上市前，都需要向欧盟数据库进行验证，因此开发这些基础人工智能系统的公司将面临不成比例的合规成本和责任风险，这可能会鼓励人工智能提供商完全退出欧洲市场。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

Meta首席科学家杨立昆：没有偏见的AI“绝对不可能”

Meta首席科学家杨立昆：没有偏见的AI“绝对不可能”杨立昆认为，不可能创建一个没有偏见的人工智能系统，因为偏见是主观的，并且因人而异。他建议解决方案是拥有多样化的人工智能系统。杨立昆说：“是否有可能产生一个没有偏见的人工智能系统？答案是，绝对不可能。这并不是因为技术挑战，尽管它们确实是技术挑战，但这是因为偏见是因人而异的。”他接着说，“不同的人可能对很多事情的偏见有不同的看法，有些事实是不争的，但有很多观点或事情可以用不同的方式表达。所以你不可能有一个公正的系统，这是不可能的。”杨立昆强调了开源AI系统的重要性，指出未来人类与数字世界的互动将由AI来调解。他警告说，不能让美国西海岸的几家公司在未来控制所有AI系统，并强调AI开发需要多样性。...PC版：https://www.cnbeta.com.tw/articles/soft/1423501.htm手机版：https://m.cnbeta.com.tw/view/1423501.htm

欧盟《AI法案》还热乎着 法国马克龙却希望制定“更优法案”

欧盟《AI法案》还热乎着法国马克龙却希望制定“更优法案”法国一直在寻求将自己定位为欧洲人工智能发展的中心。周三（6月14日），法国高层政界人士称，他们认为全球人工智能监管将在今年年底开始。全球监管法国总统马克龙、财政部长布鲁诺·勒梅尔（BrunoLeMaire）和数字转型和电信部长让-诺埃尔·巴罗特（Jean-NoelBarrot）周三在巴黎举行的VivaTech会议上称，希望对人工智能进行全球监管。马克龙在活动间隙称，“我认为我们确实需要一个规则，让全球所有参与国家都同意这一点。我认为我们需要一个全球性的监管。”马克龙表示，七国集团（G7）和经济合作与发展组织（OECD）将是发展全球监管的“良好平台”。今年早些时候，七国集团数字与技术部长会议的参会者同意对AI采取“基于风险”的监管。巴罗特表示，希望到今年年底，关于监管AI的一些核心原则将开始出现。欧盟AI法案在法国呼吁全球人工智能监管之际，欧盟即将通过一项前所未有的法律——《欧盟人工智能法案（EUAIAct）》。就在周三，欧洲议会批准了这项具有里程碑意义的法律，按照立法议程，接下来将正式进入与欧洲理事会和欧盟委员会进行协商的程序，以确定最终版本的法案。最新的法律修正案包括对所谓的生成式人工智能（AIGC）采取更强硬的立场。该法规规定，AIGC开发者在商业发布之前必须提交他们的系统进行审查。一直以来对AI监管持支持立场的法国这次却对欧盟这项法律表示担忧。巴罗特在谈到这项规定时称，“我担心的是，最近几周，欧盟议会……对人工智能监管采取了非常强硬的立场，在某种意义上，想要利用这种法案一次性解决太多问题。”巴罗特指出，“我们想要的是一项既能为用户提供保护……又能建立信任的监管，但也要有足够的灵活性，以便在未来几周、几个月在法国和欧洲发展。”即使欧盟层面的法律仍在通过立法程序持续推进，法国还是希望自身能推动一项全球范围内的法规。财政部长勒梅尔表示，“竞争总是一件好事。”马克龙也表示，希望与别国合作制定出一项关于AI监管的最佳方案，“我们希望确保这是安全的、公正的……我们拥有的语言模型没有偏见，并且社会中的一些禁忌是能被禁止的。所以我们需要一些规则。”马克龙还表示，如果你正在观看由AI制作的视频或照片，用户有权知道它们的出处。...PC版：https://www.cnbeta.com.tw/articles/soft/1365393.htm手机版：https://m.cnbeta.com.tw/view/1365393.htm

欧盟就全球首部AI监管法案达成临时协议 影响几何？

欧盟就全球首部AI监管法案达成临时协议影响几何？欧盟内部市场委员布雷东在社交媒体上表示：“欧盟成为第一个为人工智能使用设立明确规则的地区。《人工智能法案》不仅是一本规则手册，也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”按照目前临时协议中披露的内容，未来违反《人工智能法案》的公司可能面临高达其全球收入7%的罚款，具体取决于违规情况和违反规则的公司规模。据悉，此次通过的临时协议是为了确保能够在2024年5月欧洲议会选举前顺利通过这项立法。一旦通过，还将需要两年时间才能完全生效。这部《人工智能法案》会对人工智能模型的开发、人工智能初创企业造成何种影响？又将如何监管OpenAI的ChatGPT和谷歌的Bard等生成式人工智能工具？主要监管内容根据欧洲理事会的解释，此次法案的中心方法论是根据人工智能对社会造成危害的能力，遵循“基于风险”（risk-based）的方法来监管人工智能：风险越高，规则越严。欧盟方面希望，作为全球首个此类立法提案，该法案可以像《通用数据保护条例》（GDPR）一样为其他司法管辖区的人工智能监管制定全球标准，从而在世界舞台上推广欧洲的技术监管方式。2021年4月开始，欧盟方面就酝酿对人工智能行业的监管，提出《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。不过，在酝酿过程中由于ChatGPT的“横空出世”，欧盟方面对该法案提案进行了修改。第一财经记者看到，相比于以前的提案，此次临时协议的主要新内容包括：针对未来可能导致系统性风险的高影响力通用人工智能模型以及高风险人工智能系统的治理体系；一个修订过的管理体系，该体系在欧盟层面具有一定执行权；一份扩大了的禁止清单，但执法机构可以在遵守相关措施的同时，在公共场所使用远程生物识别技术；以及在人工智能系统投入使用之前，高风险人工智能系统的部署者有义务接受基本权利影响评估，从而更好地保护公民相关权利。同时，按照“风险越高，规则越严”的原则，该临时协议规定，仅呈现出有限风险的人工智能系统将受到非常轻微的透明度义务的约束，例如披露内容是人工智能生成的，以便用户可以就进一步使用作出明智的决定。各种高风险人工智能系统将获得授权，但要遵守一系列要求和义务才能进入欧盟市场。不过，对于人工智能的某些用途，欧盟方面认为，其风险是不可接受的，因此，这些系统将被欧盟禁止。欧盟方面给出了详细说明。例如，此次达成的临时协议禁止认知行为操纵、从互联网或闭路电视录像中无目的地抓取面部图像、在工作场所和教育机构中实施情绪识别、社会评分、用于推断敏感数据的生物识别分类，以及一些针对个人的预测性警务案例等。值得注意的是，临时协议纳入了对人工智能基础模型的限制，但对开源模型给予了广泛的豁免。开源模型是使用开发人员可以免费使用的代码开发的，可以根据自己的产品和工具进行修改。此举可能有利于游说反对该法律的欧洲开源人工智能公司，包括法国的Mistral和德国的AlephAlpha等。然而，一些被归类为具有“系统性风险”的专有模型将受到额外义务的约束，不过欧洲委员会没有在声明中具体说明什么标准会触发更严格要求。立法跑赢美国观察人士认为，欧洲此次制定法律进一步巩固了在科技监管方面的地位。该法案主要发起者之一、欧洲议会议员图多拉奇（DragosTudorache）表示，自起草立法的早期阶段以来，《人工智能法案》的制定者就“仔细考虑”了对世界各国政府的影响。他说，他经常听到其他立法者在开始起草自己的人工智能法案时正在研究欧盟的做法。“这项立法将代表许多其他司法管辖区的标准、模式。”他说，“这意味着我们在起草它时必须承担额外的谨慎义务，因为它将对许多其他司法管辖区产生影响。”实际上，在美国国会多年无所作为之后，欧盟的各项科技法案对美国硅谷公司产生了广泛的影响。譬如，欧洲的GDPR迫使微软等一些公司彻底改革他们处理欧洲境外用户数据的方式。然而，有人担心欧盟频繁制定在科技方面的法律，令在欧洲地区的合规措施成本高昂，阻碍了小企业的发展。与此同时，经过数月针对人工智能技术的听证会和论坛后，美国国会仍处于制定有关人工智能的两党立法的早期阶段。有国际贸易法领域资深专家对第一财经记者表示，拜登政府上台之初就表示要“整顿”科技行业，结果“板子高高举起轻轻落下”，第一任期都快结束了，既没有真正反垄断，也没有搞规则监管立法，这也体现了拜登政府的一种态度。在此情况之下，欧洲人工智能界的担忧更为强烈，有不少人士都发声表示，新立法可能会阻碍技术创新，从而为人工智能研究和开发已经更加先进的美国和英国带来进一步优势。“有一些创新将不再有可能性，或在经济上不再可行。”德国人工智能发展促进中AppliedAIInitiative董事总经理利布尔（AndreasLiebl）表示：“它（人工智能法案）只会让你在全球竞争中放慢脚步。”此前，欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（TheosEvgeniou）在接受第一财经记者采访时表示，GDPR确实导致小公司成本高昂。这些公司大多是欧洲科技公司。它最终帮助了美国的大公司。“从某种意义上说，这与欧洲想要做的事情恰恰相反。”埃夫根尼奥说，但监管本身是一个不断学习的过程，其目标不是为了监管而监管，监管和创新都是为了更好地造福世界。...PC版：https://www.cnbeta.com.tw/articles/soft/1403411.htm手机版：https://m.cnbeta.com.tw/view/1403411.htm

Meta首席科学家杨立昆：目前人工智能还不如狗聪明

Meta首席科学家杨立昆：目前人工智能还不如狗聪明Meta首席人工智能(AI)科学家杨立昆（YannLeCunn）在巴黎举行的VivaTech会议上表示：“那些AI系统仍然非常有限，它们对现实世界的基本现状没有任何理解，只是纯粹基于大量的文本进行训练。但大部分人类知识与语言无关，所以这部分人类经验不会被人工智能捕捉到。我们(目前的技术发展)正在错过一些非常重要的东西。AI不仅应该达到人类水平的智能，甚至还要先达到狗的智能水平才行。”他认为，当前的人工智能系统对现实世界的理解非常有限，缺乏对非语言知识的捕捉能力。杨立昆还提到了Meta正在努力通过视频内容训练人工智能，他认为这比语言训练更为艰难。关于未来的展望，杨立昆认为将会出现比人类更聪明的机器，并将其视为非常有益的事情。他预测每个人都将拥有一个像随从一样的AI助手，这个AI助手将比人类更聪明，并在日常生活中为人们提供帮助。他表示这些AI助手需要被设计为可控且基本上服从于人类，同时驳斥了机器人接管世界的观点。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot