欧洲议会通过欧盟《人工智能法案》

欧洲议会通过欧盟《人工智能法案》 例如，欧盟人工智能法案禁止由人工智能驱动的社会评分系统，以及任何用于猜测一个人的种族、政治倾向或性取向的基于生物特征的工具。它禁止使用人工智能来解读学校和工作场所人们的情绪，也禁止使用某些类型的自动分析来预测一个人未来犯罪的可能性。与此同时，该法律概述了人工智能的另一类“高风险”用途，特别是在教育、招聘和获得政府服务方面，并对它们施加了一套单独的透明度和其他义务。OpenAI等生产强大、复杂和广泛使用的人工智能模型的公司也将受到新的披露要求的约束。它还要求所有人工智能生成的深度假新闻都要有明确的标签，以解决人们对被操纵的媒体可能导致虚假信息和干预选举的担忧。这项全面的立法将在大约两年后生效，突显出欧盟政策制定者对OpenAI的ChatGPT等工具的爆炸式流行做出反应的速度。本周，欧洲议会全体投票通过了这项立法，这是2021年首次提出的一项提案的结果，当时ChatGPT的发布引发了投资热潮和公众狂热，这给了立法者一个先机。最终结果与美国形成鲜明对比，尽管参议院多数党领袖查克·舒默(Chuck Schumer)去年罕见地亲自将人工智能问题列为议程的首要议题，但美国尚未在人工智能联邦立法方面取得任何有意义的进展。 ... PC版： 手机版：

欧盟就《人工智能法案》达成临时协议

欧盟就《人工智能法案》达成临时协议 该协议要求人工智能基础模型在投放市场前遵守透明度义务，包括起草技术文件、遵守欧盟版权法以及公开用于模型训练的内容摘要。具有系统性风险的高影响基础模型必须进行评估，减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件。 协议还对政府行为予以约束，政府只能在面临恐怖袭击等真正、当前或可预见威胁时，才可使用实时生物识别监视。协议禁止认知行为操纵、禁止从互联网或监控视频中抓取面部图像、进行社会评分、或者对种族、宗教信仰、性取向等进行识别分类。 欧盟成员国和欧洲议会成员将在未来几天讨论细节，一旦双方正式批准，法案预计将在明年初生效，并在两年后实施。 虽然欧盟委员会委员称赞欧盟起到了全球标准制定者的角色。但“数字化欧洲组织”批评此举给公司增加负担，“欧洲数字权利中心”也批评法案将使得欧盟范围内的实时公开面部识别合法化。 ，

欧盟AI法案即将生效 杨立昆等AI科学家表示反对

欧盟AI法案即将生效 杨立昆等AI科学家表示反对 AGI何时实现, 业内分歧较大杨立昆表示，欧盟人工智能法案和其他各个地方都有规范研究和开发的条款，但他认为这不是一个好主意，理由是他并不认为人工智能会很快超越人类智能。“坦率地说，我不相信AI有任何与人接近的地方。”杨立昆表示，“我认为它目前没有那么危险。”不过他承认，未来人工智能系统可能会变得更加智能，届时需要对它们的设计采取适当的保障措施。百度CEO李彦宏也在VivaTech期间表示，AGI的实现还需要超过十年的时间。他表示：“我们希望人工智能像人类一样聪明，但当今最强大的模型远未达到这一程度。”李彦宏呼吁加快人工智能的发展步伐。“我担心的是人工智能技术进步得不够快。每个人都对过去几年技术发展的速度感到震惊。但对我来说还是不够快。”他表示。以特斯拉CEO马斯克为代表的科技人士强调人工智能的风险，马斯克在X Space的访谈中预测，到明年或2026年，人工智能的智慧可能会超过世界上最聪明的人类，也就是通用人工智能（AGI）的实现。ChatGPT的开发商OpenAI的CEO奥尔特曼（Sam Altman）在今年早些时候预测，AGI可能会在“相当近的未来”开发出来。对于人工智能安全性风险的分歧在OpenAI的“内斗”中已经暴露出来。OpenAI在宣布向公众免费提供迄今为止最强大的人工智能模型GPT-4o后，该公司前首席科学家苏茨克维尔（Ilya Sutskever）宣布辞职，“超级对齐”团队解散。这也引发了谁来为AI负责的讨论。现任清华大学国强教授、智能产业研究院首席研究员聂再清对第一财经记者表示：“Ilya对大模型技术的理解非常深刻，他的离职和对齐团队的解散短期内对OpenAI大模型技术的发展和安全可控可能会有一些影响。OpenAI应该还会继续大力投入到安全和对齐相关的工作上，确保大模型长期安全可控，在各种边界情况下都表现良好。”他认为，作为大的科技企业，可以通过团队的协同，在“对齐”这个方向上做更好的长期规划和资源共享及调配。创新与监管如何平衡欧盟一直走在人工智能监管的最前沿。上周，欧盟委员会批准了《人工智能法案》，这项法案是全球首创，将为人工智能监管制定全球标准。该立法遵循“基于风险”的方法，旨在促进私人和公共参与者在欧盟市场上开发和采用安全、值得信赖的人工智能系统。法案规定，提供公共服务的实体部署高风险人工智能系统之前，需要评估其基本权利影响。这也意味着AI对社会造成伤害的风险越高，监管的规则就越严格。该法案也涉及通用人工智能大模型（GPAI）的使用。根据法案，不构成系统性风险的GPAI模型将受到一些有限的要求，例如透明度方面的要求，但那些存在系统性风险的模型将必须遵守更严格的规则。一些企业和行业组织已经明确对欧盟的AI法案提出反对，认为这不利于欧洲打造人工智能高地。欧洲科技行业组织Digital Europe此前在一份声明中称：“这意味着我们需要投入更多来研究对抗人工智能使用风险的方法，而不是投入技术本身，新的监管规则将要求公司投入大量资源来遵守，把资源花在律师身上，而不是雇佣人工智能工程师。”Meta欧盟事务主管Marco Pancini也表示：“最重要的是，我们不应该忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力，而开放是关键。”亚马逊首席技术官沃纳·沃格尔斯(Werner Vogels)也在VivaTech期间表达了对人工智能监管可能会扼杀某些领域创新的担忧。他表示，在考虑风险时，监管机构应该考虑将新技术应用于医疗保健和金融服务。“我认为AI在很多领域应用的风险很小，我们应该让创新在这些领域发挥作用。在其他领域，AI犯的错误可能对人们的生活产生更大的影响，应该针对这些特定领域进行特别的风险管理。”沃格尔斯表示。他还强调，亚马逊欢迎监管，并与监管机构的总体目标保持一致，但警告欧盟不要过度监管人工智能。对此，欧盟委员会表示，该法案的推出目标是“刺激欧洲人工智能的投资和创新”。“这项具有里程碑意义的法案是世界上第一部AI法案，它解决了全球技术挑战，也为我们的社会和经济创造了机会。通过人工智能法案，欧洲强调在处理新技术时信任、透明度和问责制的重要性，同时确保这种快速变化的技术能够蓬勃发展并促进欧洲创新。”欧盟在一份声明中称。欧盟表示，该立法法案经欧洲议会通过后，将在未来几天内在欧盟官方公报上发布，并在发布后二十天生效，新法案将在生效两年后对企业正式产生影响。不遵守规则的公司将面临3500万欧元或等同于全球收入7%的罚款（二选一）。 ... PC版： 手机版：

GitHub和其他公司呼吁在欧盟人工智能法案中增加对开源的支持。他们希望一些规则可以放宽以便促进开源人工智能的发展。

GitHub和其他公司呼吁在欧盟人工智能法案中增加对开源的支持。他们希望一些规则可以放宽以便促进开源人工智能的发展。 在一份发给欧盟政策制定者的文件中，包括GitHub、Hugging Face、Creative Commons等在内的公司，希望欧盟在考虑最终确定《人工智能法案》时，鼓励更多地支持不同人工智能模型的开源开发，EleutherAI、LAION和Open Future也在该文件上签署了意见。 他们在最终规则出台之前向欧洲议会提出的建议清单包括更清晰地定义人工智能组件，明确爱好者和研究人员在开源模型上的工作不会从人工智能中获得商业利益，允许对人工智能项目进行有限的实际测试，并为不同基础模型设定相应要求。

欧盟理事会正式批准《人工智能法案》

欧盟理事会正式批准《人工智能法案》 当地时间21日，欧盟理事会正式批准《人工智能法案》。该法案在经欧洲议会和欧洲理事会主席签署后，将于近日在欧盟官方公报上公布，并在公布20天后生效。今年3月13日，欧洲议会以523票赞成、46票反对和49票弃权的表决结果通过了该法案。该法案采用基于风险的方法来规范人工智能的使用，并彻底禁止一些“不可接受的风险”用例，例如认知行为操纵或社会评分。法案还定义了一组“高风险”用途，例如生物识别和面部识别，或用于教育和就业等领域的人工智能。 、

IBM称赞欧洲议会批准《人工智能法案》

IBM称赞欧洲议会批准《人工智能法案》 虽然必须开展重要工作以确保该法案成功实施，但 IBM 相信该法规将促进对人工智能系统的信任和信心，同时促进创新和竞争力。"我赞扬欧盟在通过全面、智能的人工智能立法方面发挥的领导作用。基于风险的方法与 IBM 对人工智能道德实践的承诺相一致，将有助于建立开放、可信的人工智能生态系统，"IBM 副总裁兼首席隐私与信任官 Christina Montgomery 说。"IBM随时准备提供我们的技术和专业知识（包括我们的watsonx.governance产品），帮助我们的客户和其他利益相关者遵守欧盟人工智能法案和全球即将出台的立法，以便我们都能释放负责任人工智能的巨大潜力。"欲了解更多有关IBM应对AI监管的信息，请访问： 成为全球首部全面的AI监管法规 ... PC版： 手机版：