欧洲议会通过部分AI监管措施 迈出AI监管第一步

欧洲议会通过部分AI监管措施迈出AI监管第一步欧洲议会立法者星期四（5月11日）就备受瞩目的《人工智能法》（ArtificialIntelligenceAct）进行投票，针对禁用公共场所面部识别、预测性警示服务等部分人工智能（AI）技术监管措施达成一致。综合路透社和法新社报道，欧盟2021年提出的《人工智能法》将成为首个管理AI技术的全面法案。经过两年的谈判，该法案如今有望取得新进展，进入委员会和成员国谈判阶段。当天的投票开始前，有欧洲议会议员指出，如今，人工智能的重要性显而易见，社会期待立法者对人工智能及其给大众生活带来的影响做出坚定行动。本次投票同意禁用公共场合生物识别监控、情绪识别和预测性警示服务等人工智能系统。法案还寻求对ChatGPT等生成式人工智能系统制定新的透明措施，例如要求相关应用必须告知用户其内容是由机器而非人类生成。在本次会议的提案中，人工智能公司将被要求对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。欧洲议会议员说，这次投票是监管人工智能的一个“里程碑”，人工智能应该为人、社会和环境服务，而不能本末倒置。不过，实施监管措施并不代表要严令禁止人工智能科技，欧盟仍呼吁并支持促进人工智能行业创新。

欧盟全球首部AI立法又迈出重要一步，ChatGPT在欧洲命运如何？

欧盟全球首部AI立法又迈出重要一步，ChatGPT在欧洲命运如何？据悉，接下来各方将正式进入与欧盟委员会进行协商的程序，以确定最终版本，最快也要在今年年底才能达成共识。“监管中必须有不可跨越的红线。欧盟的《人工智能法案》中就规定了不可发展的部分，比如不可用于社会评分。”欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（TheosEvgeniou）对第一财经记者表示：“不过从某种意义上来说，欧洲更复杂，在解决某些重大问题时，所有成员国需要达成一致，需要考虑到不同成员国之间不同的立法流程、文化背景以及治理体系。所以欧洲的行动相比起来较为缓慢。因此，欧洲希望从一开始就不要在监管上犯错误。”人工智能分级管理欧盟于2021年首次提出《人工智能法案》，旨在制定管理使用人工智能系统的任何产品和服务的规则。目前的该法案谈判授权草案采取了分级管理的思路，即基于人工智能的四个等级（从风险最小到不可接受），进行区别管理，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。欧洲议会认为，对人类安全造成不可接受风险的人工智能系统将被严格禁止，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。譬如，用于预先确定犯罪发生地点和犯罪者的警务工具可能将被禁止，除打击和预防特定恐怖威胁外，远程面部识别技术也将被禁止。此次，欧洲议会就批准了全面禁止警察在公共场所使用实时面部识别技术的立法草案文本。具体而言，此次欧洲议会议员扩大了禁止清单，进一步禁止了侵入性和歧视性使用人工智能，其中包括在公共场所的实时远程生物特征识别监控系统，使用敏感特征（例如性别、种族等）的生物识别分类系统，预测性警务系统（基于分析、位置或既往犯罪行为），执法、边境管理、工作场所和教育机构中的情绪识别系统以及从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库的行为。将立法推进到投票阶段的欧洲议会人工智能委员会的联合报告员本尼菲（BrandoBenifei）表示，在面部识别方面，法律将提供“明确的保障措施，以避免任何大规模监控的风险”。彻底记录训练人工智能版权需要提到的是，最初的草案并未详细涵盖聊天机器人(15.540,0.89,6.08%)，但由于在立法期间，ChatGPT横空出世，立法者添加了一项修正案，将ChatGPT和类似的生成式AI与高风险系统置于同一级别。欧洲议会提出，像ChatGPT这样的生成基础模型必须遵守额外的透明度要求，比如披露内容是由人工智能生成的，设计模型以防止其生成非法内容，以及发布用于训练的受版权保护数据的摘要。此外，欧洲议会的议员们还希望提高欧洲公民对人工智能系统提出投诉的权利，并获得对基于严重影响其权利的高风险人工智能系统决策的解释权利。在欧盟的定义里，由于生成式人工智能没有特定用途，因而将其划分为通用人工智能领域（GeneralPurposeAI），并强制披露受版权保护的人工智能训练数据。根据草案文本，开发商在欧盟市场上发布之前在欧盟人工智能管理数据库中进行登记。如ChatGPT等工具，必须披露哪些内容是人工智能生成的，以便帮助区分所谓的深度造假图像和真实图像，并确保防止生成非法内容。同时，此次在草案中，欧洲议会要求彻底记录任何用于训练人工智能系统如何生成类似于人类作品的文本、图像、视频和音乐的版权材料，且开发商还必须证明他们为训练机器所做的一切都符合法律。欧洲议会议员图朵拉赫表示，如果人工智能的开发者不这样做，他们可能会被迫立即删除应用程序或被罚款，罚款最高可达其收入的7%，这对科技巨头来说可能高达数亿欧元。埃夫根尼奥对第一财经记者表示，像ChatGPT这样的生成性AI技术是所谓“根基模型”（foundationmodels）。“人们可以在这种模型的基础上开发大量产品，并能够进行微调。换言之，它们不是单纯的产品，而是核心技术，是人们可以开发的产品之核心所在。”他解释道，“这种核心技术本身已经非常强大，我们甚至无法预测人们将依靠它们开发出什么。我们也从未仔细考虑过如何管控和规范根基模型。这是一种新概念。”“很明显，我们需要对其中一些部分进行监管。要注意的是，我们要规范和监管的是内容审核的过程，而非内容本身。”他表示：“一些国家和地区已着手制定有关内容审核的法规。例如，欧洲提出《数字服务法》（DSA），涉及规范在线平台的内容。在我看来，这是一个很好的法规，因为它带来了一个公平和透明的内容审核程序。”他补充道，总之，我们需要法规来规范如何公平和透明地审核内容，至于内容来自人还是来自人工智能，这在某种意义上并不重要。据悉，接下来，欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后，将有大约两年的宽限期。...PC版：https://www.cnbeta.com.tw/articles/soft/1365579.htm手机版：https://m.cnbeta.com.tw/view/1365579.htm

欧盟成员国与欧洲议会议员就规管人工智能方面达成临时协议

欧盟成员国与欧洲议会议员就规管人工智能方面达成临时协议欧盟成员国和欧洲议会议员经过马拉松式辩论及谈判后，就规管人工智能方面达成临时协议。在布鲁塞尔举行的会议上，谈判代表敲定对人工智能在欧洲使用方式的限制，表明这样不会损害行业的创新，亦不会损害欧洲人工智能未来的领先前景。欧盟内部市场专员布雷顿形容是历史性协议，又说随著《人工智能法案》达成，欧盟成为首个为使用人工智能制定明确规则的大陆。欧盟委员会主席冯德莱恩亦欢迎达成协议，形容《人工智能法案》为开发可信的技术提供独特的法律框架，不会侵犯个人和企业的安全及基本权利。2023-12-0909:22:36

【世界人工智能大会法治论坛举行，聚焦生成式人工智能治理、元宇宙规制等热点】

【世界人工智能大会法治论坛举行，聚焦生成式人工智能治理、元宇宙规制等热点】昨天，2023世界人工智能大会法治论坛举行。本次论坛主题为《数字治理：生成式人工智能之法律回应》。论坛发布了《世界人工智能法治蓝皮书（2023）》《人工智能法治发展指数4.0》《中国人工智能法治发展评估报告（2022）》。蓝皮书聚焦世界人工智能法治发展最新动态，搜集汇总各国有关人工智能法治发展的战略、政策、法律、理论研究、重大项目应用、典型司法案例等方面的最新资料，尤其是以ChatGPT为代表的最前沿的生成式人工智能治理、元宇宙规制等热点问题，通过分析、评估，形成了较为客观、公正、准确、全面的分析报告。快讯/广告联系@xingkong888885

IBM称赞欧洲议会批准《人工智能法案》

IBM称赞欧洲议会批准《人工智能法案》虽然必须开展重要工作以确保该法案成功实施，但IBM相信该法规将促进对人工智能系统的信任和信心，同时促进创新和竞争力。"我赞扬欧盟在通过全面、智能的人工智能立法方面发挥的领导作用。基于风险的方法与IBM对人工智能道德实践的承诺相一致，将有助于建立开放、可信的人工智能生态系统，"IBM副总裁兼首席隐私与信任官ChristinaMontgomery说。"IBM随时准备提供我们的技术和专业知识（包括我们的watsonx.governance产品），帮助我们的客户和其他利益相关者遵守欧盟人工智能法案和全球即将出台的立法，以便我们都能释放负责任人工智能的巨大潜力。"欲了解更多有关IBM应对AI监管的信息，请访问：https://www.ibm.com/products/watsonx-governancehttps://www.ibm.com/consulting/ai-governance相关文章:欧洲议会通过《人工智能法案》成为全球首部全面的AI监管法规...PC版：https://www.cnbeta.com.tw/articles/soft/1423574.htm手机版：https://m.cnbeta.com.tw/view/1423574.htm

美国限制AI出口立法进程又进一步

美国限制AI出口立法进程又进一步法案的提议者之一、众议院议员迈克尔•麦考尔恩（MichaelMcCauln）将人工智能技术比作曼哈顿（核弹）计划，该法案的主要目的是防止美国顶级人工智能公司“无意中”推动中国的技术进步，并保证美国继续保持世界领先超级大国地位。该法案尚须通过美国众议院和参议院的投票，才能提交给总统签署。《互联网法律评论》曾在该法案拟定阶段发布评论《警惕——美国正拟制定AI大模型出口管制法案》，初步分析了中美AI发展的差距及该法案可能产生的影响。本文将进一步解读该法案的内容及其美国科技游说的背景。一ENFORCE法案内容框架ENFORCE法案主要包含了四个条款，核心内容可概括为以下两点：1、对人工智能、人工智能系统、法案所“涵盖的人工智能系统”以及模型权重进行定义；2、对总统管制人工智能及其他特定新兴和基础技术的权力进行扩大和补充。ENFORCE法案修订了2018年的美国《出口管制改革法案》，以防止外国对手利用美国AI和其他支持技术。特别是，它将为美国出口、再出口或在国内转移某些物项建立许可要求。此外，在设计、开发、生产、使用和操作方面可能支持这些物项的其他活动也受许可要求的约束。ENFORCE法案涵盖的物项包括人工智能系统以及对国家安全至关重要的特定新兴和基础技术。二模糊的“涵盖的人工智能系统”定义ENFORCE法案目前并没有明确将“AI开源模型”作为一个单独的类别进行保护或限制。只是从功用上对“涵盖的人工智能系统”进行了一定的概括，不过，这样的“新定义”基本上涵盖了“任何人工智能系统、软件或硬件”，只要这些物项满足以下条件：侵蚀美国国家安全或外交政策的方式；降低制造大规模毁灭性武器的障碍；可能促进网络攻击。此外，法案通过后，须在一年内更新“涵盖的人工智能系统”的定义。这种“模糊且不确定”的定义方式，据众议院议员迈克尔•麦考尔恩（MichaelMcCauln）解释，目的是为执行监管的美国商务部工业与安全局（BIS）提供灵活性——制定对封闭人工智能系统适当的出口控制，同时不会扼杀美国的创新或影响开源模型的开发。三警惕美国科技巨头的人工智能游说：让立法者转而担心中国OpenAI推出ChatGPT后引发美国舆论对人工智能新一波讨论热潮。美国国内最初的讨论关注点主要担心AI开发由慈善和非政府组织所主导，警告人工智能技术的长期危险，因而推动对先进人工智能制定严格的安全规定。但是近几个月以来，人工智能行业的科技公司和投资者投入的数千万美元游说资金作用渐显，成功地将人工智能辩论焦点转向了别处：人工智能与其说是一种生存威胁，不如说是一个重要的商业机会；严格的安全规则可能会限制美国的创新，并将使美国的人工智能优势拱手让给中国。这一转向在某种程度上推动了ENFORCE法案的提出，以及迅速在美国众议院外交事务委员会获得通过。因为，美国科技公司试图让立法者相信，人工智能的先进性对美国来说并不可怕，但是中国的人工智能超过美国，则对美国来说才是巨大且真实的“灾难”。美国国会很多议员已经放弃了他们曾经对这项技术的快速发展感到恐惧的语气，并公开质疑先进的人工智能模型是否真的那么危险。例如，加州民主党众议员泰德•刘（TedLieu）在2023年还宣称自己对尖端人工智能的前沿模型“感到震惊”，并呼吁制定法规来防止出现几种可怕的情况；但如今，已出任担任众议院人工智能工作组联合主席的泰德•刘表示，他不相信国会必须打击先进人工智能。此外，与之并行的“中国AI发展才是威胁”的观点正在获得越来越多的支持——人工智能工作组四名议员之一、参议员迈克•朗兹（MikeRounds）表示，不希望先进人工智能的发展发生在美国之外，所以我们不会试图限制美国境内的发展。...PC版：https://www.cnbeta.com.tw/articles/soft/1432088.htm手机版：https://m.cnbeta.com.tw/view/1432088.htm