【欧洲议会通过新的人工智能法监管草案】

【欧洲议会通过新的人工智能法监管草案】随着美国在技术监管方面下定决心，欧盟正在朝着人工智能(AI)领域的大型技术监管迈出又一大步。欧洲议会周三以压倒性多数以499票赞成、28票反对、93票弃权通过了新的人工智能法草案。该法律的最终版本预计将在2023年底的某个时候进行投票。如果获得通过，该法律将对人工智能系统实施全面的基于风险的监管制度。威胁人们安全、生计或人权的人工智能——例如用于生物识别监控的人工智能——被视为构成“不可接受的风险”，将被彻底禁止。快讯/广告联系@xingkong888885

欧盟全球首部AI立法又迈出重要一步，ChatGPT在欧洲命运如何？

欧盟全球首部AI立法又迈出重要一步，ChatGPT在欧洲命运如何？据悉，接下来各方将正式进入与欧盟委员会进行协商的程序，以确定最终版本，最快也要在今年年底才能达成共识。“监管中必须有不可跨越的红线。欧盟的《人工智能法案》中就规定了不可发展的部分，比如不可用于社会评分。”欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（TheosEvgeniou）对第一财经记者表示：“不过从某种意义上来说，欧洲更复杂，在解决某些重大问题时，所有成员国需要达成一致，需要考虑到不同成员国之间不同的立法流程、文化背景以及治理体系。所以欧洲的行动相比起来较为缓慢。因此，欧洲希望从一开始就不要在监管上犯错误。”人工智能分级管理欧盟于2021年首次提出《人工智能法案》，旨在制定管理使用人工智能系统的任何产品和服务的规则。目前的该法案谈判授权草案采取了分级管理的思路，即基于人工智能的四个等级（从风险最小到不可接受），进行区别管理，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。欧洲议会认为，对人类安全造成不可接受风险的人工智能系统将被严格禁止，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。譬如，用于预先确定犯罪发生地点和犯罪者的警务工具可能将被禁止，除打击和预防特定恐怖威胁外，远程面部识别技术也将被禁止。此次，欧洲议会就批准了全面禁止警察在公共场所使用实时面部识别技术的立法草案文本。具体而言，此次欧洲议会议员扩大了禁止清单，进一步禁止了侵入性和歧视性使用人工智能，其中包括在公共场所的实时远程生物特征识别监控系统，使用敏感特征（例如性别、种族等）的生物识别分类系统，预测性警务系统（基于分析、位置或既往犯罪行为），执法、边境管理、工作场所和教育机构中的情绪识别系统以及从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库的行为。将立法推进到投票阶段的欧洲议会人工智能委员会的联合报告员本尼菲（BrandoBenifei）表示，在面部识别方面，法律将提供“明确的保障措施，以避免任何大规模监控的风险”。彻底记录训练人工智能版权需要提到的是，最初的草案并未详细涵盖聊天机器人(15.540,0.89,6.08%)，但由于在立法期间，ChatGPT横空出世，立法者添加了一项修正案，将ChatGPT和类似的生成式AI与高风险系统置于同一级别。欧洲议会提出，像ChatGPT这样的生成基础模型必须遵守额外的透明度要求，比如披露内容是由人工智能生成的，设计模型以防止其生成非法内容，以及发布用于训练的受版权保护数据的摘要。此外，欧洲议会的议员们还希望提高欧洲公民对人工智能系统提出投诉的权利，并获得对基于严重影响其权利的高风险人工智能系统决策的解释权利。在欧盟的定义里，由于生成式人工智能没有特定用途，因而将其划分为通用人工智能领域（GeneralPurposeAI），并强制披露受版权保护的人工智能训练数据。根据草案文本，开发商在欧盟市场上发布之前在欧盟人工智能管理数据库中进行登记。如ChatGPT等工具，必须披露哪些内容是人工智能生成的，以便帮助区分所谓的深度造假图像和真实图像，并确保防止生成非法内容。同时，此次在草案中，欧洲议会要求彻底记录任何用于训练人工智能系统如何生成类似于人类作品的文本、图像、视频和音乐的版权材料，且开发商还必须证明他们为训练机器所做的一切都符合法律。欧洲议会议员图朵拉赫表示，如果人工智能的开发者不这样做，他们可能会被迫立即删除应用程序或被罚款，罚款最高可达其收入的7%，这对科技巨头来说可能高达数亿欧元。埃夫根尼奥对第一财经记者表示，像ChatGPT这样的生成性AI技术是所谓“根基模型”（foundationmodels）。“人们可以在这种模型的基础上开发大量产品，并能够进行微调。换言之，它们不是单纯的产品，而是核心技术，是人们可以开发的产品之核心所在。”他解释道，“这种核心技术本身已经非常强大，我们甚至无法预测人们将依靠它们开发出什么。我们也从未仔细考虑过如何管控和规范根基模型。这是一种新概念。”“很明显，我们需要对其中一些部分进行监管。要注意的是，我们要规范和监管的是内容审核的过程，而非内容本身。”他表示：“一些国家和地区已着手制定有关内容审核的法规。例如，欧洲提出《数字服务法》（DSA），涉及规范在线平台的内容。在我看来，这是一个很好的法规，因为它带来了一个公平和透明的内容审核程序。”他补充道，总之，我们需要法规来规范如何公平和透明地审核内容，至于内容来自人还是来自人工智能，这在某种意义上并不重要。据悉，接下来，欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后，将有大约两年的宽限期。...PC版：https://www.cnbeta.com.tw/articles/soft/1365579.htm手机版：https://m.cnbeta.com.tw/view/1365579.htm

欧洲议会通过 AI Act 草案

欧洲议会通过AIAct草案欧洲议会周三投票通过了AIAct草案，料将打响西方世界全面监管AI领域的第一枪。起草的规定包括禁止在公共场所进行实时、远程生物识别监控，并禁止在开发面部识别数据库时采集监控录像或抓取互联网信息。欧洲议会的法案版本还寻求禁止所谓的预测性警务系统，此类系统分析先前的犯罪行为和其它数据，并试图预测未来的非法活动。这项立法草案旨在规范企业如何使用大数据训练AI模型，在某些情况下将要求企业在使用AI生成内容时予以披露。企业还需要在设计AI模式时设法防止非法内容的生成，并需要披露模型训练中使用的有版权数据的摘要。在某些违规情况下，企业将被处以最高相当于其全球收入6%或7%的罚款。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

欧洲议会通过全球首个人工智能法案

欧洲议会通过全球首个人工智能法案欧盟星期三（3月13日）批准《人工智能法案》，以严格规范人工智能的使用。路透社报道，《人工智能法案》将规范基础模型或生成式人工智能，例如OpenAI，这些模型经过大量数据的训练以生成新内容甚至执行任务。法案将限制政府在公共场所使用实时生物识别监控来处理某些犯罪案件、防止恐怖袭击等真正威胁，以及搜查涉嫌最严重犯罪的人。这些规则将涵盖高影响力、通用人工智能模型和高风险人工智能系统，它们必须遵守特定的透明度义务和欧盟版权法。共有523名欧盟议员投票支持该协议，46人反对，49人弃权。欧盟国家将于5月正式批准该协议，立法预计将于明年初生效并于2026年实施，其中一些条款将更早生效。库利律师事务所合伙人范埃克表示，欧盟可能为世界其他地区树立了基准。“欧盟拥有世界上第一部人工智能法。其他国家和地区可能会使用人工智能法作为蓝图，就像欧盟的《通用数据隐私法规》。”然而他说，对公司而言，繁文缛节是不利的一面。经过近40个小时的谈判，欧洲议会和欧盟国家于去年12月，就政府使用生物识别监控，以及如何监管ChatGPT等生成人工智能基础模型等问题，达成了初步协议。根据违规类型，公司将面临750万欧元（约1093万新元）或营业额1.5%至3500万欧元或全球营业额7%的罚款。2024年3月13日9:55PM

欧洲议会通过了世界上第一部全面的人工智能法律

欧洲议会通过了世界上第一部全面的人工智能法律欧洲议会今天批准了世界上第一个限制人工智能（AI）风险的综合框架。该法律的制定者表示，这将使技术更加“以人为中心”。《人工智能法案》根据风险对产品进行分类并相应调整审查，其主要思想是根据人工智能对社会造成危害的能力对其进行监管。风险越高，规则就越严格。那些“对基本权利构成明显风险”的AI应用程序将被禁止，例如一些涉及生物识别数据处理的应用程序。被视为“高风险”的AI系统，例如用于关键基础设施、教育、医疗保健、执法、边境管理或选举的人工智能系统，必须遵守严格的要求。垃圾邮件过滤器等低风险服务将面临最宽松的监管——欧盟预计大多数服务都属于这一类。该法案还制定了一些条款，以应对支持生成式AI工具和聊天机器人（例如OpenAI的ChatGPT）的系统所带来的风险，要求一些所谓的通用人工智能系统的生产者对用于训练模型的材料保持透明，并遵守欧盟版权法。——

媒体称ChatGPT等AI在欧洲面临新的进一步监管

媒体称ChatGPT等AI在欧洲面临新的进一步监管媒体看到的信件副本显示，这些议员表示，将致力于在法案中增加相关条款，旨在引导强大的人工智能朝着“以人为本、安全可靠”的方向发展。议员们写道：随着强大的人工智能迅速发展，我们认为有必要给予重大的政治关注。欧盟政策制定者计划在今年晚些时候通过这项悬而未决的法案，可能会成为世界各地不同监管传统和环境下其他监管举措的蓝图。3月22日，生命未来研究所（FutureofLife）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。包括图灵奖得主YoshuaBengio、马斯克、苹果联合创始人SteveWozniak等上千名科技大佬和AI专家已经签署公开信。上周，另一批人工智能伦理学家和研究人员也写了另一封公开信，敦促欧盟纳入涵盖“通用人工智能”可能带来的风险的条款。欧洲议会罗马尼亚议员DragosTudorache和意大利议员BrandoBenifei共同负责该机构在这项法案方面的工作。他们表示，该组织起草这封信，部分原因是为了回应上述生命未来研究所的信。除了呼吁暂停训练高级人工智能模型外，这封信还描述了人工智能可能带来的一个风险，即“人类失去对文明的控制”。信件还敦促监管机构加强与人工智能开发者的合作。欧盟立法者在信中还表示：我们认同（生命未来研究所）信中表达的一些担忧，尽管我们不同意其中一些更危言耸听的说法。他们补充称，他们认为监管可以帮助人类从人工智能中获益，并避免未来更具有挑战性的前景，“我们可以一起把历史引向正确的方向”。全球越来越多的监管机构开始重视对AI的监管，拜登政府也开始研究是否需要对ChatGPT等人工智能工具进行审查。意大利上月以隐私为由禁用了ChatGPT。法国和西班牙上周同时宣布对ChatGPT展开调查，欧盟数据保护委员会也宣布，它正在组建一个特别工作组，以帮助各国应对ChatGPT有关的隐私问题。目前尚不清楚欧盟将在该法案中提出哪些新条款。周一的信中还称，作为基础模型的AI工具将适用于这些新规则，这些工具在大量数据集上进行训练。基础模型包括一些大型语言模型，例如近来最火热的聊天机器人ChatGPT，它可以对文本问题做出有说服力的回答。周一公开信的签署人将于本周举行会议，讨论他们的建议，并商定共同的立场。欧盟议会将于5月对该法案进行投票。过去，欧洲议会的一些成员曾呼吁，对于如何建立如此强大的人工智能工具，对用于构建这些工具的数据的公平性要求，以及对其安全性和可预测性进行持续审计，都应提高透明度。...PC版：https://www.cnbeta.com.tw/articles/soft/1355291.htm手机版：https://m.cnbeta.com.tw/view/1355291.htm