美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞

美国参议院推动人工智能安全法案旨在防止AI模型出现安全漏洞该中心将领导研究法案中所说的"反人工智能"，即学习如何操纵人工智能系统的技术。该中心还将制定预防反人工智能措施的指南。该法案还将要求国家标准与技术研究院（NIST）和网络安全与基础设施安全局建立一个人工智能漏洞数据库，包括"近乎得手的漏洞"。华纳和蒂利斯提出的法案重点关注对抗人工智能的技术，并将其分为数据中毒、规避攻击、基于隐私的攻击和滥用攻击。数据中毒指的是在人工智能模型刮取的数据中插入代码，破坏模型输出的方法。它是防止人工智能图像生成器在互联网上复制艺术作品的一种流行方法。规避攻击会改变人工智能模型所研究的数据，以至于模型变得混乱。人工智能安全是拜登政府人工智能行政命令的关键项目之一，该命令指示美国国家标准与技术研究院（NIST）制定"红队"指导方针，并要求人工智能开发人员提交安全报告。所谓"红队"（redteaming），是指开发人员故意让人工智能模型对不应该出现的提示做出反应。理想情况下，人工智能模型的开发者会对平台进行安全测试，并在向公众发布之前对其进行广泛的红队测试。一些公司如微软已经创建了一些工具，帮助人工智能项目更容易地添加安全防护措施。《人工智能安全法案》在提交给更大范围的参议院审议之前，必须经过一个委员会的审议。...PC版：https://www.cnbeta.com.tw/articles/soft/1429345.htm手机版：https://m.cnbeta.com.tw/view/1429345.htm

美国议员提出更易限制人工智能模型出口法案

美国议员提出更易限制人工智能模型出口法案当地时间5月8日，美国两党议员组成的小组公布了一项法案，该法案将使拜登政府更容易对人工智能模型实施出口管制，以保护美国技术免受外国不良行为者的侵害。该法案由众议院共和党人迈克尔·麦考尔、约翰·莫勒纳尔、马克斯·怀斯和民主党人拉贾·克里希纳莫蒂发起，还将赋予商务部明确权力，禁止美国人与外国人合作开发对美国国家安全构成威胁的人工智能系统。该立法旨在确保未来任何人工智能出口法规免受法律挑战。如果获得批准，该措施将消除《国际紧急经济权力法》中对监管开源人工智能出口的障碍，并赋予商务部监管人工智能系统的明确权力。——

欧盟27国代表一致支持《人工智能法案》文本

欧盟27国代表一致支持《人工智能法案》文本欧盟27国代表星期五（2月2日）投票一致支持《人工智能法案》文本，标志欧盟向立法监管人工智能迈出重要一步。新华社报道，欧盟内部市场委员布雷东（ThierryBreton）在社媒平台X发文说，27国一致支持这一法案，说明它们认可“谈判者在创新与安全之间找到了完美平衡”。欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。2023年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。此后，包括法国、德国在内的一些国家对法案文本表达异议，担忧法案对先进人工智能（AI）模型的严格监管将阻碍欧洲人工智能的发展。为了解决这些担忧，欧盟委员会在人工智能领域推出多项支持创新的措施，建立新的监管机构“人工智能办公室”负责该法案的实施。《人工智能法案》仍需要提交欧洲议会批准。如果获得批准，相关规则将分阶段实施，其中一些禁止性规则将在该法律通过六个月后生效，与通用人工智能模型相关的某些规则将从2025年起适用。2024年2月3日12:02PM

欧洲议会通过全球首个人工智能法案

欧洲议会通过全球首个人工智能法案欧盟星期三（3月13日）批准《人工智能法案》，以严格规范人工智能的使用。路透社报道，《人工智能法案》将规范基础模型或生成式人工智能，例如OpenAI，这些模型经过大量数据的训练以生成新内容甚至执行任务。法案将限制政府在公共场所使用实时生物识别监控来处理某些犯罪案件、防止恐怖袭击等真正威胁，以及搜查涉嫌最严重犯罪的人。这些规则将涵盖高影响力、通用人工智能模型和高风险人工智能系统，它们必须遵守特定的透明度义务和欧盟版权法。共有523名欧盟议员投票支持该协议，46人反对，49人弃权。欧盟国家将于5月正式批准该协议，立法预计将于明年初生效并于2026年实施，其中一些条款将更早生效。库利律师事务所合伙人范埃克表示，欧盟可能为世界其他地区树立了基准。“欧盟拥有世界上第一部人工智能法。其他国家和地区可能会使用人工智能法作为蓝图，就像欧盟的《通用数据隐私法规》。”然而他说，对公司而言，繁文缛节是不利的一面。经过近40个小时的谈判，欧洲议会和欧盟国家于去年12月，就政府使用生物识别监控，以及如何监管ChatGPT等生成人工智能基础模型等问题，达成了初步协议。根据违规类型，公司将面临750万欧元（约1093万新元）或营业额1.5%至3500万欧元或全球营业额7%的罚款。2024年3月13日9:55PM

欧洲大型公司发声 称欧盟的人工智能法案可能"危及技术主权"

欧洲大型公司发声称欧盟的人工智能法案可能"危及技术主权"6月14日，欧洲议会批准了人工智能法案草案，经过两年的制定规则，并将其扩展以涵盖最近的人工智能突破，例如大语言人工智能模型(LLM)和基础模型，例如OpenAI的GPT-4。新法律生效之前还需要几个阶段，剩余的机构间谈判预计将在今年晚些时候结束。公开信的签署者声称，目前的《人工智能法案》可能会抑制人工智能技术为欧洲“重新加入技术先锋”的机会。他们认为，批准的规则过于极端，有可能破坏欧盟的技术雄心，而不是为人工智能创新提供合适的环境。这些公司提出的主要担忧之一涉及立法专门针对生成式人工智能系统的严格规则，生成式人工智能系统是人工智能模型的一个子集，通常属于“基础模型”的名称。根据《人工智能法案》，基础人工智能模型的提供者——无论其预期应用如何——都必须在欧盟注册其产品，接受风险评估，并满足透明度要求，例如必须公开披露用于训练其模型的任何受版权保护的数据。公开信声称，开发这些基础人工智能系统的公司将面临不成比例的合规成本和责任风险，这可能会鼓励人工智能提供商完全退出欧洲市场。信中说：“欧洲不能袖手旁观。”信中鼓励欧盟立法者放弃对生成人工智能模型的严格合规义务，转而关注那些能够适应“基于风险的方法中的广泛原则”的模型。LaFamigliaVC的创始合伙人、这封信的签署人之一JeannettezuFürstenberg表示：“我们得出的结论是，当前形式的《欧盟人工智能法案》对欧洲竞争力产生了灾难性影响。欧洲现在正在释放出强烈的创新精神，欧洲的关键人才离开美国公司前往欧洲开发技术。不公平地给年轻的创新型公司带来负担的监管将这种创新精神置于危险之中。”这些公司还呼吁欧盟在人工智能行业内组建一个由专家组成的监管机构，以监督随着技术的不断发展如何应用《人工智能法案》。负责制定《人工智能法案》的欧洲议会议员德拉戈·图多拉什（DragoşTudorache）在回应这封信时表示：“遗憾的是，少数人的激进游说正在占领其他严肃的公司。”图多拉奇声称，签署这封信的公司是“在少数人的刺激下”做出反应，欧盟立法草案提供了“一个由行业主导的流程，用于定义标准、行业治理以及宽松的监管制度”并要求透明度，没有其他。”ChatGPT和Dall-E背后的公司OpenAI游说欧盟修改2022年人工智能法案的早期草案，要求立法者废除一项拟议的修正案，该修正案将使所有通用人工智能系统提供商受到影响——这是一个模糊、广泛的框架法学硕士和基础模型可能属于人工智能类别——《人工智能法案》最严格的限制。该修正案最终从未被纳入批准的立法中。OpenAI首席执行官SamAltman本人签署了一封公开信，警告未来人工智能系统可能带来的潜在危险，此前他警告称，如果无法遵守欧盟法规，该公司可能会退出欧洲市场。Altman后来反悔并表示OpenAI“没有离开的计划”。...PC版：https://www.cnbeta.com.tw/articles/soft/1368331.htm手机版：https://m.cnbeta.com.tw/view/1368331.htm

美国新法案要求人工智能公司披露受版权保护的训练数据

美国新法案要求人工智能公司披露受版权保护的训练数据美国新法案将迫使科技公司披露用于训练其人工智能模型的任何受版权保护的数据。美国众议员AdamSchiff(D-CA)提出的生成人工智能版权披露法案将要求任何为人工智能制作训练数据集的人向版权登记处提交有关其内容的报告。报告应包含数据集中受版权保护的材料的详细摘要以及数据集的URL(如果可公开获取)。此要求将扩展到对数据集所做的任何更改。公司必须在使用训练数据集的人工智能模型向公众发布之前“不迟于30天”提交报告。该法案不会追溯到现有的人工智能平台，除非其成为法律后对其训练数据集进行更改。——