美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞

美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞 该中心将领导研究法案中所说的"反人工智能"，即学习如何操纵人工智能系统的技术。该中心还将制定预防反人工智能措施的指南。该法案还将要求国家标准与技术研究院（NIST）和网络安全与基础设施安全局建立一个人工智能漏洞数据库，包括"近乎得手的漏洞"。华纳和蒂利斯提出的法案重点关注对抗人工智能的技术，并将其分为数据中毒、规避攻击、基于隐私的攻击和滥用攻击。数据中毒指的是在人工智能模型刮取的数据中插入代码，破坏模型输出的方法。它是防止人工智能图像生成器在互联网上复制艺术作品的一种流行方法。规避攻击会改变人工智能模型所研究的数据，以至于模型变得混乱。人工智能安全是拜登政府人工智能行政命令的关键项目之一，该命令指示美国国家标准与技术研究院（NIST）制定"红队"指导方针，并要求人工智能开发人员提交安全报告。所谓"红队"（red teaming），是指开发人员故意让人工智能模型对不应该出现的提示做出反应。理想情况下，人工智能模型的开发者会对平台进行安全测试，并在向公众发布之前对其进行广泛的红队测试。一些公司如微软已经创建了一些工具，帮助人工智能项目更容易地添加安全防护措施。《人工智能安全法案》在提交给更大范围的参议院审议之前，必须经过一个委员会的审议。 ... PC版： 手机版：

欧盟批准全球首部《人工智能法案》

欧盟批准全球首部《人工智能法案》 《人工智能法案》提出了人工智能风险等级的分类，这意味着根据人工智能技术的不同应用将对社会可能造成的威胁，应将对其进行不同的对待，该法律禁止应用风险水平被认为“不可接受”的人工智能

欧洲议会通过欧盟《人工智能法案》

欧洲议会通过欧盟《人工智能法案》 例如，欧盟人工智能法案禁止由人工智能驱动的社会评分系统，以及任何用于猜测一个人的种族、政治倾向或性取向的基于生物特征的工具。它禁止使用人工智能来解读学校和工作场所人们的情绪，也禁止使用某些类型的自动分析来预测一个人未来犯罪的可能性。与此同时，该法律概述了人工智能的另一类“高风险”用途，特别是在教育、招聘和获得政府服务方面，并对它们施加了一套单独的透明度和其他义务。OpenAI等生产强大、复杂和广泛使用的人工智能模型的公司也将受到新的披露要求的约束。它还要求所有人工智能生成的深度假新闻都要有明确的标签，以解决人们对被操纵的媒体可能导致虚假信息和干预选举的担忧。这项全面的立法将在大约两年后生效，突显出欧盟政策制定者对OpenAI的ChatGPT等工具的爆炸式流行做出反应的速度。本周，欧洲议会全体投票通过了这项立法，这是2021年首次提出的一项提案的结果，当时ChatGPT的发布引发了投资热潮和公众狂热，这给了立法者一个先机。最终结果与美国形成鲜明对比，尽管参议院多数党领袖查克·舒默(Chuck Schumer)去年罕见地亲自将人工智能问题列为议程的首要议题，但美国尚未在人工智能联邦立法方面取得任何有意义的进展。 ... PC版： 手机版：

美国新法案要求人工智能公司披露受版权保护的训练数据

美国新法案要求人工智能公司披露受版权保护的训练数据 美国新法案将迫使科技公司披露用于训练其人工智能模型的任何受版权保护的数据。美国众议员 Adam Schiff (D-CA) 提出的生成人工智能版权披露法案将要求任何为人工智能制作训练数据集的人向版权登记处提交有关其内容的报告。报告应包含数据集中受版权保护的材料的详细摘要以及数据集的 URL (如果可公开获取)。此要求将扩展到对数据集所做的任何更改。公司必须在使用训练数据集的人工智能模型向公众发布之前“不迟于30天”提交报告。该法案不会追溯到现有的人工智能平台，除非其成为法律后对其训练数据集进行更改。

IBM称赞欧洲议会批准《人工智能法案》

IBM称赞欧洲议会批准《人工智能法案》 虽然必须开展重要工作以确保该法案成功实施，但 IBM 相信该法规将促进对人工智能系统的信任和信心，同时促进创新和竞争力。"我赞扬欧盟在通过全面、智能的人工智能立法方面发挥的领导作用。基于风险的方法与 IBM 对人工智能道德实践的承诺相一致，将有助于建立开放、可信的人工智能生态系统，"IBM 副总裁兼首席隐私与信任官 Christina Montgomery 说。"IBM随时准备提供我们的技术和专业知识（包括我们的watsonx.governance产品），帮助我们的客户和其他利益相关者遵守欧盟人工智能法案和全球即将出台的立法，以便我们都能释放负责任人工智能的巨大潜力。"欲了解更多有关IBM应对AI监管的信息，请访问： 成为全球首部全面的AI监管法规 ... PC版： 手机版：

欧盟理事会正式批准《人工智能法案》

欧盟理事会正式批准《人工智能法案》 当地时间21日，欧盟理事会正式批准《人工智能法案》。该法案在经欧洲议会和欧洲理事会主席签署后，将于近日在欧盟官方公报上公布，并在公布20天后生效。今年3月13日，欧洲议会以523票赞成、46票反对和49票弃权的表决结果通过了该法案。该法案采用基于风险的方法来规范人工智能的使用，并彻底禁止一些“不可接受的风险”用例，例如认知行为操纵或社会评分。法案还定义了一组“高风险”用途，例如生物识别和面部识别，或用于教育和就业等领域的人工智能。 、