美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞

美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞 该中心将领导研究法案中所说的"反人工智能"，即学习如何操纵人工智能系统的技术。该中心还将制定预防反人工智能措施的指南。该法案还将要求国家标准与技术研究院（NIST）和网络安全与基础设施安全局建立一个人工智能漏洞数据库，包括"近乎得手的漏洞"。华纳和蒂利斯提出的法案重点关注对抗人工智能的技术，并将其分为数据中毒、规避攻击、基于隐私的攻击和滥用攻击。数据中毒指的是在人工智能模型刮取的数据中插入代码，破坏模型输出的方法。它是防止人工智能图像生成器在互联网上复制艺术作品的一种流行方法。规避攻击会改变人工智能模型所研究的数据，以至于模型变得混乱。人工智能安全是拜登政府人工智能行政命令的关键项目之一，该命令指示美国国家标准与技术研究院（NIST）制定"红队"指导方针，并要求人工智能开发人员提交安全报告。所谓"红队"（red teaming），是指开发人员故意让人工智能模型对不应该出现的提示做出反应。理想情况下，人工智能模型的开发者会对平台进行安全测试，并在向公众发布之前对其进行广泛的红队测试。一些公司如微软已经创建了一些工具，帮助人工智能项目更容易地添加安全防护措施。《人工智能安全法案》在提交给更大范围的参议院审议之前，必须经过一个委员会的审议。 ... PC版： 手机版：

裙带资本主义推动 AI 监管

裙带资本主义推动 AI 监管 2023 年 5 月，OpenAI 创始人 Sam Altman 在美国参议院司法委员会大谈监管 AI，当时 OpenAI 的 AI 聊天机器人 ChatGPT 成为历史上增长最快的消费者产品，每周有 1 亿用户使用。Altman 等 AI 公司高管呼吁监管有几分类似 16 世纪英国对印刷行业的监管，英女王伊丽莎白一世将印刷的许可权授权给特定印刷行会成员，但她的监管尝试没有成功。一部分人支持监管是出于道德理由，另一部分则是出于利益。Altman 支持监管更可能是后者，是为了抵御竞争对手，推动裙带资本主义的形成，微软以及 Google 都响应了这一监管呼吁。生成式 AI 的繁荣将是会更多让科技巨头们受益，而不是惠及普通消费者。来源 ， 频道：@kejiqu 群组：@kejiquchat