硅谷对加州人工智能安全法案不满

硅谷对加州人工智能安全法案不满 美国加利福尼亚州的人工智能重量级企业正在抗议一项州法案，该法案将迫使科技公司遵守严格的安全框架，包括创建一个“切断开关”来关闭其强大的人工智能模型。该法案于上月由加州参议院通过，并将于8月在众议院进行表决。该法案要求加州的人工智能团体向一个新成立的州机构保证，它们不会开发具有“危险能力”的模型，例如制造生物武器或核武器，或协助网络安全攻击。根据拟议中的《前沿人工智能系统安全创新法案》，开发人员必须报告其安全测试，并引入所谓的“切断开关”来关闭他们的模型。 （）

英国安全研究所发布人工智能模型安全性测试工具

英国安全研究所发布人工智能模型安全性测试工具 在周五宣布这一消息的新闻稿中，安全研究所声称，Inspect 标志着"由国家支持的机构主导的人工智能安全测试平台首次被广泛使用"。安全研究所主席伊恩-霍加斯（Ian Hogarth）在一份声明中说："人工智能安全测试方面的成功合作意味着要有一个共享的、可访问的评估方法，我们希望Inspect能够成为一个基石。我们希望看到全球人工智能社区利用Inspect不仅开展自己的模型安全性测试，而且帮助调整和构建开源平台，以便我们能够全面开展高质量的评估。"众所周知，人工智能基准很难制定其中最重要的原因是，当今最复杂的人工智能模型几乎都是黑盒，其基础设施、训练数据和其他关键细节都被创建这些模型的公司保密。那么，Inspect 如何应对这一挑战呢？主要是通过可扩展的新测试技术。Inspect 由三个基本部分组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器负责评估求解器的工作，并将测试得分汇总为指标。可以通过用 Python 编写的第三方软件包来增强 Inspect 的内置组件。Mozilla 研究员、著名人工智能伦理学家德博拉-拉吉（Deborah Raj）在 X 上发表了一篇文章，称 Inspect "证明了对人工智能问责开源工具的公共投资的力量"。人工智能初创公司Hugging Face的首席执行官克莱门特-德朗格（Clément Delangue）提出了将Inspect与Hugging Face的模型库整合在一起，或利用工具集的评估结果创建一个公共排行榜的想法。Inspect 发布之前，美国政府机构国家标准与技术研究院（NIST）启动了NIST GenAI，该计划旨在评估各种生成式人工智能技术，包括文本和图像生成人工智能。NIST GenAI 计划发布基准，帮助创建内容真实性检测系统，并鼓励开发能识别虚假或误导性人工智能生成信息的软件。今年 4 月，美国和英国宣布建立合作伙伴关系，共同开发先进的人工智能模型测试，这是继去年 11 月英国在布莱切利公园举行的人工智能安全峰会上宣布承诺之后的又一合作。作为合作的一部分，美国打算成立自己的人工智能安全研究所，广泛负责评估人工智能和生成式人工智能的风险。 ... PC版： 手机版：

微软发现严重安全漏洞，影响数十亿下载量 Android 应用

微软发现严重安全漏洞，影响数十亿下载量 Android 应用 “Dirty Stream”漏洞的核心在于恶意应用可以操纵和滥用 Android 的内容提供程序系统。该系统通常用于设备上不同应用之间安全地交换数据，并包含严格的数据隔离、特定 URI 附加权限以及文件路径验证等安全措施，以防止未经授权的访问。 然而，如果内容提供程序系统没有被正确实现，就会产生漏洞。微软研究人员发现，不当使用“自定义意图”（custom intents，Android 应用组件之间的通信系统）可能会暴露应用的敏感区域。例如，易受攻击的应用可能无法充分检查文件名或路径，从而为恶意应用提供了可乘之机，使其可以将伪装成合法文件的恶意代码混入其中。 攻击者利用“Dirty Stream”漏洞后，可以诱骗易受攻击的应用覆盖其私有存储空间中的关键文件。这种攻击可能使得攻击者完全控制应用，未经授权访问敏感用户数据，或拦截私密登录信息。 微软的研究表明，此漏洞并非个例，研究人员发现许多流行的 Android 应用都存在内容提供程序系统实现不当的问题。例如，拥有超过 10 亿安装量的小米文件管理器和拥有约 5 亿安装量的 WPS Office 都存在此漏洞。

美国新法案要求人工智能公司披露受版权保护的训练数据

美国新法案要求人工智能公司披露受版权保护的训练数据 美国新法案将迫使科技公司披露用于训练其人工智能模型的任何受版权保护的数据。美国众议员 Adam Schiff (D-CA) 提出的生成人工智能版权披露法案将要求任何为人工智能制作训练数据集的人向版权登记处提交有关其内容的报告。报告应包含数据集中受版权保护的材料的详细摘要以及数据集的 URL (如果可公开获取)。此要求将扩展到对数据集所做的任何更改。公司必须在使用训练数据集的人工智能模型向公众发布之前“不迟于30天”提交报告。该法案不会追溯到现有的人工智能平台，除非其成为法律后对其训练数据集进行更改。

美参议院小组建议在AI方面投入巨额资金

美参议院小组建议在AI方面投入巨额资金 美国参议院的一个两党小组建议联邦投入数以百亿美元计的新资金，以指导人工智能的安全发展，并在与对手、尤其是中国的竞争中处于领先地位。以参议院多数党领袖、纽约州民主党议员舒默为首的四位议员组成的人工智能工作组在周三公布的一份报告中提出了这一建议。这份被称为人工智能政策路线图的文件列出了一长串鼓励人工智能发展的建议，并针对人们对人工智能技术潜在危害的担忧提出了解决方案。上述参议员建议尽快将用于非防务人工智能创新的联邦支出提高到每年至少320亿美元，不过他们表示，提高到这一水平可能需要数年时间。这笔开支将涵盖广泛的举措，从协助设计和制造高端人工智能芯片到地方选举倡议，再到一系列鼓励创新的“人工智能大挑战”计划等等。

美参议院通过2800亿美元法案增进制造业技术优势，意在制衡中国

美参议院通过2800亿美元法案增进制造业技术优势，意在制衡中国 华盛顿周三，参议院通过了一项规模庞大的2800亿美元法案，旨在增进美国的制造业和技术优势以抗衡中国。该法案是几十年来政府对产业政策的最大干预，得到了两党压倒性的投票支持。 在一个两极分化的国会，这项立法反映了两党取得罕见的重要共识，也就是说，他们支持制定长期战略来应对跟北京日益激烈的地缘政治竞争。该计划的核心内容是，将联邦资金投资于尖端技术和创新，以增强国家的工业、技术和军事实力。... 该法案接下来将在众议院审议，预计将在部分共和党人的支持下获得通过。一年多来一直支持该方案的拜登总统最早可能于本周签署该法案，使其成为法律。 该法案融合了经济和国家安全政策，将为在美国制造芯片的企业提供520亿美元的补贴和额外的税收抵免。它还将增加2000亿美元用于科学研究，特别是人工智能、机器人技术、量子计算和各种其他技术。