美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

欧盟通过具有里程碑意义的人工智能监管法律

欧盟通过具有里程碑意义的人工智能监管法律 在欧盟立法者支持欧盟委员会 2021 年起草的人工智能立法两个月后，欧盟国家进行了投票，并做出了一些重要修改。近几个月来，随着微软支持的OpenAI 的 ChatGPT 和Google聊天机器人 Gemini 等生成式人工智能系统的日益普及，全球对人工智能助长错误信息、假新闻和受版权保护材料的担忧加剧。比利时数字化大臣马蒂厄-米歇尔（Mathieu Michel）在一份声明中说："这部具有里程碑意义的法律是世界上第一部此类法律，它解决了一个全球性的技术挑战，同时也为我们的社会和经济创造了机遇。"他说："通过《人工智能法》，欧洲强调了在处理新技术时信任、透明和问责的重要性，同时确保这一瞬息万变的技术能够蓬勃发展并促进欧洲的创新。"《人工智能法》对高风险的人工智能系统规定了严格的透明度义务，而对通用人工智能模型的此类要求则较轻。它限制政府在公共场所使用实时生物识别监控，仅限于某些犯罪案件、防止恐怖袭击和搜查最严重犯罪嫌疑人。库利律师事务所的帕特里克-范-埃克（Patrick van Eecke）说，新立法的影响将超越 27 国集团。"该法案将覆盖全球。欧盟以外的公司如果在其人工智能平台中使用欧盟客户数据，就需要遵守该法。其他国家和地区很可能会将《人工智能法》作为蓝本，就像他们对待 GDPR 一样，"他指的是欧盟的隐私规则。新法规将于 2026 年生效，但在新法规生效后的六个月内，将禁止在社交评分、预测性警务和从互联网或闭路电视录像中无针对性地获取面部图像的用途中使用人工智能。通用人工智能模型的义务将在 12 个月后适用，嵌入到受监管产品中的人工智能系统的规则将在 36 个月后适用。根据违规类型，对违规行为的罚款从 750 万欧元（820 万美元）或营业额的 1.5% 到 3500 万欧元或全球营业额的 7% 不等。 ... PC版： 手机版：

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议 该法将禁止人工智能技术的某些应用，对被认为是高风险的使用案例施加严格限制，并对最先进的软件模型进行约束，要求其承担透明度和压力测试的义务。欧盟是第一个为快速发展的人工智能技术制定具有约束力的规则的国家。尽管许多国家和国际俱乐部从经合组织到七国集团在过去几年里一直在思考如何监管人工智能，但大多数都停留在自愿性指南或实践守则上。当欧盟政策制定者在12月宣布他们已就《人工智能法》的内容达成最终妥协时，这一突破被誉为在 OpenAI 的 ChatGPT 和Google的 Bard 等无处不在的人工智能工具崛起之际，欧洲应该庆祝的开创性一步。但这一成果却引起了一些欧盟国家的不满。在过去几周里，该集团的头号经济体德国和法国以及奥地利都暗示，它们可能会在周五的投票中反对该文本。维也纳的不满在于数据保护条款，而巴黎和柏林则警告说，针对先进人工智能模型的规则将阻碍欧洲新晋人工智能冠军的发展，如法国的 Mistral 和德国的 Aleph Alpha。意大利（有时也是《人工智能法》 的批评者 ）对其意图保持沉默，《人工智能法》的命运顿时成了问题，因为四个对立的国家足以让该法永远脱轨。法国经济部长布鲁诺-勒梅尔（Bruno Le Maire）内阁呼吁与欧洲议会进行新一轮谈判，以解决他所关切的问题。由于缺乏进一步谈判的时间，比利时理事会主席对这一前景感到震惊。更糟糕的是，欧洲议会本身也在处理由隐私问题鹰派议员斯文雅-哈恩（Svenja Hahn）引发的关于人工智能法案面部识别规则的争论。最终，通过欧盟惯用的公关攻势和外交手腕，问题得到了解决。欧盟委员会加大了压力，宣布了一揽子针对人工智能领域的重大创新措施，并一举成立了欧盟人工智能办公室一个负责执行《人工智能法》的机构。两位参与谈判的人士透露，奥地利、法国和德国是在委员会将发表正式声明，就其关心的问题作出保证的承诺的诱惑下重返谈判桌的。  这些声明并非法律行为，但由于委员会将监督《人工智能法》的实施，它们将提供某种保证。德国数字部长沃尔克-维辛（Volker Wissing）是德国联合政府中最主要的《人工智能法》怀疑论者，他的发言人告诉媒体："我们要求欧盟委员会澄清，《人工智能法》不适用于医疗设备中的人工智能应用。"POLITICO 在投票前在欧盟外交官中分发的一份欧盟委员会声明显示，计划成立一个由欧盟成员国当局组成的"专家组"。该小组的职能将是"建议并协助"欧盟委员会应用和实施《人工智能法》。特别是，专家组将协助欧盟委员会避免《人工智能法》与欧盟其他法规之间的重叠，包括《医疗器械法规》、《体外诊断设备法规》和《机械法规》。声明还责成人工智能办公室为高级"通用"人工智能模型的开发者提供"详细指导"，说明如何披露用于训练软件的受版权保护的资料摘要。声明还重申委员会致力于促进人工智能领域的创新，并在更新影响高级人工智能的某些文本时"确保建立一个灵活且面向未来的法律框架"。最后，声明允许成员国对面部识别、情感识别和生物识别分类等技术采取限制性更强的规则和保障措施。《人工智能法》仍需欧洲议会的正式批准。该文本将于两周后在委员会一级获得认可，预计将于四月进行全会表决。心怀不满的支持隐私权的立法者可能仍会试图通过提出修正案来阻碍法律的进展如果修正案获得通过，还需要与理事会进行额外的谈判。 但大多数在议会中参与《人工智能法》起草工作的人都相信，该法将在不做任何修改的情况下获得通过。 ... PC版： 手机版：

OpenAI 签署协议以 Reddit 数据训练人工智能

OpenAI 签署协议以 Reddit 数据训练人工智能 人工智能公司 OpenAI 已与 Reddit 达成协议，使用该社交新闻网站的数据来训练人工智能模型。OpenAI 表示，与 Reddit 的合作将使其能够访问 Reddit 上的“实时、结构化和独特内容” (例如帖子和回复)，从而使其工具和模型能够“更好地理解和展示”这些内容。Reddit 的内容将被整合到 OpenAI 流行的对话式人工智能 ChatGPT 中，双方将合作为 Reddit 用户和版主带来未具体说明的新“人工智能功能”。OpenAI 也将成为 Reddit 的广告合作伙伴。

英国机构发布测试人工智能模型安全性的工具

英国机构发布测试人工智能模型安全性的工具 英国人工智能安全机构英国安全研究所发布了一套工具集，旨在通过让行业、研究机构和学术界更容易开发人工智能评估来“加强人工智能安全”。该工具集名为 Inspect，可在开源许可证 (特别是 MIT 许可证) 下使用，旨在评估人工智能模型的某些功能，包括模型的核心知识和推理能力，并根据结果生成分数。英国安全研究所声表示，Inspect 标志着“首次由国家支持的机构牵头的人工智能安全测试平台发布以供更广泛使用”。Inspect 由三个基本组件组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器评估求解器的工作，并将测试中的分数汇总为指标。Inspect 的内置组件可以通过用 Python 编写的第三方包进行增强。   、、

Reddit 在 IPO 前签署人工智能内容许可协议

Reddit 在 IPO 前签署人工智能内容许可协议 据知情人士透露，Reddit Inc. 已与一家大型人工智能公司达成了一项丰厚的协议，允许其使用社交媒体平台的内容来训练其模型。该公司即将启动期待已久的首次公开募股。知情人士称，这家总部位于旧金山的公司在 IPO 中告诉潜在投资者，该公司已于今年早些时候签署了该协议，该交易的年化价值约为6000万美元。其中一位人士说， Reddit 与一家未具名的大型人工智能公司签订的协议可能成为未来类似性质合同的范本。