英国安全研究所发布人工智能模型安全性测试工具

英国安全研究所发布人工智能模型安全性测试工具在周五宣布这一消息的新闻稿中，安全研究所声称，Inspect标志着"由国家支持的机构主导的人工智能安全测试平台首次被广泛使用"。安全研究所主席伊恩-霍加斯（IanHogarth）在一份声明中说："人工智能安全测试方面的成功合作意味着要有一个共享的、可访问的评估方法，我们希望Inspect能够成为一个基石。我们希望看到全球人工智能社区利用Inspect不仅开展自己的模型安全性测试，而且帮助调整和构建开源平台，以便我们能够全面开展高质量的评估。"众所周知，人工智能基准很难制定--其中最重要的原因是，当今最复杂的人工智能模型几乎都是黑盒，其基础设施、训练数据和其他关键细节都被创建这些模型的公司保密。那么，Inspect如何应对这一挑战呢？主要是通过可扩展的新测试技术。Inspect由三个基本部分组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器负责评估求解器的工作，并将测试得分汇总为指标。可以通过用Python编写的第三方软件包来增强Inspect的内置组件。Mozilla研究员、著名人工智能伦理学家德博拉-拉吉（DeborahRaj）在X上发表了一篇文章，称Inspect"证明了对人工智能问责开源工具的公共投资的力量"。人工智能初创公司HuggingFace的首席执行官克莱门特-德朗格（ClémentDelangue）提出了将Inspect与HuggingFace的模型库整合在一起，或利用工具集的评估结果创建一个公共排行榜的想法。Inspect发布之前，美国政府机构--国家标准与技术研究院（NIST）启动了NISTGenAI，该计划旨在评估各种生成式人工智能技术，包括文本和图像生成人工智能。NISTGenAI计划发布基准，帮助创建内容真实性检测系统，并鼓励开发能识别虚假或误导性人工智能生成信息的软件。今年4月，美国和英国宣布建立合作伙伴关系，共同开发先进的人工智能模型测试，这是继去年11月英国在布莱切利公园举行的人工智能安全峰会上宣布承诺之后的又一合作。作为合作的一部分，美国打算成立自己的人工智能安全研究所，广泛负责评估人工智能和生成式人工智能的风险。...PC版：https://www.cnbeta.com.tw/articles/soft/1430544.htm手机版：https://m.cnbeta.com.tw/view/1430544.htm

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（GinaRaimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在11月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。...PC版：https://www.cnbeta.com.tw/articles/soft/1425987.htm手机版：https://m.cnbeta.com.tw/view/1425987.htm

美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议美国和英国签署了一项具有里程碑意义的人工智能协议，这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议，列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所(AISI)和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估OpenAI和谷歌等公司建立的私人人工智能模型。——

美国和英国宣布在人工智能安全和测试方面建立合作伙伴关系

美国和英国宣布在人工智能安全和测试方面建立合作伙伴关系4月1日，美国和英国宣布在人工智能安全科学方面建立新的合作伙伴关系。美国商务部长吉娜・雷蒙多和英国技术大臣米歇尔・多尼兰在华盛顿签署了一份谅解备忘录，共同开发先进的人工智能模型测试。根据正式的伙伴关系，英国和美国计划至少进行一次公开模式的联合测试，并正在考虑探索两所研究所之间的人员交流。两国都在努力与其他国家建立类似的伙伴关系，以促进人工智能的安全。雷蒙多表示，她将于4月4日在比利时举行的美欧贸易和技术理事会会议上提出人工智能问题。

【英国发布人工智能监管白皮书，概述针对ChatGPT等人工智能治理的五项原则】

【英国发布人工智能监管白皮书，概述针对ChatGPT等人工智能治理的五项原则】2023年03月29日08点35分老不正经报道，英国政府发布了针对人工智能产业监管的白皮书，概述了针对ChatGPT等人工智能治理的五项原则。它们分别是：安全性和稳健性、透明度和可解释性、公平性、问责制和管理，以及可竞争性。在接下来的12个月里，监管机构将向相关组织发布实用指南，以及风险评估模板等其他工具，制定基于五项原则的一些具体规则。也将在议会推动立法，制定具体的人工智能法案。

美国和英国在人工智能安全领域达成里程碑式协议

美国和英国在人工智能安全领域达成里程碑式协议当地时间4月2日，美国和英国宣布建立人工智能安全科学合作伙伴关系，在AI安全的研究、安全评估和指导方面开展合作。双方在华盛顿签署谅解备忘录，寻求为最先进的AI模型开发测试，兑现去年11月在AI安全峰会上做出的承诺。美英两国计划在一个可公开访问的模型上至少开展一次联合测试，并考虑探索各自AI安全研究所之间的人员交流。据悉，这是全球首个关于AI安全的双边协议。（界面新闻）