英国将成为首个成立人工智能安全研究所的国家

英国将成为首个成立人工智能安全研究所的国家苏纳克于2023年5月会见了人工智能行业的领导者，即OpenAI、Google和Anthropic，讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能（AGI）的倡议做了准备。苏纳克说："在安全可靠的情况下，人工智能有可能带来变革和经济增长。"在这一进展之后，英国政府宣布将于11月1日和2日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家，目标是考虑人工智能的风险，尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。此次峰会将重点关注前沿人工智能（FrontierAI），这是一类能力极强的基础模型，其性能与现有模型相当或更胜一筹。就在峰会召开前一周，英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所，这在世界上尚属首次。根据苏纳克的说法，该研究所将"仔细评估和测试新型人工智能，以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说，在未来，我们可能会看到由人工智能进行和防御的网络攻击，而在每一个步骤中，人类的监督都会被最小化。...PC版：https://www.cnbeta.com.tw/articles/soft/1392513.htm手机版：https://m.cnbeta.com.tw/view/1392513.htm

英国安全研究所发布人工智能模型安全性测试工具

英国安全研究所发布人工智能模型安全性测试工具在周五宣布这一消息的新闻稿中，安全研究所声称，Inspect标志着"由国家支持的机构主导的人工智能安全测试平台首次被广泛使用"。安全研究所主席伊恩-霍加斯（IanHogarth）在一份声明中说："人工智能安全测试方面的成功合作意味着要有一个共享的、可访问的评估方法，我们希望Inspect能够成为一个基石。我们希望看到全球人工智能社区利用Inspect不仅开展自己的模型安全性测试，而且帮助调整和构建开源平台，以便我们能够全面开展高质量的评估。"众所周知，人工智能基准很难制定--其中最重要的原因是，当今最复杂的人工智能模型几乎都是黑盒，其基础设施、训练数据和其他关键细节都被创建这些模型的公司保密。那么，Inspect如何应对这一挑战呢？主要是通过可扩展的新测试技术。Inspect由三个基本部分组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器负责评估求解器的工作，并将测试得分汇总为指标。可以通过用Python编写的第三方软件包来增强Inspect的内置组件。Mozilla研究员、著名人工智能伦理学家德博拉-拉吉（DeborahRaj）在X上发表了一篇文章，称Inspect"证明了对人工智能问责开源工具的公共投资的力量"。人工智能初创公司HuggingFace的首席执行官克莱门特-德朗格（ClémentDelangue）提出了将Inspect与HuggingFace的模型库整合在一起，或利用工具集的评估结果创建一个公共排行榜的想法。Inspect发布之前，美国政府机构--国家标准与技术研究院（NIST）启动了NISTGenAI，该计划旨在评估各种生成式人工智能技术，包括文本和图像生成人工智能。NISTGenAI计划发布基准，帮助创建内容真实性检测系统，并鼓励开发能识别虚假或误导性人工智能生成信息的软件。今年4月，美国和英国宣布建立合作伙伴关系，共同开发先进的人工智能模型测试，这是继去年11月英国在布莱切利公园举行的人工智能安全峰会上宣布承诺之后的又一合作。作为合作的一部分，美国打算成立自己的人工智能安全研究所，广泛负责评估人工智能和生成式人工智能的风险。...PC版：https://www.cnbeta.com.tw/articles/soft/1430544.htm手机版：https://m.cnbeta.com.tw/view/1430544.htm

苹果公司加入美国商务部人工智能安全研究所联盟

苹果公司加入美国商务部人工智能安全研究所联盟雷蒙多在一份声明中说："美国政府在制定标准和开发工具方面可以发挥重要作用，我们需要这些标准和工具来降低人工智能的风险，利用人工智能的巨大潜力。该小组将与该部门的国家标准与技术研究所合作，开展拜登总统人工智能行政命令中列出的优先行动，包括组建红队、能力评估、风险管理、安全保障和合成内容水印的指导方针"。其他科技公司以及民间团体、学术界、州和地方政府官员也将参与其中，以制定有关人工智能监管的安全标准。由于生成式人工智能具有增强创造力、提高效率和推动技术进步的潜力，因此引起了人们的兴奋。然而，围绕着生成式人工智能的担忧包括深度伪造等道德问题、对就业的潜在影响、信息可靠性问题以及确保隐私和有效监管方面的挑战。据说，由于训练大型语言模型需要大量硬件，苹果公司每天要花费数百万美元用于人工智能研究。据一份报告称，到2024年，苹果公司在人工智能服务器上的花费将超过40亿美元。据说苹果公司正在开发自己的生成式人工智能模型"Ajax"。Ajax的设计目标是与OpenAI的GPT-3和GPT-4相媲美，它可以在2000亿个参数上运行，这表明它在语言理解和生成方面具有很高的复杂性和能力。Ajax在内部被称为"AppleGPT"，旨在统一整个苹果公司的机器学习开发，表明了苹果公司将人工智能更深入地融入其生态系统的更广泛战略。该模型的某些方面可能会被整合到iOS18中，例如具有类似ChatGPT的生成式人工智能功能的增强版Siri。TheInformation和分析师杰夫-普（JeffPu）都声称，苹果将于今年晚些时候在iPhone和iPad上推出某种生成式人工智能功能。...PC版：https://www.cnbeta.com.tw/articles/soft/1417041.htm手机版：https://m.cnbeta.com.tw/view/1417041.htm

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（GinaRaimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在11月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。...PC版：https://www.cnbeta.com.tw/articles/soft/1425987.htm手机版：https://m.cnbeta.com.tw/view/1425987.htm

英国机构发布测试人工智能模型安全性的工具

英国机构发布测试人工智能模型安全性的工具英国人工智能安全机构英国安全研究所发布了一套工具集，旨在通过让行业、研究机构和学术界更容易开发人工智能评估来“加强人工智能安全”。该工具集名为Inspect，可在开源许可证(特别是MIT许可证)下使用，旨在评估人工智能模型的某些功能，包括模型的核心知识和推理能力，并根据结果生成分数。英国安全研究所声表示，Inspect标志着“首次由国家支持的机构牵头的人工智能安全测试平台发布以供更广泛使用”。Inspect由三个基本组件组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器评估求解器的工作，并将测试中的分数汇总为指标。Inspect的内置组件可以通过用Python编写的第三方包进行增强。 ——、、

现代汽车集团将在美建人工智能机器人研究所

现代汽车集团将在美建人工智能机器人研究所据韩联社报道，韩国现代汽车集团12日表示将在美国创办人工智能机器人研究所，在提升“机器人科学”（Robotics）、自动驾驶等未来产业竞争力的同时，巩固智能移动出行解决方案提供商的地位。据报道，现代汽车集团在美国马萨诸塞州的波士顿都市区剑桥市成立人工智能机器人研究所，旗下现代汽车、起亚和现代摩比斯三家公司将为此出资4.24亿美元。此外，集团去年在美收购的机器人工程技术开发公司波士顿动力公司（BostonDynamics）也将持有研究所少量股份。据介绍，该研究所将优先确保掌握研制新一代机器人的基础技术，即在发展机器人运动智能、认知功能等技术的同时，通过外部收集的数据挑战机器人的可操控极限。研究所还计划研发能够改善机器人通用性的人工智能模型。（校对/朱秩磊）...PC版：https://www.cnbeta.com/articles/soft/1304113.htm手机版：https://m.cnbeta.com/view/1304113.htm