英国将成为首个成立人工智能安全研究所的国家

英国将成为首个成立人工智能安全研究所的国家苏纳克于2023年5月会见了人工智能行业的领导者，即OpenAI、Google和Anthropic，讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能（AGI）的倡议做了准备。苏纳克说："在安全可靠的情况下，人工智能有可能带来变革和经济增长。"在这一进展之后，英国政府宣布将于11月1日和2日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家，目标是考虑人工智能的风险，尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。此次峰会将重点关注前沿人工智能（FrontierAI），这是一类能力极强的基础模型，其性能与现有模型相当或更胜一筹。就在峰会召开前一周，英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所，这在世界上尚属首次。根据苏纳克的说法，该研究所将"仔细评估和测试新型人工智能，以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说，在未来，我们可能会看到由人工智能进行和防御的网络攻击，而在每一个步骤中，人类的监督都会被最小化。...PC版：https://www.cnbeta.com.tw/articles/soft/1392513.htm手机版：https://m.cnbeta.com.tw/view/1392513.htm

美国国家安全局将成立人工智能安全中心

美国国家安全局将成立人工智能安全中心陆军上将PaulNakasone表示，该中心将并入美国国家安全局的网络安全合作中心（CybersecurityCollaborationCenter），与私营企业和国际合作伙伴合作，强化美国国防工业基础，抵御来自以中国和俄罗斯为首的对手的威胁。"今天，美国在人工智能领域保持着优势。这种人工智能优势不应被视为理所当然，"PaulNakasone在国家新闻俱乐部说，并特别强调了来自北京的威胁。当被问及美国是否发现俄罗斯或中国试图影响2024年美国总统大选时，中曾根说："我们还没有看到这种情况。"他指出，在此之前，世界各地将举行一系列选举，并表示美国将与合作伙伴和盟国合作，帮助阻止任何此类努力。...PC版：https://www.cnbeta.com.tw/articles/soft/1387351.htm手机版：https://m.cnbeta.com.tw/view/1387351.htm

G7同意立法监管人工智能

G7同意立法监管人工智能七国集团（G7）的数字和技术部长星期天（4月30日）在日本结束为期两天的会议后，同意“基于风险”推出一项针对人工智能的监管法案。路透社报道，根据联合声明，G7虽同意出台相应的监管政策，但重申监管也应该为人工智能（ArtificialIntelligence，简称AI）技术“保持一个开放有利的环境”，并以民主价值观为基础。虽然各国或基于不同的目标和愿景出台各自的监管机制，但此次达成的协议也为各国基于隐私问题和安全风险管理人工智能树立了一个里程碑。欧盟委员会执行副主席维斯塔格（MargretheVestager）协议达成之前曾透露：”这次七国集团会议的结论表明，我们在这方面绝对不是孤立的。”据了解，各国政府尤其关注“生成式人工智能”（generativeAI）的普及，例如由微软公司注资的OpenAI开发的人工智能聊天机器人ChatGPT。自11月推出以来，ChatGPT已成为历史上增长最快的消费者应用程序，短短几星期就达到1亿个月活跃用户。[Media]声明还指出：”我们（G7）计划在未来召开关于生成式人工智能的讨论，其中可能包括治理、如何保障包括版权在内的知识产权、促进透明度、解决虚假信息，并包括外国势力的信息操纵等主题。”4月28日，欧盟提出新的立法草案，要求ChatGPT等人工智能工具的开发商，透露他们在构建AI系统时使用的版权材料。这可能为制定全球首个全面监管AI技术的法规铺平道路。这一规则将赋能出版商和内容创作者，使他们在作品被ChatGPT等AI工具用作生成内容的原始材料时，可寻求利润分成。欧盟科技监管负责人维斯塔格说，G7“将在今年就人工智能立法达成政治协议”，例如对人工智能生成的图像或音乐的标签义务，以解决版权和教育风险。

英国机构发布测试人工智能模型安全性的工具

英国机构发布测试人工智能模型安全性的工具英国人工智能安全机构英国安全研究所发布了一套工具集，旨在通过让行业、研究机构和学术界更容易开发人工智能评估来“加强人工智能安全”。该工具集名为Inspect，可在开源许可证(特别是MIT许可证)下使用，旨在评估人工智能模型的某些功能，包括模型的核心知识和推理能力，并根据结果生成分数。英国安全研究所声表示，Inspect标志着“首次由国家支持的机构牵头的人工智能安全测试平台发布以供更广泛使用”。Inspect由三个基本组件组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器评估求解器的工作，并将测试中的分数汇总为指标。Inspect的内置组件可以通过用Python编写的第三方包进行增强。 ——、、