英国开始起草针对最强大模型的人工智能法规

英国开始起草针对最强大模型的人工智能法规 知情人士透露，英国正开始起草人工智能管理法规，重点关注 OpenAI 的 ChatGPT 所依赖的最强大的语言模型。据匿名知情人士透露，科学、创新和技术部政策官员正处于制定立法的早期阶段，以限制新兴技术可能造成的危害。他们表示，目前还没有法案即将出台，政府可能会等到今年晚些时候或明年年初法国举办人工智能会议时，再就该主题展开磋商。另外，知情人士称，“科技部”和“文化、媒体和体育部”官员还提议修改英国版权法，允许公司和个人选择不允许语言模型抓取他们的内容，这是娱乐业特别关注的问题。知情人士表示，苏纳克办公室尚未决定是否就版权问题展开磋商，该问题与政府正在制定的更广泛的人工智能立法无关，而且创意产业和科技公司在这一问题上仍然存在分歧。

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

英国政府将试用人工智能工具

英国政府将试用人工智能工具 英国的大臣们正在试点使用生成式人工智能来分析对政府意见征集的回应，撰写对议会问题的回答草稿。英国副首相奥利弗•道登将于周四公布一些工具，白厅核心的人工智能“精锐小组”正在试用这些工具，以期在中央部门和公共服务部门更广泛地推广这些工具。人工智能工具包括使用政府托管的 ChatGPT 版本和内部安全托管的开源人工智能模型，以起草对议员向大臣提交的问题和信息自由请求的初步答复。 ()

英国在旧金山设立办事处 用以应对人工智能风险

英国在旧金山设立办事处 用以应对人工智能风险 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 湾区是 OpenAI、Anthropic、Google和 Meta 等公司开发人工智能基础技术的所在地。基础模型是生成式人工智能服务和其他应用的基石，有趣的是，虽然英国已经与美国签署了谅解备忘录，两国将在人工智能安全方面开展合作，但英国仍然选择在美国投资建立自己的直接机构来解决这一问题。英国科学、创新和技术大臣米歇尔-多纳兰（Michelle Donelan）在接受采访时说："通过在旧金山派驻人员，可以让他们接触到许多人工智能公司的总部。其中一些公司在英国本土设有基地，但我们认为在那里设立基地也非常有用，可以接触到更多的人才库，并能与美国开展更多的合作，携手共进。"部分原因在于，对英国来说，更接近行业核心不仅有助于了解正在建设的项目，还能让英国在这些公司中拥有更高的知名度这一点非常重要，因为英国将人工智能和技术整体视为经济增长和投资的巨大机遇。鉴于 OpenAI 最近围绕其"超级对齐"团队发生的戏剧性事件，在这里设立办事处显得尤为及时。人工智能安全研究所成立于 2023 年 11 月，目前规模相对较小。如果考虑到建立人工智能模型的公司所面临的数十亿美元投资，以及这些公司将其技术推广应用到付费用户手中的经济动机，那么该机构目前仅有 32 名员工，对于人工智能技术领域的歌利亚来说，是名副其实的"大卫"。本月早些时候，人工智能安全研究所发布了第一套用于测试基础人工智能模型安全性的工具Inspect。多纳兰今天称这次发布是"第一阶段"的努力。事实证明，迄今为止，为模型设定基准不仅具有挑战性，而且目前的参与在很大程度上是一种选择性的、不一致的安排。正如一位英国监管机构的资深人士所指出的，公司目前没有法律义务对其模型进行审核；而且并非每家公司都愿意在模型发布前对其进行审核。这可能意味着，在可能发现风险的情况下，马可能已经跑了。多纳兰说，人工智能安全研究所仍在研究如何以最佳方式与人工智能公司接触，对其进行评估。"我们的评估流程本身就是一门新兴科学，因此，在每一次评估中，我们都将开发流程，使其更加精细。"多纳兰说，在首尔的一个目标是向参加峰会的监管机构提交检查报告，希望他们也能采纳。"现在我们有了一个评估系统。第二阶段还需要在全社会范围内确保人工智能的安全，"她说。从长远来看，多纳兰认为英国将制定更多的人工智能立法，不过，英国首相苏纳克（Rishi Sunak）也表示，在更好地了解人工智能风险的范围之前，英国不会这么做。该研究所最近发布的国际人工智能安全报告主要侧重于试图全面了解迄今为止的研究情况，"我们不相信在我们正确掌握和充分了解之前就立法，"她说，"报告强调，目前还存在很大的差距，我们需要在全球范围内激励和鼓励更多的研究。""在英国，立法也需要一年左右的时间。如果我们一开始就开始立法，而不是[组织][去年11月举行的]人工智能安全峰会，我们现在可能还在立法，而实际上我们不会有任何成果。"人工智能安全研究所主席伊恩-霍加斯（Ian Hogarth）说："从研究所成立的第一天起，我们就清楚地认识到，在人工智能安全、共享研究成果以及与其他国家合作测试模型和预测前沿人工智能风险等方面采取国际化方法的重要性。今日的进展标志着一个关键时刻，使我们能够进一步推进这一议程，我们很自豪能够在一个科技人才迸发的地区扩大我们的业务，为我们在伦敦的员工从一开始就带来的令人难以置信的专业知识锦上添花。" ... PC版： 手机版：

中国预计下月出席英国人工智能峰会

中国预计下月出席英国人工智能峰会 据英国和中国官员称，中国计划参加下个月在布莱切利公园举行的英国人工智能峰会，尽管最近有关北京在威斯敏斯特涉嫌间谍活动的争议不断。 英国首相里希·苏纳克 (Rishi Sunak) 将人工智能峰会视为一次聚集全球政策制定者和技术高管的机会，以制定治理快速新兴技术的国际方法。 两名中国政府官员告诉英国《金融时报》，中国已决定至少派出一名代表参加此次峰会。英国官员还表示，北京已接受伦敦出席峰会的邀请。 在华盛顿加强对北京获取人工智能技术的控制之际，将中国代表与西方领导人聚集在一起面临着外交挑战，这使得中国的参与变得不确定。 英国外交大臣詹姆斯·克莱弗利 (James Cleverly) 表示，如果我们将人工智能技术领先国家之一排除在外，政府就无法“确保英国公众免受人工智能风险”。 为期两天的峰会将于 11 月 1 日在伦敦郊外的二战密码破译中心布莱切利公园开始。英国官员表示，他们预计中国将出席这两天的会议。

IBM称赞欧洲议会批准《人工智能法案》

IBM称赞欧洲议会批准《人工智能法案》 虽然必须开展重要工作以确保该法案成功实施，但 IBM 相信该法规将促进对人工智能系统的信任和信心，同时促进创新和竞争力。"我赞扬欧盟在通过全面、智能的人工智能立法方面发挥的领导作用。基于风险的方法与 IBM 对人工智能道德实践的承诺相一致，将有助于建立开放、可信的人工智能生态系统，"IBM 副总裁兼首席隐私与信任官 Christina Montgomery 说。"IBM随时准备提供我们的技术和专业知识（包括我们的watsonx.governance产品），帮助我们的客户和其他利益相关者遵守欧盟人工智能法案和全球即将出台的立法，以便我们都能释放负责任人工智能的巨大潜力。"欲了解更多有关IBM应对AI监管的信息，请访问： 成为全球首部全面的AI监管法规 ... PC版： 手机版：