英国在旧金山设立办事处 用以应对人工智能风险

英国在旧金山设立办事处 用以应对人工智能风险 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 湾区是 OpenAI、Anthropic、Google和 Meta 等公司开发人工智能基础技术的所在地。基础模型是生成式人工智能服务和其他应用的基石，有趣的是，虽然英国已经与美国签署了谅解备忘录，两国将在人工智能安全方面开展合作，但英国仍然选择在美国投资建立自己的直接机构来解决这一问题。英国科学、创新和技术大臣米歇尔-多纳兰（Michelle Donelan）在接受采访时说："通过在旧金山派驻人员，可以让他们接触到许多人工智能公司的总部。其中一些公司在英国本土设有基地，但我们认为在那里设立基地也非常有用，可以接触到更多的人才库，并能与美国开展更多的合作，携手共进。"部分原因在于，对英国来说，更接近行业核心不仅有助于了解正在建设的项目，还能让英国在这些公司中拥有更高的知名度这一点非常重要，因为英国将人工智能和技术整体视为经济增长和投资的巨大机遇。鉴于 OpenAI 最近围绕其"超级对齐"团队发生的戏剧性事件，在这里设立办事处显得尤为及时。人工智能安全研究所成立于 2023 年 11 月，目前规模相对较小。如果考虑到建立人工智能模型的公司所面临的数十亿美元投资，以及这些公司将其技术推广应用到付费用户手中的经济动机，那么该机构目前仅有 32 名员工，对于人工智能技术领域的歌利亚来说，是名副其实的"大卫"。本月早些时候，人工智能安全研究所发布了第一套用于测试基础人工智能模型安全性的工具Inspect。多纳兰今天称这次发布是"第一阶段"的努力。事实证明，迄今为止，为模型设定基准不仅具有挑战性，而且目前的参与在很大程度上是一种选择性的、不一致的安排。正如一位英国监管机构的资深人士所指出的，公司目前没有法律义务对其模型进行审核；而且并非每家公司都愿意在模型发布前对其进行审核。这可能意味着，在可能发现风险的情况下，马可能已经跑了。多纳兰说，人工智能安全研究所仍在研究如何以最佳方式与人工智能公司接触，对其进行评估。"我们的评估流程本身就是一门新兴科学，因此，在每一次评估中，我们都将开发流程，使其更加精细。"多纳兰说，在首尔的一个目标是向参加峰会的监管机构提交检查报告，希望他们也能采纳。"现在我们有了一个评估系统。第二阶段还需要在全社会范围内确保人工智能的安全，"她说。从长远来看，多纳兰认为英国将制定更多的人工智能立法，不过，英国首相苏纳克（Rishi Sunak）也表示，在更好地了解人工智能风险的范围之前，英国不会这么做。该研究所最近发布的国际人工智能安全报告主要侧重于试图全面了解迄今为止的研究情况，"我们不相信在我们正确掌握和充分了解之前就立法，"她说，"报告强调，目前还存在很大的差距，我们需要在全球范围内激励和鼓励更多的研究。""在英国，立法也需要一年左右的时间。如果我们一开始就开始立法，而不是[组织][去年11月举行的]人工智能安全峰会，我们现在可能还在立法，而实际上我们不会有任何成果。"人工智能安全研究所主席伊恩-霍加斯（Ian Hogarth）说："从研究所成立的第一天起，我们就清楚地认识到，在人工智能安全、共享研究成果以及与其他国家合作测试模型和预测前沿人工智能风险等方面采取国际化方法的重要性。今日的进展标志着一个关键时刻，使我们能够进一步推进这一议程，我们很自豪能够在一个科技人才迸发的地区扩大我们的业务，为我们在伦敦的员工从一开始就带来的令人难以置信的专业知识锦上添花。" ... PC版： 手机版：

OpenAI 将在英国开设首个海外办事处

OpenAI 将在英国开设首个海外办事处 OpenAI 表示，其第一个国际办事处将设在伦敦。这一个引人注目的选择，自 2015 年成立以来，OpenAI 一直没有扩展到旧金山总部以外的地方。 伦敦这座城市还是 Google 最大的人工智能研究部门 DeepMind 的长期总部基地，也是数据科学人才的源泉，因为其丰富的学术历史和著名的大学。 OpenAI 首席执行官 Sam Altman 表示，此举是“吸引世界级人才的机会”。 此前，他批评了欧盟拟议的人工智能监管立法，该立法要求公司披露用于训练其系统的内容。与此同时，英国正在计划所谓的“支持创新”法规。 、

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

美国技术工作增长最快的都市分别是：旧金山、西雅图、圣何塞、洛杉矶、丹佛、奥斯汀、迈阿密。去年人工智能研发招聘近一半在：旧金山、圣

美国技术工作增长最快的都市分别是：旧金山、西雅图、圣何塞、洛杉矶、丹佛、奥斯汀、迈阿密。去年人工智能研发招聘近一半在：旧金山、圣何塞、纽约、洛杉矶、波士顿、西雅图，四分之一在旧金山和圣何塞。旧金山湾区（旧金山和圣何塞）仍然是美国高科技研发的中心。

英国机构发布测试人工智能模型安全性的工具

英国机构发布测试人工智能模型安全性的工具 英国人工智能安全机构英国安全研究所发布了一套工具集，旨在通过让行业、研究机构和学术界更容易开发人工智能评估来“加强人工智能安全”。该工具集名为 Inspect，可在开源许可证 (特别是 MIT 许可证) 下使用，旨在评估人工智能模型的某些功能，包括模型的核心知识和推理能力，并根据结果生成分数。英国安全研究所声表示，Inspect 标志着“首次由国家支持的机构牵头的人工智能安全测试平台发布以供更广泛使用”。Inspect 由三个基本组件组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器评估求解器的工作，并将测试中的分数汇总为指标。Inspect 的内置组件可以通过用 Python 编写的第三方包进行增强。   、、