【拜登敦促科技公司应对人工智能的风险】

【拜登敦促科技公司应对人工智能的风险】 美国总统拜登周二表示，人工智能（AI）的安全性仍存在不确定性，并强调科技公司在向公众发布产品之前应确保其产品安全。 在与总统科技顾问委员会 (PCAST​​) 的会议开始时，他表示，科技公司必须确保其产品在向公众发布之前是安全的。当被问及人工智能的潜在危害时，他回答说，“还没有确定，有可能。” 根据总统的说法，社交媒体已经证明了强大的技术在没有适当的保护措施的情况下可能产生的负面影响。“缺乏保障措施，我们看到了对心理健康、自我形象和感觉以及绝望的影响，尤其是在年轻人中。”

中美将在人工智能安全方面开展合作

中美将在人工智能安全方面开展合作 白宫首席科学顾问表示，未来几个月，美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。 白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》，尽管中美在人工智能领域存在贸易紧张，但两国将合作减轻人工智能的风险并评估其潜在能力。 “我们已经采取措施参与这一进程，”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明，即使在两国贸易紧张局势加剧之际，两国也计划合作保护快速发展的技术。

英国在旧金山设立办事处 用以应对人工智能风险

英国在旧金山设立办事处 用以应对人工智能风险 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 湾区是 OpenAI、Anthropic、Google和 Meta 等公司开发人工智能基础技术的所在地。基础模型是生成式人工智能服务和其他应用的基石，有趣的是，虽然英国已经与美国签署了谅解备忘录，两国将在人工智能安全方面开展合作，但英国仍然选择在美国投资建立自己的直接机构来解决这一问题。英国科学、创新和技术大臣米歇尔-多纳兰（Michelle Donelan）在接受采访时说："通过在旧金山派驻人员，可以让他们接触到许多人工智能公司的总部。其中一些公司在英国本土设有基地，但我们认为在那里设立基地也非常有用，可以接触到更多的人才库，并能与美国开展更多的合作，携手共进。"部分原因在于，对英国来说，更接近行业核心不仅有助于了解正在建设的项目，还能让英国在这些公司中拥有更高的知名度这一点非常重要，因为英国将人工智能和技术整体视为经济增长和投资的巨大机遇。鉴于 OpenAI 最近围绕其"超级对齐"团队发生的戏剧性事件，在这里设立办事处显得尤为及时。人工智能安全研究所成立于 2023 年 11 月，目前规模相对较小。如果考虑到建立人工智能模型的公司所面临的数十亿美元投资，以及这些公司将其技术推广应用到付费用户手中的经济动机，那么该机构目前仅有 32 名员工，对于人工智能技术领域的歌利亚来说，是名副其实的"大卫"。本月早些时候，人工智能安全研究所发布了第一套用于测试基础人工智能模型安全性的工具Inspect。多纳兰今天称这次发布是"第一阶段"的努力。事实证明，迄今为止，为模型设定基准不仅具有挑战性，而且目前的参与在很大程度上是一种选择性的、不一致的安排。正如一位英国监管机构的资深人士所指出的，公司目前没有法律义务对其模型进行审核；而且并非每家公司都愿意在模型发布前对其进行审核。这可能意味着，在可能发现风险的情况下，马可能已经跑了。多纳兰说，人工智能安全研究所仍在研究如何以最佳方式与人工智能公司接触，对其进行评估。"我们的评估流程本身就是一门新兴科学，因此，在每一次评估中，我们都将开发流程，使其更加精细。"多纳兰说，在首尔的一个目标是向参加峰会的监管机构提交检查报告，希望他们也能采纳。"现在我们有了一个评估系统。第二阶段还需要在全社会范围内确保人工智能的安全，"她说。从长远来看，多纳兰认为英国将制定更多的人工智能立法，不过，英国首相苏纳克（Rishi Sunak）也表示，在更好地了解人工智能风险的范围之前，英国不会这么做。该研究所最近发布的国际人工智能安全报告主要侧重于试图全面了解迄今为止的研究情况，"我们不相信在我们正确掌握和充分了解之前就立法，"她说，"报告强调，目前还存在很大的差距，我们需要在全球范围内激励和鼓励更多的研究。""在英国，立法也需要一年左右的时间。如果我们一开始就开始立法，而不是[组织][去年11月举行的]人工智能安全峰会，我们现在可能还在立法，而实际上我们不会有任何成果。"人工智能安全研究所主席伊恩-霍加斯（Ian Hogarth）说："从研究所成立的第一天起，我们就清楚地认识到，在人工智能安全、共享研究成果以及与其他国家合作测试模型和预测前沿人工智能风险等方面采取国际化方法的重要性。今日的进展标志着一个关键时刻，使我们能够进一步推进这一议程，我们很自豪能够在一个科技人才迸发的地区扩大我们的业务，为我们在伦敦的员工从一开始就带来的令人难以置信的专业知识锦上添花。" ... PC版： 手机版：

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

中美关于共同应对人工智能风险的会谈将在日内瓦举行

中美关于共同应对人工智能风险的会谈将在日内瓦举行 乔-拜登总统的政府一直寻求在一系列问题上与中国接触，以减少两个竞争对手之间的误解。美国国务卿安东尼-布林肯和中国外交部长王毅于4月在北京讨论了人工智能问题，并同意就此问题举行首次正式双边会谈。美国国务院已向中国和俄罗斯施压，要求它们响应美国的声明，即只有人类而非人工智能才能做出部署核武器的决定。"这是第一次此类会议。因此，我们预计将对所有风险进行讨论，但目前不会预先判断任何具体细节，"一位高级政府官员在会议前告诉记者，当被问及美国是否会优先考虑核武器问题时。这位官员说，中国在民用、军事和国家安全部门快速部署人工智能能力往往会破坏美国及其盟国的安全，并补充说，会谈将使华盛顿能够直接表达其关切。官员补充说："非常明确的一点是，与中国政府的会谈重点不是促进任何形式的技术协作，也不是在任何问题上开展前沿研究合作。我们的技术保护政策也不容谈判。"白宫国家安全委员会（NSC）周一表示，美国代表团将包括白宫、国务院和商务部的官员。路透社报道称，拜登政府计划对美国开发的、为 ChatGPT 等流行聊天机器人提供动力的专有人工智能模型设置防护栏，以保护该技术不受中国和俄罗斯等国的影响。另一位美国官员在向记者介绍情况时说，华盛顿和北京正在竞相制定人工智能规则，但也希望探讨一些规则是否能"为所有国家所接受"。第二位官员说："在许多人工智能话题和应用上......我们的看法当然不尽相同，但我们相信，就关键的人工智能风险进行沟通可以让世界更加安全。"国家安全委员会官员塔伦-查布拉（Tarun Chhabra）和美国国务院关键和新兴技术代理特使塞思-中心（Seth Center）将带队与中国外交部和国家发展和改革委员会的官员举行会谈。美国参议院多数党领袖查克-舒默（Chuck Schumer）计划在未来几周内提出建议，以应对人工智能带来的风险，他说这些建议随后将转化为零散的立法。他提到了与中国的竞争以及中国在人工智能（包括监控和面部识别应用）方面的不同目标，这也是华盛顿需要在围绕这项快速发展的技术制定法律方面发挥主导作用的原因。中国政府一直强调其需要开发自己的"可控"人工智能技术。 ... PC版： 手机版：

美国总统拜登的大型人工智能科学项目获得微软、NVIDIA等公司的支持

美国总统拜登的大型人工智能科学项目获得微软、NVIDIA等公司的支持 国家自然科学基金会在一份声明中说，国家人工智能研究资源（NAIRR）为美国的人工智能研究人员提供访问人工智能模型、计算能力、数据集、软件和培训的机会。 研究人员可以通过其网站申请访问NAIRR试点项目，NAIRR计划在今年春季启动第二次研究提案征集活动。 如果获得访问权，研究人员就可以使用微软Azure或亚马逊Bedrock等昂贵、处理能力强的服务，而这些服务通常需要用研究经费来支付。除国家自然科学基金外，参与 NAIRR 项目的其他政府机构包括美国国防部高级研究计划局、美国国家航空航天局（NASA）、美国国立卫生研究院、美国国家标准与技术研究院、美国国家海洋与大气管理局、美国农业部、美国国防部、美国能源部、美国退伍军人事务部以及美国专利商标局。政府正在与 15 家私营部门合作伙伴合作，包括亚马逊网络服务公司、Anthropic、AMD、EleutherAI、Google、Hugging Face、IBM、英特尔、Meta、微软、NVIDIA、OpenAI 和 Palantir。NVIDIA和微软分别介绍了各自对NAIRR的贡献。微软表示，它捐赠了2000万美元的Azure消费额度、Azure OpenAI服务中模型的访问权限，以及人工智能公平性、准确性和隐私方面的工作资源，NVIDIA承诺提供其DGX云和AI企业软件的访问权限。国家自然科学基金委员会主任塞图拉曼-潘查纳坦（Sethuraman Panchanathan）在声明中说："为了继续在人工智能研发领域保持领先地位，我们必须在全国范围内创造机会，推进人工智能创新，加强教育机会，使国家有能力塑造国际标准，点燃经济增长的火花。"拜登的人工智能行政命令指示政府机构建立NAIRR，以确保美国继续成为世界领先的人工智能创新中心。由于Google和OpenAI等公司总部设在美国，美国在生成式人工智能的投资和研究方面继续处于领先地位，与此同时，其他地区也在加强对该技术的关注。根据《哈佛商业评论》的报道，中国、英国、日本和德国是投入人工智能开发资源最多的五个国家。在缺乏明确法规的情况下，大型科技公司一直与政府在人工智能方面保持合作。在人工智能行政命令发布之前，拜登白宫已从 Meta、Google和 OpenAI 等公司处获得了自愿性、非约束性协议，以安全开发人工智能系统。然而，政府与主要科技公司之间的这种紧密合作引发了监管“灯下黑”问题，而这种问题很可能不会随着 NAIRR 的推出而消失。NAIRR 试点项目最初将重点关注四个领域：促进对各种人工智能资源的访问；促进需要安全和隐私保护的人工智能研究；促进和发展人工智能平台之间的互操作性；教育和培训社区使用人工智能工具。国家自然科学基金会在声明中说，NAIRR 的首批项目主要集中在将人工智能应用于医疗保健和环境可持续性方面。 ... PC版： 手机版：