【白宫科技政策办公室主任：中美将在人工智能安全方面开展合作】

【白宫科技政策办公室主任：中美将在人工智能安全方面开展合作】 据 1 月 25 日报道，美国白宫科技政策办公室主任 Arati Prabhakar 表示，美国将在未来几个月与中国就人工智能系统的安全进行合作。尽管中美在人工智能方面的贸易紧张，但两国将共同努力降低风险并进行评估。 快讯/广告 联系 @xingkong888885

中美将在人工智能安全方面开展合作

中美将在人工智能安全方面开展合作 白宫首席科学顾问表示，未来几个月，美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。 白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》，尽管中美在人工智能领域存在贸易紧张，但两国将合作减轻人工智能的风险并评估其潜在能力。 “我们已经采取措施参与这一进程，”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明，即使在两国贸易紧张局势加剧之际，两国也计划合作保护快速发展的技术。

上海人工智能实验室主任周伯文：AI 安全与性能发展失衡，探索 AI 45° 平衡律

上海人工智能实验室主任周伯文：AI 安全与性能发展失衡，探索 AI 45° 平衡律 2024 世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。上海人工智能实验室主任、首席科学家、清华大学惠妍讲席教授周伯文提出探索 “人工智能 45 度平衡律” 的技术主张。“发展可信 AGI（通用人工智能），要兼顾安全与性能，因此需要找到 AI 安全优先但又能保证 AI 能力长期发展的技术体系，我们把这样一种技术思想体系叫作 AI 45 度平衡律，长期来看要大体上沿着 45 度安全与性能平衡发展。” 周伯文表示，所谓的平衡是指短期内可以有波动，但不能长期低于 45 度，如同我们所处的现在；也不能长期高于 45 度，这会阻碍技术和产业应用的发展。（澎湃）

调查：中国在生成式人工智能应用方面领先

调查：中国在生成式人工智能应用方面领先 美国开展人工智能和分析软件等业务的 SAS 公司网站日前发布一项调查显示，中国在生成式人工智能应用方面处于领先地位。受访的中国行业决策者中超过 80% 表示，他们所在的组织使用了生成式人工智能，高于参与调查的其他 16 个国家和地区。（新华社）

美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议 美国和英国签署了一项具有里程碑意义的人工智能协议，这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议，列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所 (AISI) 和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估 OpenAI 和谷歌等公司建立的私人人工智能模型。

《金融时报》推出根据数十年文章内容库训练出来的AI机器人Ask FT

《金融时报》推出根据数十年文章内容库训练出来的AI机器人Ask FT 当我们问"谁负责微软的人工智能产品？"时，该工具返回了最新的答案，并提到了本周爆出的微软聘请DeepMind 联合创始人穆斯塔法-苏莱曼（Mustafa Suleyman）担任其新人工智能团队负责人的消息：穆斯塔法-苏莱曼（Mustafa Suleyman）目前作为微软人工智能（Microsoft AI）的负责人，负责管理微软面向消费者的人工智能产品和部门，直接向萨蒂亚-纳德拉（Satya Nadella）汇报工作[1,2,3]。他是从 Inflection AI 公司调来的，目的是扩大微软为个人消费者开发生成式人工智能的重点[1,2,3,4,6]。括号中的数字对应的是它从FT文章中提取的信息，并列在答案下方。它还提供了这些文章的写作时间段。在微软公司的这道题中，它说它从 2023 年 3 月 1 日到 2024 年 3 月 20 日提取了信息。不过，我们发现有些答案并不一致。在我们进行测试时，该工具在回答"目前谁正在参加2024年美国总统大选"的问题时，将尼基-海利（Nikki Haley）列入了答案，尽管她已经退出了竞选。FT 专业版的几百名付费用户可以使用它，该版面向商业专业人士和机构。Ask FT 目前由 Anthropic 开发的大型语言模型（LLM）Claude 提供支持，但这种情况可能会发生变化。FT 首席产品官林赛-杰恩（Lindsey Jayne）表示，该媒体正在"以'不可知模型'的方式来处理这个问题，看看哪一种最符合我们的需求"。它可以回答有关时事的问题，如英特尔根据《CHIPS 法案》从美国政府获得了多少资金，也可以回答更广泛的问题，如加密货币对环境的影响。然后，该工具会收集《金融时报》的档案，并通过引用总结相关信息。Ask FT 还将回答需要深入挖掘《金融时报》档案的问题。当被问及 YouTube 如何起步时，它正确地回答说，YouTube 是由 Chad Hurley、Steve Chen 和 Jawed Karim 于 2005 年 2 月创办的。杰恩说："我们在内部进行了大量的测试，并利用这些测试来改进我们指导模型和构建代码的方式。在第一批 500 人中，我们正在跟踪每一个问题和回答，以及用户的反馈"。去年，我们试用了市场营销公司 Foundry 旗下数字媒体（包括Macworld、 PCWorld 和 Tech Advisor）部署的类似工具。不过，当时它并不像 Ask FT 那样有用；我的同事 Mia Sato发现，它对一些简单的问题（如上一款 iPod Nano 是什么时候发布的）提供的结果并不准确。杰恩说："我认为，如果不持续不断发展并迎接这些时刻，就不可能成为一家拥有 135 年历史的机构。但必须要聪明，不能一味地炒作......否则人们只是为了新奇而玩玩，然后继续过自己的生活。"大多数用户现在还不能试用聊天机器人。Ask FT 目前仍处于测试阶段，英国《金融时报》将继续对其进行测试和评估。 ... PC版： 手机版：