Anthropic 聘请前 OpenAI 安全负责人领导新团队

Anthropic聘请前OpenAI安全负责人领导新团队Leike在X上发表文章说，他在Anthropic的团队将专注于人工智能安全和安保的各个方面，特别是"可扩展监督"、"弱到强的泛化"和自动对齐研究。一位熟悉内情的消息人士透露，Leike将直接向Anthropic的首席科学官JaredKaplan汇报工作，而Anthropic的研究人员目前正在研究可扩展的监督--以可预测和理想的方式控制大规模人工智能行为的技术--随着Leike团队的发展，他们将转而向Leike汇报工作。在许多方面，Leike的团队听起来与OpenAI最近解散的Superalignment团队有着相似的使命。Leike共同领导的Superalignment团队雄心勃勃，目标是在未来四年内解决控制超级智能人工智能的核心技术难题，但经常发现自己受到OpenAI领导层的束缚。Anthropic经常试图将自己定位为比OpenAI更注重安全。Anthropic的首席执行官达里奥-阿莫迪（DarioAmodei）曾是OpenAI的研究副总裁，据报道，他在与OpenAI就公司的发展方向（即OpenAI日益增长的商业重心）产生分歧后与OpenAI分道扬镳。阿莫德伊带着许多前OpenAI员工创办了Anthropic公司，其中包括OpenAI的前政策负责人杰克-克拉克（JackClark）。...PC版：https://www.cnbeta.com.tw/articles/soft/1432689.htm手机版：https://m.cnbeta.com.tw/view/1432689.htm

相关推荐

封面图片

OpenAI 前安全负责人雷克将跳槽 Anthropic

OpenAI前安全负责人雷克将跳槽Anthropic简・雷克（JanLeike）是OpenAI安全团队的前联合负责人，专注于长期风险。雷克周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。本月早些时候，在OpenAI的超级对齐团队（Superalignment）的另一位负责人伊利亚・苏斯克沃（IlyaSutskever）从公司辞职后，雷克也离开了公司。他们曾经领导的团队后来解散了。离开时，雷克批评了OpenAI，称“安全文化和流程已经让位于靓丽的产品。”周二，OpenAI组建了一个新的安全团队，由首席执行官萨姆・奥特曼（SamAltman）担任成员。
封面图片

OpenAI 前安全团队负责人 Jan Leike 加盟竞争对手 Anthropic

OpenAI前安全团队负责人JanLeike加盟竞争对手Anthropic是OpenAI安全团队的前联合负责人JanLeike周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。本月早些时候，在OpenAI的超级对齐团队（Superalignment）的另一位负责人IlyaSutskever从公司辞职后，Leike也离开了公司。他们曾经领导的团队后来解散了。
封面图片

【OpenAI前安全团队负责人Jan Leike加盟竞争对手Anthropic】

【OpenAI前安全团队负责人JanLeike加盟竞争对手Anthropic】2024年05月29日03点55分老不正经报道，是OpenAI安全团队的前联合负责人JanLeike周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。本月早些时候，在OpenAI的超级对齐团队（Superalignment）的另一位负责人IlyaSutskever从公司辞职后，Leike也离开了公司。他们曾经领导的团队后来解散了。
封面图片

Anthropic聘请前OpenAI安全主管领导新团队OpenAI安全团队前联合负责人JanLeike周二在社交平台X上宣布，他
封面图片

OpenAI聘请前Nextdoor CEP担任首席财务官 并任命新的产品主管

OpenAI聘请前NextdoorCEP担任首席财务官并任命新的产品主管高层团队的扩大正值OpenAI的重要时刻。该公司正努力通过向企业客户销售服务来提高其人工智能产品的收入，同时还在其消费者聊天机器人应用中增加了增强语音功能等功能。OpenAI还开始训练一个更强大的人工智能模型，这可以帮助它在越来越多资金雄厚的竞争对手面前保持领先地位，这些对手都在争夺同样的用户和业务。OpenAI首席执行官萨姆-阿尔特曼（SamAltman）在宣布聘任的博客文章中说："萨拉和凯文带来的丰富经验将帮助OpenAI扩大运营规模，制定下一阶段的发展战略，并确保我们的团队拥有继续蓬勃发展所需的资源。"弗里尔也是沃尔玛公司（Walmart）董事会成员，曾任金融科技公司Square的首席财务官，他将帮助OpenAI继续投资人工智能研究，同时发展其全球业务。Weil曾任卫星图像服务公司PlanetLabsPBC的产品和业务总裁，他将领导一个产品团队，致力于将OpenAI的研究成果应用于服务该公司的消费者和企业用户。OpenAI的领导层目前正面临着新的担忧，即他们将人工智能的商业化置于确保其安全性之上。这家初创公司解散了一个备受瞩目的安全小组，该小组的工作重点是应对人工智能的长期风险。安全相关团队的员工也相继离职。OpenAI则强调了其对安全、负责任地开发人工智能的承诺。威尔在一份声明中说："OpenAI的产品团队在突破性创新和人工智能产品的周到部署方面都已经迈开了步伐。我很高兴能成为下一阶段发展的一部分，我们将继续安全、负责任地向AGI迈进。"...PC版：https://www.cnbeta.com.tw/articles/soft/1434265.htm手机版：https://m.cnbeta.com.tw/view/1434265.htm
封面图片

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI正在组建一个新团队，以控制“超级智能”人工智能OpenAI正在组建一个由其首席科学家兼公司联合创始人之一IlyaSutskever领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。，Sutskever和OpenAI联盟团队的负责人JanLeike预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能——假设它最终确实到来——不一定是仁慈的，需要研究控制和限制它的方法。他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。”“我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。”为了推动“超级智能对齐”领域的发展，OpenAI正在创建一个新的超级对齐团队，由Sutskever和Leike领导，该团队将有权使用公司迄今为止已获得的20%的计算资源。该团队由OpenAI之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能AI的核心技术挑战。——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人