Anthropic 聘请前 OpenAI 安全负责人领导新团队
Anthropic聘请前OpenAI安全负责人领导新团队Leike在X上发表文章说,他在Anthropic的团队将专注于人工智能安全和安保的各个方面,特别是"可扩展监督"、"弱到强的泛化"和自动对齐研究。一位熟悉内情的消息人士透露,Leike将直接向Anthropic的首席科学官JaredKaplan汇报工作,而Anthropic的研究人员目前正在研究可扩展的监督--以可预测和理想的方式控制大规模人工智能行为的技术--随着Leike团队的发展,他们将转而向Leike汇报工作。在许多方面,Leike的团队听起来与OpenAI最近解散的Superalignment团队有着相似的使命。Leike共同领导的Superalignment团队雄心勃勃,目标是在未来四年内解决控制超级智能人工智能的核心技术难题,但经常发现自己受到OpenAI领导层的束缚。Anthropic经常试图将自己定位为比OpenAI更注重安全。Anthropic的首席执行官达里奥-阿莫迪(DarioAmodei)曾是OpenAI的研究副总裁,据报道,他在与OpenAI就公司的发展方向(即OpenAI日益增长的商业重心)产生分歧后与OpenAI分道扬镳。阿莫德伊带着许多前OpenAI员工创办了Anthropic公司,其中包括OpenAI的前政策负责人杰克-克拉克(JackClark)。...PC版:https://www.cnbeta.com.tw/articles/soft/1432689.htm手机版:https://m.cnbeta.com.tw/view/1432689.htm