离职高级研究员：OPENAI 将“闪亮产品”置于安全之上

离职高级研究员：OPENAI 将“闪亮产品”置于安全之上 扬•雷克(Jan Leike)曾领导 OpenAI 引导和控制超级强大的人工智能工具的工作，他表示，由于与上级在初创公司投入这些工作的时间和资源上产生分歧，他于周四辞职。雷克在社交媒体网站 X 上的周五帖子中写道：“过去几年里，安全文化和流程已经被闪亮的产品所取代。”“我们迫切需要找出如何引导和控制比我们更聪明的 AI 系统，”雷克写道。“我之所以加入 OpenAI，是因为我认为这是世界上进行这项研究的最佳场所。然而，我与 OpenAI 领导层在公司的核心优先事项上的分歧已经持续了相当长的一段时间，直到我们最终达到了一个决裂点。”雷克表示，超级对齐团队难以获取计算资源，这些资源正在被用于开发新的面向消费者的模型，例如 OpenAI 在周一发布的最新模型 GPT-4o。“在过去的几个月里，我的团队一直在逆风中奋进。有时我们为了计算资源而苦苦挣扎，这使得完成这项至关重要的研究变得越来越困难，”他写道。

OpenAI研究员辞职 声称安全问题已被改进后的产品所解决

OpenAI研究员辞职 声称安全问题已被改进后的产品所解决 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 雷克的声明是在《连线》报道OpenAI 已经解散了专门负责解决长期人工智能风险的团队（称为"超级对齐团队"）之后发表的。莱克一直负责管理Superalignment团队，该团队于去年7月成立，目的是在OpenAI开发出能像人类一样推理的人工智能时，"解决实施安全协议的核心技术挑战"。OpenAI 最初的想法是向公众公开提供他们的模型，这也是该组织名称的由来，但由于该公司声称允许任何人访问如此强大的模型可能具有潜在的破坏性，因此这些模型已经成为专有知识。"我们早该认真对待 AGI 的影响。我们必须优先为其做好准备，"莱克在周五上午关于他辞职的后续推文中说。"只有这样，我们才能确保 AGI 造福全人类。"在去年不成功的董事会政变中支持 Altman 的另一位 OpenAI 联合创始人约翰-舒尔曼（John Schulman）将接替 Leike 的职责。在针对山姆-奥特曼（Sam Altman）的臭名昭著的失败政变中扮演关键角色的苏茨克沃周二宣布离职。莱克的帖子凸显了 OpenAI 内部日益紧张的关系。随着研究人员在管理 ChatGPT 和 DALL-E 等消费级人工智能产品的同时竞相开发人工通用智能，像莱克这样的员工开始担心创建超级智能人工智能模型的潜在危险。莱克说，他的团队被剥夺了优先权，无法获得计算和其他资源来完成"关键"工作。莱克写道："我之所以加入，是因为我认为 OpenAI 将是世界上从事这项研究的最佳场所。然而，我与 OpenAI 领导层就公司的核心优先事项产生分歧已经有一段时间了，直到我们最终达到了一个爆发点。" ... PC版： 手机版：

#本周热读 #观点 “特别竞争研究项目”高级研究员Rick Switzer和新美国安全中心助理高级研究员 David Feith

#本周热读 #观点 “特别竞争研究项目”高级研究员Rick Switzer和新美国安全中心助理高级研究员 David Feith撰文称，无论中国的半导体行业今天遭受了何种令其颜面扫地的失败，出于历史教训和战略上的谨慎，美国都要认真对待北京方面的野心，在为时已晚之前投入资金，予以反击。

OpenAI 首席技术官：没将产品优先程度置于安全之前

OpenAI 首席技术官：没将产品优先程度置于安全之前 近日，OpenAI 首席技术官米拉・穆拉蒂（Mira Murati）在一次访谈中再次谈起 AI（人工智能）安全，并对 “超级对齐” 安全团队解散、ChatGPT 斯嘉丽语音风波、公司面临监管审查等问题作出回应。穆拉蒂回应称：“超级对齐是 OpenAI 非常重要的安全团队，但只是团队之一，公司有很多人负责安全工作。” 她表示并不认同 “公司把产品放在安全之前” 这一观点，并称这一论调有点过于愤世嫉俗。

OPENAI研究员安德烈·卡帕斯已离开公司

OPENAI研究员安德烈·卡帕斯已离开公司 一位发言人证实，OPENAI创始成员之一的安德烈·卡帕斯 (Andrej Karpathy) 已离开公司。安德烈·卡帕斯是一名斯洛伐克裔加拿大计算机科学家，曾担任特斯拉人工智能和自动驾驶视觉总监。