OpenAI“保卫人类”团队分崩离析 Ilya与Altman内讧曝光

OpenAI“保卫人类”团队分崩离析 Ilya与Altman内讧曝光 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 “在OpenAI工作近十年后，我决定离开 。这间公司取得了令人难以置信的进步，我相信在 Sam、Greg、Mira，以及杰出的研究领导者Jakub带领下，OpenAI将构建安全有益的通用人工智能。和各位共事是一种荣幸，我将深深怀念所有人。非常感谢这一切，祝大家一切顺利！我对即将到来的项目感到兴奋这对我来说意义重大，我将在适当的时候分享详细信息。”下面还附上了一张办公室合影，缅怀几人的革命友情。靴子落地，事情走向基本符合大众心理预判。Lex Fridman、Jeff Dean等一众大佬和网友们都在评论区致以祝福，感谢Ilya在OpenAI所做的一切。奥特曼也随即发表了一篇稍显正式的回应，与以往不分大小写的随意风格形成鲜明对比。他表示自己对Ilya 和 OpenAI 即将分道扬镳感到“非常悲伤”，称赞Ilya是”这一代最杰出的人才之一，AI领域的指路明灯，也是一位亲密朋友”。不仅有才华和远见，还有温暖的同情心。“没有他，OpenAI 不会成为今天的样子”。他永远对Ilya怀有感激，并承诺完成他们共同开始的使命。同时，奥特曼宣布曾领导OpenAI推理团队、深度学习科学团队和GPT-4开发的前研究总监Jakub Pachocki接棒Ilya，成为新任首席科学家。然后又转发Ilya的照片说，”feeling the AGI today”。还到IlyaTwitter下面借网友热梗留言打趣，“别告诉他们你看到了什么。”从去年11月的宫斗风波传到现在，终于一切都在看起来欢乐祥和的美好氛围中画上句点。然鹅确实如此吗？咱先别太天真，要真这么平静那就不是OpenAI了。果然，当晚9：43，第一个“离职侠“出现：曾与Ilya共同领导OpenAI“超级对齐团队”的Jan Leike在X发文宣布，”我（也）撤了。”Jan Leike 2021年从GoogleDeepMind团队加入OpenAI，主要研究方向包括强化学习、大语言模型的对齐工程及AGI，属于Ilya阵营的人。他和Ilya的Superalignment团队旨在未来四年内，构建一个能与人类水平相媲美的自动对齐研究器，尽可能将相关工作交由自动系统完成，同时确保人工智能系统的行为与人类价值观和目标保持一致。上月，媒体曾报道过对齐团队的两名员工，也同为Ilya盟友的Leopold Aschenbrenner和Pavel Izmailov因“泄密”而被公司开除，但OpenAI并未提供任何泄密证据。这还不算，刚刚OpenAI内部证实，该团队现在已经被解散了！相应工作将被整合到其他研究小组。熟悉的配方，熟悉的味道，跟上次奥特曼被董事会罢免Greg Brockman甩手走人如出一辙。无怪乎网友摊手：“你们又来了是吧？”（Logan Kilpatrick这则留言也让广大吃瓜群众浮想联翩。）第二天，OpenAI前工程负责人，曾领导过ChatGPT, GPT-4, DALL·E和APIs上线的Evan Morikawa也宣布离开，将与前波士顿动力高级机器人学家Andy Barry和Deep Mind研究科学家Pete Florence 和 Andy Zeng共同开展一个全新项目，并认为“这是在全球范围内实现 AGI 所必需的”。时间来到今天。Jan Leike又出手了，而且是重拳出击。直接公开透露自己与OpenAI高层在公司的核心优先事项上存在“无法调和”的长期分歧，团队在推动项目和争取计算资源时遭遇重大阻碍，严重影响研究的进度和质量。他先是表明昨天是自己在 OpenAI ”作为对齐负责人、超级对齐负责人和高管的最后一天“。肯定了团队过去三年多来取得的显著成绩：推出第一个基于 RLHF 的大语言模型 InstructGPT，发布第一个大规模监督 LLMs 的方法，并开创了自动解释性和从弱到强的泛化。“我爱我的团队。我非常感激能与这么多了不起的人一起工作…OpenAI 拥有如此多的杰出、聪明、善良和高效的人才。”接着话锋一转开轰，自己对OpenAI，终究是错付了。“离开这份工作是我做过的最艰难事情之一，因为我们迫切需要弄清楚如何引导和控制比我们聪明得多的 AI 。我加入OpenAI是因为我以为这里是世界上最适合进行这项研究的地方。然而，我与OpenAI领导层在公司的核心优先事项上长期存在分歧，直到我们最终达到一个临界点。”这是怎么说？Jan Leike继续解释道：“我相信，我们应该将更多的带宽花在为下一代模型做准备上，关注安全、监控、对抗性稳健性、超级对齐、保密性、社会影响等相关话题。这些问题很难解决，我担心我们还没有走上正轨。过去几个月，我的团队一直在逆风前行。有时我们在计算资源方面挣扎，完成这项关键研究变得越来越困难。”“建造比人类更聪明的机器本质上是一项危险的工作。OpenAI 代表全人类肩负着巨大的责任。但在过去几年里，安全文化和流程让位于光鲜亮丽的产品。我们早该认真重视AGI的影响了，必须优先为其做好准备。只有这样才能确保 AGI 造福全人类。OpenAI 必须成为一个安全至上的 AGI 公司。”最后一条，Jan Leike“语重心长”地致所有OpenAI员工：“学会感受 AGI。对你手中正在构建的事物，态度庄重一些。我相信你们可以‘传递’所需的文化变革。我指望着你们。全世界都在指望你们。:openai-heart:（OpenAI员工最常用的爱心表情）”此番言论一出，当然是立刻炸开锅了！所以是OpenAI为了优先发布亮眼的产品，不重视安全实现AGI。让对齐团队坐冷板凳不说，还不分给计算资源，导致根本无法推进项目，这换谁能忍？网友悟了：“这就是Ilya看到的，并且他一直在告诉董事会并试图反对。他要求的只是专注于 AI 安全，现在Jan也证实了这一点。”还有人梳理出了OpenAI有史以来所有安全团队带头大牛们的离职时间线。包括Anthropic联合创始人Amodei兄妹。“这听起来像是OpenAI想继续烧钱商业化，而不是确保前进步骤的安全。他们想成为大亨，而不是英雄。”更有人爆料说，当员工离开OpenAI时，需要签署一个包含“承诺终身不得贬损公司的离职协议”。如果拒签就会失去所有归属股权，意味着可能会损失数百万美元。对Jan Leiker的长文开炮，奥特曼当然是不会就此作罢的了。很快他便发文“反击”，最后也送了一颗小心心：“我非常感谢 Jan Leike 对 OpenAI 对齐研究和安全文化的贡献，也非常难过看到他离开。他说得对，我们还有很多事情要做，我们承诺会做到。我会在接下来的几天里发一篇更长的文章。”网友留言，“别周一见啊，我那天有重要发布。”看来这新的OpenAI保卫战，AKA “OpenAI内斗第二季之杨莱克大战奥特曼”已经打响，接下来双方的小作文比赛马上要开始。这间公司的每个人好像都给自己安排了主角光环，隔一段时间就上演一段大戏的惯例已成。这次如何走向，会不会又来一场员工群体运动？OpenAI算是消停不下来了。 ... PC版： 手机版：