奥特曼和Brockman回应OpenAI安全团队辞职：未来比过去更艰难

奥特曼和Brockman回应OpenAI安全团队辞职：未来比过去更艰难访问：NordVPN立减75%+外加3个月时长另有NordPass密码管理器第二天，OpenAI首席执行官SamAltman和总裁兼联合创始人GregBrockman回应了Leike关于公司不关注安全的说法。除其他外，Leike还表示，近年来OpenAI的安全文化和流程已经让位于闪亮的产品，他的团队很难获得资源来完成安全工作。雷克写道：我们早就应该认真对待AGI（通用人工智能）的影响了。我们必须优先考虑尽我们所能为他们做好准备。周五，Altman在雷克的转发中首先做出了回应，称雷克是对的，OpenAI还有很多事情要做，并且致力于这样做。他承诺将会发布更长的帖子。周六，布罗克曼在X上发布了他自己和Altman的共同回应：在对雷克的工作表示感谢后，布罗克曼和奥尔特曼表示，他们在雷克辞职后收到了一些问题。他们分享了三点，第一是OpenAI提高了人们对AGI的认识，以便世界能够更好地为此做好准备。他们写道：我们一再证明扩大深度学习规模所带来的巨大可能性，并分析其影响；在AGI的国际治理流行之前就呼吁这种呼吁；并帮助开拓评估人工智能系统灾难风险的科学。第二点是，他们正在为这些技术的安全部署奠定基础，并以员工为以安全的方式将ChatGPT-4带到世界”所做的工作为例。两人声称，自那时以来（OpenAI于2023年3月发布了ChatGPT-4），该公司根据部署中吸取的经验教训，不断改进模型行为和滥用监控。第三点？“未来将比过去更艰难，”他们写道。Brock和Altman解释说，OpenAI在发布新模型时需要不断提升其安全工作，并引用该公司的准备框架作为帮助实现这一目标的一种方式。根据OpenAI网站上的页面，该框架预测可能出现的灾难性风险，并寻求减轻这些风险。然后，布罗克曼和奥特曼继续讨论未来，OpenAI的模型将更加融入世界，更多的人与它们互动。他们认为这是一件有益的事情，并相信可以安全地做到这一点——“但这需要大量的基础工作。”因此，该公司可能会推迟发布时间表，以便模型达到其安全标准。“我们知道我们无法想象未来所有可能的情况。”他们说。“因此，我们需要有一个非常严格的反馈循环、严格的测试、每一步都仔细考虑、世界一流的安全性以及安全性和功能的和谐。”领导人表示，OpenAI将继续与政府和利益相关者就安全问题进行研究和合作。他们总结道：对于如何走上通用人工智能之路，目前还没有经过验证的剧本。我们认为实证理解可以帮助指明前进的方向。我们相信，既能带来巨大的好处，又能努力减轻严重的风险；我们非常认真地对待我们在这里的角色，并仔细权衡对我们行动的反馈。OpenAI首席科学家IlyaSutskever本周也辞职，这一事实使雷克的辞职和言论变得更加复杂。#WhatDidIlyaSee成为X上的热门话题，标志着人们对OpenAI高层领导者所了解的事情的猜测。从布罗克曼和奥特曼今天声明的负面反应来看，这并没有消除任何这种猜测。截至目前，该公司正在推进下一个版本：语音助手ChatGPT-4o。...PC版：https://www.cnbeta.com.tw/articles/soft/1431449.htm手机版：https://m.cnbeta.com.tw/view/1431449.htm

在Telegram中查看

相关推荐

奥特曼发推称太爱OpenAI团队疑似很快上演王者归来

奥特曼发推称太爱OpenAI团队疑似很快上演王者归来据多位知情人士透露，OpenAI董事会正在与SamAltman讨论重返公司担任首席执行官的事宜。其中一位人士表示，奥特曼周五在没有任何通知的情况下被董事会突然解雇，他对回归感到矛盾，并希望进行重大的治理变革。Altman在被赶下台后仅一天就与公司进行了会谈，这表明OpenAI在没有他的情况下正处于自由落体状态。在被解雇几小时后，OpenAI总裁兼前董事会主席格雷格·布罗克曼(GregBrockman)辞职，两人一直在与朋友和投资者讨论创办另一家公司的事宜。周五，一批高级研究人员也辞职了，接近OpenAI的人士表示，更多的离职人员正在酝酿之中。OpenAI最大的投资者微软在Altman被解雇后不久发表声明称，该公司仍然致力于与这家人工智能公司的合作关系。然而，OpenAI的投资者没有收到提前警告，也没有机会对董事会罢免Altman的决定发表意见。作为公司的代言人和人工智能领域最杰出的代言人，在竞争对手竞相追赶前所未有的ChatGPT崛起之际，他的下台让OpenAI的未来陷入不确定性。OpenAI的发言人没有回应有关Altman与董事会讨论回归的置评请求。微软发言人拒绝置评。相关文章:OpenAI邀请前CEO奥特曼回公司总部讨论复职事宜...PC版：https://www.cnbeta.com.tw/articles/soft/1398225.htm手机版：https://m.cnbeta.com.tw/view/1398225.htm

490名OpenAI员工提交联名信：董事会辞职并请回Altman 要不我们不干了

490名OpenAI员工提交联名信：董事会辞职并请回Altman要不我们不干了OpenAI董事会的行为引发了众怒和公开抗议。490名员工威胁称，除非董事会集体辞职，并恢复Altman和前总裁GregBrockman的职位，否则他们将离职。这些员工在抗议信中称：“你们解雇了Altman，并将Brockman从董事会除名，这些举动损害了公司业务，破坏了我们的使命，乃至整个公司。你们的行为清楚地表明，你们根本没有能力监管OpenAI。”值得注意的是，这封抗议信的签字人也包括OpenAI的首席科学家兼董事会成员IlyaSutskever，他被指责从一开始就协调了针对Altman的董事会政变。就在这封信发布前不久，Sutskever在社交媒体X上发帖称：“我对参与董事会的行为深感后悔。我从未想过要伤害OpenAI。我热爱我们共同建立的一切，我将尽我所能让公司重新团结起来。”在这封抗议信发布之前，硅谷刚刚经历了一个非同寻常、令人头晕目眩的周末。就在上周五（北京时间周六），OpenAI董事会解除了Altman的职务，称他在与董事会的沟通中没有始终如一地坦诚，阻碍了董事会行使职责的能力。随后，OpenAI首席技术官MiraMurati被任命为临时CEO。在受到包括微软在内的投资者的强烈反对后，OpenAI董事会似乎对让Altman重返公司持开放态度。周日，Altman发布了一张自己在OpenAI总部佩戴访客徽章的照片，让一些人对Altman回归抱有一丝希望。但昨晚，OpenAI董事会告诉员工，Altman将不会重返公司。几个小时后，微软CEO萨蒂亚·纳德拉（SatyaNadella）宣布，Altman和Brockman将加入微软，领导一个新的高级人工智能研究部门。OpenAI也快速采取行动，罢免了Murati，并任命视频游戏流媒体平台Twitch前CEOEmmettShear为临时CEO。信件内容如下：致OpenAI董事会：OpenAI是全球领先的人工智能公司。我们，OpenAI的员工，开发了最优秀的模型，推动该领域迈向新的前沿。我们在人工智能安全和治理方面的工作塑造了全球标准。我们所构建的产品被全球数百万人使用。直到现在，我们所工作和珍视的公司从未处于如此强大的地位。你们解雇萨姆·奥特曼并将格雷格·布洛克曼从董事会撤职的过程，危及了我们所有的工作，破坏了我们的使命和公司。你们的行为明确表明你们没有能力监督OpenAI。当我们意外得知你们的决定后，OpenAI的领导团队迅速采取行动稳定公司局势。他们认真倾听了你们的关切，并试图在各个方面与你们合作。尽管我们多次要求你们提供关于指控的具体事实，但你们从未提供任何书面证据。他们也越来越意识到你们无法履行职责，并且在恶意进行谈判。领导团队建议，最稳定的前进道路，也是最有利于我们的使命、公司、利益相关者、员工和公众的道路，就是你们辞职，并组建一个有能力引领公司稳定前进的合格董事会。领导团队与你们日以继夜地合作，寻找双方都能接受的解决方案。然而，在你们做出最初决定的两天内，你们又一次不顾公司最大的利益，更换了临时首席执行官MiraMurati。你们还告知领导团队，让公司被摧毁“与使命是一致的”。你们的行动明显表明你们无法监督OpenAI。我们无法为或与缺乏能力、判断力和对使命和员工关心的人工作。我们，签署者，可能选择辞去OpenAI的工作，加入由萨姆·奥特曼和格雷格·布洛克曼领导的新成立的微软子公司。微软向我们保证，如果我们选择加入这个新的子公司，所有OpenAI员工都有职位可供选择。除非所有现任董事会成员辞职，并且董事会任命两名新的独立主席，如BretTaylor和WillHurd，并恢复萨姆·奥特曼和格雷格·布洛克曼的职位，否则我们将立即采取这一步骤。...PC版：https://www.cnbeta.com.tw/articles/soft/1398455.htm手机版：https://m.cnbeta.com.tw/view/1398455.htm

OPENAI CEO 离职后，总裁兼联合创始人 Greg Brockman 也宣布辞职

OPENAICEO离职后，总裁兼联合创始人GregBrockman也宣布辞职人工智能初创公司OPENAI宣布解雇其CEO兼联合创始人SamAltman数小时后，公司总裁兼联合创始人GregBrockman也在社交平台X上发布声明宣布，辞去在OpenAI的职务。在X上的帖子中，Brockman表示他向OpenAI团队发送了以下消息：大家好，自从8年前在我的公寓开始工作以来，我对我们大家一起建造的东西感到非常自豪。我们一起经历了艰难而又美好的时光，尽管有种种原因，但我们还是取得了如此多的成就。但根据今天的新闻，我辞职了。真诚地祝愿你们一切顺利。我仍然坚信创造造福全人类的安全通用人工智能的使命。——

OpenAI研究员辞职声称安全问题已被改进后的产品所解决

OpenAI研究员辞职声称安全问题已被改进后的产品所解决访问：NordVPN立减75%+外加3个月时长另有NordPass密码管理器雷克的声明是在《连线》报道OpenAI已经解散了专门负责解决长期人工智能风险的团队（称为"超级对齐团队"）之后发表的。莱克一直负责管理Superalignment团队，该团队于去年7月成立，目的是在OpenAI开发出能像人类一样推理的人工智能时，"解决实施安全协议的核心技术挑战"。OpenAI最初的想法是向公众公开提供他们的模型，这也是该组织名称的由来，但由于该公司声称允许任何人访问如此强大的模型可能具有潜在的破坏性，因此这些模型已经成为专有知识。"我们早该认真对待AGI的影响。我们必须优先为其做好准备，"莱克在周五上午关于他辞职的后续推文中说。"只有这样，我们才能确保AGI造福全人类。"在去年不成功的董事会政变中支持Altman的另一位OpenAI联合创始人约翰-舒尔曼（JohnSchulman）将接替Leike的职责。在针对山姆-奥特曼（SamAltman）的臭名昭著的失败政变中扮演关键角色的苏茨克沃周二宣布离职。莱克的帖子凸显了OpenAI内部日益紧张的关系。随着研究人员在管理ChatGPT和DALL-E等消费级人工智能产品的同时竞相开发人工通用智能，像莱克这样的员工开始担心创建超级智能人工智能模型的潜在危险。莱克说，他的团队被剥夺了优先权，无法获得计算和其他资源来完成"关键"工作。莱克写道："我之所以加入，是因为我认为OpenAI将是世界上从事这项研究的最佳场所。然而，我与OpenAI领导层就公司的核心优先事项产生分歧已经有一段时间了，直到我们最终达到了一个爆发点。"...PC版：https://www.cnbeta.com.tw/articles/soft/1431347.htm手机版：https://m.cnbeta.com.tw/view/1431347.htm

OpenAI 前安全团队负责人 Jan Leike 加盟竞争对手 Anthropic

OpenAI前安全团队负责人JanLeike加盟竞争对手Anthropic是OpenAI安全团队的前联合负责人JanLeike周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。本月早些时候，在OpenAI的超级对齐团队（Superalignment）的另一位负责人IlyaSutskever从公司辞职后，Leike也离开了公司。他们曾经领导的团队后来解散了。

OpenAI“政变”反转！505名员工联名上书，威胁将辞职加入Altman微软团队

OpenAI“政变”反转！505名员工联名上书，威胁将辞职加入Altman微软团队https://www.fx168news.com/article/377636信中写道：“你们解雇SamAltman、将GregBrockman从董事会除名的过程已经危及了公司所有工作，破坏了我们的使命。你们的行为已经清楚地表明，你们没有能力监管OpenAI。”———根据WSJ的，OpenAI总雇员770人，联名人数占总体比例达已达到65%=========微软：究极零元购爽哎

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人