OpenAI 的超级对齐负责人 Jan Leike 宣布离职

OpenAI的超级对齐负责人JanLeike宣布离职5月15日消息，OpenAI的超级对齐（superalignment）团队联合负责人、机器学习研究员JanLeike宣布离职。此前消息，OpenAI的联合创始人兼首席科学家IlyaSutskever也已宣布离开。值得注意的是，超级对齐团队原本由IlyaSutskever和JanLeike共同领导。

【OpenAI的超级对齐负责人JanLeike宣布离职】

【OpenAI的超级对齐负责人JanLeike宣布离职】2024年05月15日01点41分5月15日消息，OpenAI的超级对齐（superalignment）团队联合负责人、机器学习研究员JanLeike宣布离职。此前消息，OpenAI的联合创始人兼首席科学家IlyaSutskever也已宣布离开。值得注意的是，超级对齐团队原本由IlyaSutskever和JanLeike共同领导。

OpenAI 的长期人工智能风险团队已经解散

OpenAI的长期人工智能风险团队已经解散5月17日消息，据美国杂志WIRED报道，去年7月，OpenAI宣布成立一个新的研究团队，为超级智能的到来做准备，这种超级智能能够智胜和压倒其创造者。OpenAI的首席科学家、公司联合创始人之一IlyaSutskever被任命为这个新团队的联合领导人。OpenAI表示，该团队将获得其计算能力的20%。现在OpenAI的超级对齐团队已经解散，公司证实了这一消息。在此之前，已经有几名参与其中的研究人员离职，周二的消息称Sutskever将离开公司，而该团队的另一位联合领导人也辞职了。该团队的工作将被整合到OpenAI的其他研究工作中。来源：财经慢报频道

OpenAI 已解散长期人工智能风险团队

OpenAI已解散长期人工智能风险团队去年7月，OpenAI宣布成立一个新的研究团队，为通用人工智能的到来做准备。OpenAI首席科学家、公司联合创始人之一IlyaSutskever被任命为这个新团队的联合负责人。OpenAI表示，该团队将获得20%的计算能力。现在OpenAI证实，“超级对齐团队”已不复存在。此前多位相关研究人员离职，该团队的两名研究人员LeopoldAschenbrenner和PavelIzmailov因泄露公司机密而被解雇，周二Sutskever宣布将离开公司，该团队的另一位联合负责人也辞职了。该小组的工作将被纳入OpenAI的其他研究工作中。——

【OpenAI的长期人工智能风险团队已经解散】

【OpenAI的长期人工智能风险团队已经解散】2024年05月17日11点27分5月17日消息，据美国杂志WIRED报道，去年7月，OpenAI宣布成立一个新的研究团队，为超级智能的到来做准备，这种超级智能能够智胜和压倒其创造者。OpenAI的首席科学家、公司联合创始人之一IlyaSutskever被任命为这个新团队的联合领导人。OpenAI表示，该团队将获得其计算能力的20%。现在OpenAI的超级对齐团队已经解散，公司证实了这一消息。在此之前，已经有几名参与其中的研究人员离职，周二的消息称Sutskever将离开公司，而该团队的另一位联合领导人也辞职了。该团队的工作将被整合到OpenAI的其他研究工作中。

中信建投：OpenAI “超级对齐” 取得进展，由弱到强泛化实现 AI 可控

中信建投：OpenAI“超级对齐”取得进展，由弱到强泛化实现AI可控中信建投研报指出，12月15日，OpenAI“超级对齐”团队发布了成立以来的首篇论文，开辟了对超级模型进行实证对齐的新研究方向。OpenAI认为，比人类聪明得多的人工智能（超级智能）可以在未来十年之内发展出来，然而如何正确的引导和控制超人的人工智能系统仍然没有得到很好的解决，解决AI的可控问题对于如何确保最先进的人工智能系统始终安全并造福人类至关重要。在最新的研究中，OpenAI实现了从弱模型监督强模型的任务，OpenAI使用GPT-2模型来激发GPT-4的大部分能力，使其达到接近GPT-3.5级别的性能。实现了“弱到强泛化”（Weak-to-stronggeneralization），即让小模型监督大模型，为“超级对齐”提供了切实可行的技术路线。预期OpenAI将在“超级对齐”研究中取得持续突破，我们看好安全可控下的大模型行业发展前景。