前OPENAI研究员将创办人工智能教育公司

前OPENAI研究员将创办人工智能教育公司7月17日消息，OpenAI创始成员安德烈·卡帕蒂(AndrejKarpathy)周二宣布创办人工智能教育公司EurekaLabs。卡帕蒂称，公司将使用人工智能助教来支持和扩展由人类教师设计的教材。“这种教师与人工智能的结合，可以在一个通用平台上运行一整套课程，”卡帕蒂说。“如果我们取得成功，那么任何人学习任何东西都将很容易。”卡帕蒂还表示，该公司的第一个产品将是一个本科水平课程，教学生训练自己的人工智能系统模型。——、

离职高级研究员：OPENAI 将“闪亮产品”置于安全之上

离职高级研究员：OPENAI将“闪亮产品”置于安全之上扬•雷克(JanLeike)曾领导OpenAI引导和控制超级强大的人工智能工具的工作，他表示，由于与上级在初创公司投入这些工作的时间和资源上产生分歧，他于周四辞职。雷克在社交媒体网站X上的周五帖子中写道：“过去几年里，安全文化和流程已经被闪亮的产品所取代。”“我们迫切需要找出如何引导和控制比我们更聪明的AI系统，”雷克写道。“我之所以加入OpenAI，是因为我认为这是世界上进行这项研究的最佳场所。然而，我与OpenAI领导层在公司的核心优先事项上的分歧已经持续了相当长的一段时间，直到我们最终达到了一个决裂点。”雷克表示，超级对齐团队难以获取计算资源，这些资源正在被用于开发新的面向消费者的模型，例如OpenAI在周一发布的最新模型GPT-4o。“在过去的几个月里，我的团队一直在逆风中奋进。有时我们为了计算资源而苦苦挣扎，这使得完成这项至关重要的研究变得越来越困难，”他写道。——

离职高级研究员：OpenAI将“闪亮产品”置于安全之上

离职高级研究员：OpenAI将“闪亮产品”置于安全之上2024年5月18日，OpenAI的高级安全领导人扬·雷克辞职，因与公司在产品与安全优先级上的分歧达到“临界点”。雷克在社交媒体上表示，过去几年中，OpenAI的安全文化和流程被“闪亮的产品”取代。去年，OpenAI启动了由雷克领导的超级对齐团队，其致力于确保强大AI的安全开发，并以解决超级智能机器“可能导致人类失去权力甚至人类灭绝”为目标。但他指出，该团队难以获得必要的计算资源，这些资源被用于开发面向消费者的新模型，例如OpenAl在周一发布的最新模型GPT-4o。此事件揭示了OpenAI内部在技术发展与安全使命之间的紧张关系。OpenAI首席执行官萨姆·奥尔特曼对此表示遗憾，并承诺继续努力解决这些问题。关注频道@ZaiHuaPd频道投稿@ZaiHuabot