离职高级研究员：OPENAI 将“闪亮产品”置于安全之上

离职高级研究员：OPENAI将“闪亮产品”置于安全之上扬•雷克(JanLeike)曾领导OpenAI引导和控制超级强大的人工智能工具的工作，他表示，由于与上级在初创公司投入这些工作的时间和资源上产生分歧，他于周四辞职。雷克在社交媒体网站X上的周五帖子中写道：“过去几年里，安全文化和流程已经被闪亮的产品所取代。”“我们迫切需要找出如何引导和控制比我们更聪明的AI系统，”雷克写道。“我之所以加入OpenAI，是因为我认为这是世界上进行这项研究的最佳场所。然而，我与OpenAI领导层在公司的核心优先事项上的分歧已经持续了相当长的一段时间，直到我们最终达到了一个决裂点。”雷克表示，超级对齐团队难以获取计算资源，这些资源正在被用于开发新的面向消费者的模型，例如OpenAI在周一发布的最新模型GPT-4o。“在过去的几个月里，我的团队一直在逆风中奋进。有时我们为了计算资源而苦苦挣扎，这使得完成这项至关重要的研究变得越来越困难，”他写道。——

离职高级研究员：OpenAI将“闪亮产品”置于安全之上

离职高级研究员：OpenAI将“闪亮产品”置于安全之上2024年5月18日，OpenAI的高级安全领导人扬·雷克辞职，因与公司在产品与安全优先级上的分歧达到“临界点”。雷克在社交媒体上表示，过去几年中，OpenAI的安全文化和流程被“闪亮的产品”取代。去年，OpenAI启动了由雷克领导的超级对齐团队，其致力于确保强大AI的安全开发，并以解决超级智能机器“可能导致人类失去权力甚至人类灭绝”为目标。但他指出，该团队难以获得必要的计算资源，这些资源被用于开发面向消费者的新模型，例如OpenAl在周一发布的最新模型GPT-4o。此事件揭示了OpenAI内部在技术发展与安全使命之间的紧张关系。OpenAI首席执行官萨姆·奥尔特曼对此表示遗憾，并承诺继续努力解决这些问题。关注频道@ZaiHuaPd频道投稿@ZaiHuabot

数据泄露网站 BreachForums 新管理员决定关闭网站

数据泄露网站BreachForums新管理员决定关闭网站流行的网络犯罪平台BreachForums的新管理员突然改变主意，表示他们计划在其前任管理员上周被捕后关闭该网站。一名名为“Baphomet”的黑客最初表示，在上周三21岁的康纳·布莱恩·菲茨帕特里克(ConorBrianFitzpatrick)在纽约皮克斯基尔(Peekskill)的家中被捕后，他们正在为该论坛制定一项应急计划。在法庭文件中，菲茨帕特里克被指控为被称为pompompurin的黑客是BreachForums的主要管理员。但在周二发布的更新中，接管BreachForums的新管理员表示，他们现在计划完全关闭该平台。Baphomet写道，有人能够在周日下午通过pompompurin的帐户访问该平台的后端，这让他们相信执法部门可能可以访问该网站的源代码和有关该论坛用户的信息。“这将是我对Breached的最后更新，因为我决定关闭它。我知道这个消息不会取悦任何人，但这是唯一安全的决定。"BreachForums成为网络犯罪分子购买被盗数据和市场信息宝库的首选网站，这些信息在黑客攻击和攻击期间泄露。该论坛最近成为新闻，此前黑客在该网站上发布了从华盛顿特区医疗保健交换平台窃取的数据，包括国会议员和工作人员的敏感信息。——