OpenAI 的长期人工智能风险团队已经解散

OpenAI 的长期人工智能风险团队已经解散 5 月 17 日消息，据美国杂志 WIRED 报道，去年 7 月，OpenAI 宣布成立一个新的研究团队，为超级智能的到来做准备，这种超级智能能够智胜和压倒其创造者。OpenAI 的首席科学家、公司联合创始人之一 Ilya Sutskever 被任命为这个新团队的联合领导人。OpenAI 表示，该团队将获得其计算能力的 20%。 现在 OpenAI 的超级对齐团队已经解散，公司证实了这一消息。在此之前，已经有几名参与其中的研究人员离职，周二的消息称 Sutskever 将离开公司，而该团队的另一位联合领导人也辞职了。该团队的工作将被整合到 OpenAI 的其他研究工作中。 来源：财经慢报频道

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能 OpenAI 正在组建一个由其首席科学家兼公司联合创始人之一 Ilya Sutskever 领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。 ，Sutskever 和 OpenAI 联盟团队的负责人 Jan Leike 预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能假设它最终确实到来不一定是仁慈的，需要研究控制和限制它的方法。 他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。” “我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。” 为了推动“超级智能对齐”领域的发展，OpenAI 正在创建一个新的超级对齐团队，由 Sutskever 和 Leike 领导，该团队将有权使用公司迄今为止已获得的 20% 的计算资源。该团队由 OpenAI 之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能 AI 的核心技术挑战。

此前，OpenAI 解散了致力于解决长期 AI 风险的专门团队（称为“超级对齐团队”）

此前，OpenAI 解散了致力于解决长期 AI 风险的专门团队（称为“超级对齐团队”） Jan Leike，OpenAI 的一位关键研究员，在联合创始人Ilya Sutskever 离职后于本周早些时候辞职。他在周五早上在 X 上发帖称，该公司“安全文化和流程已被华而不实的产品所取代”。 Leike的声明是在《》杂志报道 OpenAI 解散了致力于解决长期 AI 风险的专门团队（称为“超级对齐团队”）之后发表的。Leike曾负责这个超级对齐团队，该团队成立于去年七月，目的是“解决在 OpenAI 开发具有类人推理能力的 AI 时实施安全协议中的核心技术挑战”。 “我们早就应该非常认真地考虑人工通用智能的影响了。我们必须尽我们所能优先准备，”莱克在周五早上关于他辞职的后续帖子中说。“只有这样，我们才能确保人工通用智能惠及全人类。” Leike 的帖子突显了 OpenAI 内部日益增长的紧张氛围。在研究人员争相开发人工通用智能的同时，还要管理像 ChatGPT 和 DALL-E 这样的消费级 AI 产品，像Leike这样的员工则在提出对创造超级智能 AI 模型潜在危险的担忧。Leike表示，他的团队被降低了优先级，无法获得执行“关键”工作所需的计算和其他资源。 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

OpenAI联创Ilya Sutskever成立新人工智能公司SSI

OpenAI联创Ilya Sutskever成立新人工智能公司SSI PANews 6月20日消息，据CNBC报道，OpenAI联合创始人Ilya Sutskever周三宣布成立新的人工智能初创公司Safe Superintelligence（SSI）。Sutskever表示，新公司将直接追求安全的超级智能，只有一个重点、一个目标和一个产品。Sutskever与曾负责苹果AI业务的Daniel Gross以及OpenAI前员工Daniel Levy共同创立了这家新公司。

OpenAI 的联合创始人和前首席科学家 Ilya Sutskever 正在创办一家新的人工智能公司，专注于安全问题。Suk

OpenAI 的联合创始人和前首席科学家 Ilya Sutskever 正在创办一家新的人工智能公司，专注于安全问题。Sutskever 在周三的一篇文章中透露了 Safe Superintelligence Inc.（SSI），这是一家创业公司，只有“一个目标和一个产品”：创建一个安全且强大的人工智能系统。 这份公告称 SSI 是一家“同时注重安全和能力”的初创公司，从而让公司能够快速推进其 AI 系统，同时仍然优先考虑安全性。公告还指出，像 OpenAI、谷歌和微软这样的公司中的 AI 团队常常面临外部压力，而 SSI 公司的“单一专注”使其能够避免“管理负担或产品周期的干扰”。 “我们的商业模式意味着安全、保障和进步都不受短期商业压力的影响，”公告中称。“这样，我们可以在平稳中扩展。”除了 Sutskever，SSI 的联合创始人还有前 Apple 人工智能负责人 Daniel Gross 和之前在 OpenAI 工作过的 Daniel Levy。 去年，Sutskever 带头推动将 OpenAI 的 CEO Sam Altman 赶下台。，并暗示将启动一个新项目。Sutskever 离职后不久，，理由是安全过程已经“被闪亮的产品所取代”。OpenAI 的政策研究员 Gretchen Krueger 也在宣布离职时提到了安全问题。 随着 OpenAI 与苹果和微软的合作不断推进，我们可能不会很快看到 SSI 也这样做。在接受彭博社采访时，Sutskever 表示，SSI 的第一个产品将是安全的超级智能，在此之前公司“不会做任何其他事情”。 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

报道微软正在自行开发比OpenAI更小更便宜的人工智能模型

报道微软正在自行开发比OpenAI更小更便宜的人工智能模型 这些 SLM 旨在提供与 OpenAI 的 GPT 等大型语言模型（LLM）类似的对话和生成能力，但对硬件的需求大大降低。与外部开发的替代产品相比，这将使微软的人工智能产品和服务具有更低的相关成本和碳足迹。GenAI 团队预计将并入微软的 Azure 云计算部门，将专注于创建更小的语言模型。为了支持 GenAI 团队，微软还从其研究小组调来了几位顶尖开发人员。微软公司副总裁米沙-比连科（Misha Bilenko）将领导该团队的工作。GenAI 团队的目标是创造出与 OpenAI 等公司提供的模型功能相匹配甚至更强的人工智能，同时针对较小的规模进行优化。迄今为止，微软已将 OpenAI 的多项人工智能功能纳入其产品中。例如，必应在Copilot中使用了GPT-4，必应图像创建器在图像生成中使用了Dall-E。最近几周，该公司还推出了Copilot Pro一项针对个人消费者的订阅服务，为他们提供更先进的人工智能功能。该报告是在 OpenAI 最近推出 GPT 商店之后发布的，用户可以在该商店创建、分享和销售基于 OpenAI 语言模型的定制人工智能模型。同样，微软也宣布了自己的计划，即为Copilot提供针对特定需求和主题定制的人工智能聊天机器人。然而，依赖外部开发的人工智能会产生一些费用，而且缺乏对技术本身的控制。微软致力于开发更小巧、更经济实惠的人工智能技术，这有可能为公司提供自己的解决方案开辟新的途径，减少对第三方供应商的依赖。据说美国司法部（DOJ）和联邦贸易委员会（FTC）希望调查 OpenAI 与微软的关系，以防您错过。上周，我们曾报道，这两个机构都急于调查这笔交易，特别是微软的参与及其对人工智能行业竞争的影响。 ... PC版： 手机版：