OpenAI 的长期人工智能风险团队已经解散

OpenAI 的长期人工智能风险团队已经解散 5 月 17 日消息，据美国杂志 WIRED 报道，去年 7 月，OpenAI 宣布成立一个新的研究团队，为超级智能的到来做准备，这种超级智能能够智胜和压倒其创造者。OpenAI 的首席科学家、公司联合创始人之一 Ilya Sutskever 被任命为这个新团队的联合领导人。OpenAI 表示，该团队将获得其计算能力的 20%。 现在 OpenAI 的超级对齐团队已经解散，公司证实了这一消息。在此之前，已经有几名参与其中的研究人员离职，周二的消息称 Sutskever 将离开公司，而该团队的另一位联合领导人也辞职了。该团队的工作将被整合到 OpenAI 的其他研究工作中。 来源：财经慢报频道

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能 OpenAI 正在组建一个由其首席科学家兼公司联合创始人之一 Ilya Sutskever 领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。 ，Sutskever 和 OpenAI 联盟团队的负责人 Jan Leike 预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能假设它最终确实到来不一定是仁慈的，需要研究控制和限制它的方法。 他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。” “我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。” 为了推动“超级智能对齐”领域的发展，OpenAI 正在创建一个新的超级对齐团队，由 Sutskever 和 Leike 领导，该团队将有权使用公司迄今为止已获得的 20% 的计算资源。该团队由 OpenAI 之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能 AI 的核心技术挑战。

此前，OpenAI 解散了致力于解决长期 AI 风险的专门团队（称为“超级对齐团队”）

此前，OpenAI 解散了致力于解决长期 AI 风险的专门团队（称为“超级对齐团队”） Jan Leike，OpenAI 的一位关键研究员，在联合创始人Ilya Sutskever 离职后于本周早些时候辞职。他在周五早上在 X 上发帖称，该公司“安全文化和流程已被华而不实的产品所取代”。 Leike的声明是在《》杂志报道 OpenAI 解散了致力于解决长期 AI 风险的专门团队（称为“超级对齐团队”）之后发表的。Leike曾负责这个超级对齐团队，该团队成立于去年七月，目的是“解决在 OpenAI 开发具有类人推理能力的 AI 时实施安全协议中的核心技术挑战”。 “我们早就应该非常认真地考虑人工通用智能的影响了。我们必须尽我们所能优先准备，”莱克在周五早上关于他辞职的后续帖子中说。“只有这样，我们才能确保人工通用智能惠及全人类。” Leike 的帖子突显了 OpenAI 内部日益增长的紧张氛围。在研究人员争相开发人工通用智能的同时，还要管理像 ChatGPT 和 DALL-E 这样的消费级 AI 产品，像Leike这样的员工则在提出对创造超级智能 AI 模型潜在危险的担忧。Leike表示，他的团队被降低了优先级，无法获得执行“关键”工作所需的计算和其他资源。 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

OpenAI 的联合创始人和前首席科学家 Ilya Sutskever 正在创办一家新的人工智能公司，专注于安全问题。Suk

OpenAI 的联合创始人和前首席科学家 Ilya Sutskever 正在创办一家新的人工智能公司，专注于安全问题。Sutskever 在周三的一篇文章中透露了 Safe Superintelligence Inc.（SSI），这是一家创业公司，只有“一个目标和一个产品”：创建一个安全且强大的人工智能系统。 这份公告称 SSI 是一家“同时注重安全和能力”的初创公司，从而让公司能够快速推进其 AI 系统，同时仍然优先考虑安全性。公告还指出，像 OpenAI、谷歌和微软这样的公司中的 AI 团队常常面临外部压力，而 SSI 公司的“单一专注”使其能够避免“管理负担或产品周期的干扰”。 “我们的商业模式意味着安全、保障和进步都不受短期商业压力的影响，”公告中称。“这样，我们可以在平稳中扩展。”除了 Sutskever，SSI 的联合创始人还有前 Apple 人工智能负责人 Daniel Gross 和之前在 OpenAI 工作过的 Daniel Levy。 去年，Sutskever 带头推动将 OpenAI 的 CEO Sam Altman 赶下台。，并暗示将启动一个新项目。Sutskever 离职后不久，，理由是安全过程已经“被闪亮的产品所取代”。OpenAI 的政策研究员 Gretchen Krueger 也在宣布离职时提到了安全问题。 随着 OpenAI 与苹果和微软的合作不断推进，我们可能不会很快看到 SSI 也这样做。在接受彭博社采访时，Sutskever 表示，SSI 的第一个产品将是安全的超级智能，在此之前公司“不会做任何其他事情”。 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

报道微软正在自行开发比OpenAI更小更便宜的人工智能模型

报道微软正在自行开发比OpenAI更小更便宜的人工智能模型 这些 SLM 旨在提供与 OpenAI 的 GPT 等大型语言模型（LLM）类似的对话和生成能力，但对硬件的需求大大降低。与外部开发的替代产品相比，这将使微软的人工智能产品和服务具有更低的相关成本和碳足迹。GenAI 团队预计将并入微软的 Azure 云计算部门，将专注于创建更小的语言模型。为了支持 GenAI 团队，微软还从其研究小组调来了几位顶尖开发人员。微软公司副总裁米沙-比连科（Misha Bilenko）将领导该团队的工作。GenAI 团队的目标是创造出与 OpenAI 等公司提供的模型功能相匹配甚至更强的人工智能，同时针对较小的规模进行优化。迄今为止，微软已将 OpenAI 的多项人工智能功能纳入其产品中。例如，必应在Copilot中使用了GPT-4，必应图像创建器在图像生成中使用了Dall-E。最近几周，该公司还推出了Copilot Pro一项针对个人消费者的订阅服务，为他们提供更先进的人工智能功能。该报告是在 OpenAI 最近推出 GPT 商店之后发布的，用户可以在该商店创建、分享和销售基于 OpenAI 语言模型的定制人工智能模型。同样，微软也宣布了自己的计划，即为Copilot提供针对特定需求和主题定制的人工智能聊天机器人。然而，依赖外部开发的人工智能会产生一些费用，而且缺乏对技术本身的控制。微软致力于开发更小巧、更经济实惠的人工智能技术，这有可能为公司提供自己的解决方案开辟新的途径，减少对第三方供应商的依赖。据说美国司法部（DOJ）和联邦贸易委员会（FTC）希望调查 OpenAI 与微软的关系，以防您错过。上周，我们曾报道，这两个机构都急于调查这笔交易，特别是微软的参与及其对人工智能行业竞争的影响。 ... PC版： 手机版：

阿联酋发布“猎鹰”人工智能模型挑战 Meta、OpenAI

阿联酋发布“猎鹰”人工智能模型挑战 Meta、OpenAI Falcon 是一个大型语言模型，类似于 OpenAI 的 GPT 和Google的双子座（Gemini）为聊天机器人、图像生成器和其他生成式人工智能工具提供动力的计算系统。Falcon 于 2023 年首次推出，它是开源的，这意味着它的代码可以广泛共享。据猎鹰背后的阿布扎比集团技术创新研究所（TII）称，猎鹰的新版本猎鹰2 11B比Meta Platforms公司最新推出的同类开源模型更强大，在某些指标上与双子座不相上下。先进技术研究委员会（TII 的出资政府实体）秘书长费萨尔-班奈（Faisal Al Bannai）在接受采访时说："我们能够实现比许多大公司更高的性能。而我们的计算能力和团队规模只是他们的一小部分。"阿拉伯联合酋长国正在自上而下齐心协力地推动人工智能的发展，将这项技术视为继石油之后的下一个经济支柱。这个海湾国家推出了一系列新业务和一个可能达到 1000 亿美元的人工智能投资工具。虽然阿联酋和沙特阿拉伯已经宣布了雄心勃勃的人工智能投资计划，但这两个海湾国家不得不引进大量的工程专业知识，并且刚刚开始将生成式人工智能工具应用到企业中。去年秋天，TII 称其第一版 Falcon 的下载量超过 1200 万次。Meta 公司表示，其最新的 Llama 模型获得了 1.7 亿次下载。去年 11 月，先进技术研究委员会（Advanced Technology Research Council）宣布成立 AI71 公司，这是一家致力于将 Falcon 商业化的新公司。Al Bannai 说，AI71 已经开始与阿联酋的合作伙伴一起在医院、律师事务所和呼叫中心试用这项技术，并计划很快扩展到国外。他拒绝透露政府为开发 Falcon 投入了多少资金，但他说，一个由大约 60 名研究人员组成的团队正在为 TII 开发几项人工智能服务。据 TII 称，新版 Falcon 支持五种欧洲语言和"视觉转语言功能"一种能让计算机将图像流畅地转换成文本的工具。据 Al Bannai 称，这种能力是阿布扎比为 Falcon 设计的某些商业应用的关键。他说："分析某人胸部的 X 光片、分析教育文件、分析建筑文件我们正试图将重点放在能够产生重大影响的非常明确的企业用例上。"这位官员说，今后，人工智能系统的开发将由一个新组织负责，名为猎鹰基金会（Falcon Foundation），以非营利性软件机构 Linux 基金会为蓝本。阿尔-班奈说，这将包括一个章程，以确保猎鹰"永远保持开源"。他说，该模型的另一个版本将在未来两个月内发布。本周一早些时候，阿布扎比人工智能公司G42（该公司的支持者之一是微软公司）为其阿拉伯语人工智能聊天机器人Jais发布了一款新应用。 ... PC版： 手机版：