OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能 OpenAI 正在组建一个由其首席科学家兼公司联合创始人之一 Ilya Sutskever 领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。 ，Sutskever 和 OpenAI 联盟团队的负责人 Jan Leike 预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能假设它最终确实到来不一定是仁慈的，需要研究控制和限制它的方法。 他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。” “我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。” 为了推动“超级智能对齐”领域的发展，OpenAI 正在创建一个新的超级对齐团队，由 Sutskever 和 Leike 领导，该团队将有权使用公司迄今为止已获得的 20% 的计算资源。该团队由 OpenAI 之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能 AI 的核心技术挑战。

数字西部世界？斯坦福 AI 智能体小镇开源

数字西部世界？斯坦福 AI 智能体小镇开源 今年早些时候，斯坦福和谷歌的研究人员以《模拟人生》游戏为灵感，创建了一个 AI 智能体小镇；目前该 AI 小镇已在 Apache-2.0 协议下正式开源。 研究人员在模拟城镇中添加了 25 个生成式智能体，这 25 个角色由 ChatGPT 和自定义代码控制，以高度逼真的行为独立地生活。在 ChatGPT 的支持下，每个人都有自己独特的身份、记忆和行为，并且可以独立交互，但他们都不会意识到自己是生活在模拟中。 开源地址：

OpenAI 预测超智能 AI 十年内出现，正研究用 AI 来监督 AI

OpenAI 预测超智能 AI 十年内出现，正研究用 AI 来监督 AI 当地时间周三，ChatGPT 的开发者 OpenAI 表示计划投入更多资源并成立新的研究团队，研究如何确保 AI 对人类的安全性，最终实现用 AI 来监督 AI。 OpenAI 联合创始人伊利亚・苏茨凯弗（Ilya Sutskever）和 AI 对齐负责人简・莱克（Jan Leike）在中表示：“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前，我们还没有解决方案来操纵或控制一个可能的超智能 AI，并防止其变成无赖。” 这篇博文预测，超智能 AI，即相比于人类更智能的系统，可能会在未来 10 年中出现。人类需要比目前更强大的技术来控制超智能 AI，因此需要在“AI 对齐研究”方面取得突破，确保人 AI 对人类持续有益。AI 对齐是 AI 控制中的主要问题，即要求 AI 的目标和人类的价值观与意图保持一致。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

【香港大学等机构研究者推出开源智能体框架OpenAgents，功能与ChatGPTPlus近似】

【香港大学等机构研究者推出开源智能体框架OpenAgents，功能与ChatGPTPlus近似】 来自香港大学、XLang 实验室、Sea AI 实验室和 Salesforce 的研究者近日联合打造了一款用于真实世界生产力工具的开源智能体框架 OpenAgents，并开源了全栈代码。据悉，OpenAgents 用基于「大语言模型」（LLMs）的技术和全栈工程代码尝试近似复刻了 ChatGPT Plus 的功能，既能执行 Python/SQL 代码，熟练调用工具，也能上网找地图发帖子。 快讯/广告 联系 @xingkong888885

来自清华、北大、上海交大；腾讯、华为、京东、字节跳动，和炙手可热的AI研发机构北京智源人工智能研究院等十多家知名机构的数十名国内

来自清华、北大、上海交大；腾讯、华为、京东、字节跳动，和炙手可热的AI研发机构北京智源人工智能研究院等十多家知名机构的数十名国内AI大牛参与署名的论文，被Google Brain的一名研究员指出严重抄袭。 #抽屉IT

：产品级的强化学习AI智能体库，旨在帮助研究人员和实践者开发适应各种复杂生产环境的最先进的强化学习AI智能体，Pearl具有模块

：产品级的强化学习AI智能体库，旨在帮助研究人员和实践者开发适应各种复杂生产环境的最先进的强化学习AI智能体，Pearl具有模块化设计，提供了许多独特的功能，如动态动作空间、离线学习、智能神经探索、安全决策等，支持实际应用领域，包括推荐系统、拍卖竞标系统和创意选择。与其他库相比，Pearl具有更高的灵活性和可扩展性