数字西部世界？斯坦福 AI 智能体小镇开源

数字西部世界？斯坦福 AI 智能体小镇开源 今年早些时候，斯坦福和谷歌的研究人员以《模拟人生》游戏为灵感，创建了一个 AI 智能体小镇；目前该 AI 小镇已在 Apache-2.0 协议下正式开源。 研究人员在模拟城镇中添加了 25 个生成式智能体，这 25 个角色由 ChatGPT 和自定义代码控制，以高度逼真的行为独立地生活。在 ChatGPT 的支持下，每个人都有自己独特的身份、记忆和行为，并且可以独立交互，但他们都不会意识到自己是生活在模拟中。 开源地址：

OpenAI 预测超智能 AI 十年内出现，正研究用 AI 来监督 AI

OpenAI 预测超智能 AI 十年内出现，正研究用 AI 来监督 AI 当地时间周三，ChatGPT 的开发者 OpenAI 表示计划投入更多资源并成立新的研究团队，研究如何确保 AI 对人类的安全性，最终实现用 AI 来监督 AI。 OpenAI 联合创始人伊利亚・苏茨凯弗（Ilya Sutskever）和 AI 对齐负责人简・莱克（Jan Leike）在中表示：“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前，我们还没有解决方案来操纵或控制一个可能的超智能 AI，并防止其变成无赖。” 这篇博文预测，超智能 AI，即相比于人类更智能的系统，可能会在未来 10 年中出现。人类需要比目前更强大的技术来控制超智能 AI，因此需要在“AI 对齐研究”方面取得突破，确保人 AI 对人类持续有益。AI 对齐是 AI 控制中的主要问题，即要求 AI 的目标和人类的价值观与意图保持一致。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

【香港大学等机构研究者推出开源智能体框架OpenAgents，功能与ChatGPTPlus近似】

【香港大学等机构研究者推出开源智能体框架OpenAgents，功能与ChatGPTPlus近似】 来自香港大学、XLang 实验室、Sea AI 实验室和 Salesforce 的研究者近日联合打造了一款用于真实世界生产力工具的开源智能体框架 OpenAgents，并开源了全栈代码。据悉，OpenAgents 用基于「大语言模型」（LLMs）的技术和全栈工程代码尝试近似复刻了 ChatGPT Plus 的功能，既能执行 Python/SQL 代码，熟练调用工具，也能上网找地图发帖子。 快讯/广告 联系 @xingkong888885

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能 OpenAI 正在组建一个由其首席科学家兼公司联合创始人之一 Ilya Sutskever 领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。 ，Sutskever 和 OpenAI 联盟团队的负责人 Jan Leike 预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能假设它最终确实到来不一定是仁慈的，需要研究控制和限制它的方法。 他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。” “我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。” 为了推动“超级智能对齐”领域的发展，OpenAI 正在创建一个新的超级对齐团队，由 Sutskever 和 Leike 领导，该团队将有权使用公司迄今为止已获得的 20% 的计算资源。该团队由 OpenAI 之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能 AI 的核心技术挑战。

来自清华、北大、上海交大；腾讯、华为、京东、字节跳动，和炙手可热的AI研发机构北京智源人工智能研究院等十多家知名机构的数十名国内

来自清华、北大、上海交大；腾讯、华为、京东、字节跳动，和炙手可热的AI研发机构北京智源人工智能研究院等十多家知名机构的数十名国内AI大牛参与署名的论文，被Google Brain的一名研究员指出严重抄袭。 #抽屉IT

谷歌通用AI智能体发布 3D游戏玩法要变天了

谷歌通用AI智能体发布 3D游戏玩法要变天了 比如，在《模拟山羊3》（Goat Simulator 3）中当司机开开车：在《幸福工厂》（Satisfactory）中挖矿石：在《瓦尔海姆》（Valheim）中寻找水源：在《无人深空》中（No Man’s Sky）驾驶宇宙飞船射击小行星收集资源：……SIMA全称Scalable Instructable Multiworld Agent，顾名思义可扩展、可指导、多世界。之前，GoogleDeepMind在AI+游戏方面也做过许多工作，比如推出能和人类玩家打PK、会玩《星际争霸II》的AlphaStar系统。而SIMA被DeepMind称作是一个“新的里程碑”，主打从适用单一游戏转向通用多种游戏，且可遵循语言指令。SIMA一公开，网友们也是讨论热烈。让它们替我完成无聊繁琐的任务，这样我就可以直接做有趣的部分，而不必花几个小时培育chocobos获取随机召唤。嗯…《最终幻想》（Final Fantasy）玩家无疑了。专业《模拟山羊》玩家在此刻也懵了：最近这一连串的AI进展也是整的网友们措不及防，直呼“慢一点”：10秒内完成的简单任务接下来再来看一波SIMA的表现。为了让SIMA接触到更多游戏环境，开发团队表示目前已与八家游戏工作室合作，在九款不同的视频游戏上训练和测试了SIMA。当前的SIMA已在600个基本技能上进行了评估。基本操作、交互、使用菜单都会：简单的任务，10秒内可完成。各种场景都能适应：除此外，GoogleDeepMind还发布了一份技术报告，一起来看看里面都有啥。未见过的游戏也会玩SIMA的整体架构是将预训练视觉模型与自监督学习的Transformer相结合。从用户那里接收语言指令，并从环境中获取图像观察结果，然后将它们映射为键盘和鼠标动作。具体架构如下图：开发人员收集了一个既包括精选研究环境又包括商业视频游戏的大型多样化游戏数据集。此外，他们还用Unity创建的一个新环境，名为“the Construction Lab”。在这个环境中，智能体需要使用积木构建雕塑，这考验了它们对物体的操纵能力和对物理世界的理解。数据收集包含多种方法，比如让不同成对的人类玩家的互动，其中一名玩家观察并指导另一名玩家，以此来捕获语言指令；让玩家自由玩游戏，观察他们的操作，并记录下可能导致其游戏行为的指令。通过在不同的游戏世界中学习，SIMA能够将语言与游戏行为相结合。不需要访问游戏源代码，也不需要定制API，仅需要两个输入：屏幕上的图像和用户提供的简单的自然语言指令。然后SIMA就会使用键盘和鼠标输出来控制游戏角色以执行这些指令，这一操作与人类类似，也就意味着SIMA有潜力与任何虚拟环境互动。在评估测试中，研究人员表示SIMA在九个3D游戏集上接受训练，表现显著优于仅在单个游戏上专门训练的智能体。而且SIMA在未训练过的游戏中的表现和专门使用该游戏数据集训练过的智能体表现一样好。也就是说，SIMA在全新环境中具备泛化能力。此外测试结果还显示，SIMA的性能依赖于语言。在一个控制测试中，智能体没有接受任何语言训练或指令，它就会出现无目的的操作，不遵循指令。而且，和人类玩家相比较，SIMA水平还是差一点。 ... PC版： 手机版：