是一个正在开发的轻量级AI Agent,它也可以作为一个简单的开发框架,用于快速构建和试验各种AI Agent想法。特点如下:

是一个正在开发的轻量级AI Agent,它也可以作为一个简单的开发框架,用于快速构建和试验各种AI Agent想法。特点如下: 自然且高度容错的交互式代理调用树架构。 以最灵活的方式解析 LLM 输出,支持更多样的函数调用机制。 自构建、动态加载环境交互模块,提供无限的功能扩展潜力。 专为开源模型设计,但无缝支持 GPT-4 等商业模型。 支持对特定主题的深入调查。 自动化编程和脚本执行。它是一个包罗万象的编码器和熟练的系统管理工具,掌握所有系统命令类似于人工智能操作系统。 设计AIlice时的基本原则是: 以高度动态的提示构建机制丰富LLM行为; 尽可能分离不同的计算任务,利用传统计算中的递归和分治法来解决复杂问题。 代理应该能够双向交互。 让我们简要解释一下这些基本原则。 从最明显的层面开始,高度动态的提示结构使得代理不太可能陷入循环。外部环境新变量的涌入不断影响着法学硕士,帮助其避免陷入这种陷阱。此外,向法学硕士提供所有当前可用的信息可以大大提高其产出。例如,在自动化编程中,来自解释器或命令行的错误消息帮助法学硕士不断修改代码,直到获得正确的结果。最后,在动态提示构建中,提示中的新信息也可能来自其他智能体,作为一种联动推理计算的形式,使得系统的计算机制更加复杂、多样,能够产生更丰富的行为。 从实际的角度来看,分离计算任务是由于我们有限的上下文窗口。我们不能指望在几千个代币的窗口内完成一项复杂的任务。如果我们能够分解一个复杂的任务,以便在有限的资源内解决每个子任务,那将是一个理想的结果。在传统的计算模型中,我们一直利用这一点,但在以LLM为中心的新计算中,这并不容易实现。问题是,如果一个子任务失败,整个任务就有失败的风险。递归更具挑战性:如何确保每次调用时,LLM 都能解决部分子问题,而不是将整个负担传递给下一级调用?我们在AIlice中用IACT架构解决了第一个问题,第二个问题理论上不难解决,但很可能需要更聪明的LLM。 第三个原则是大家目前正在努力的:让多个智能代理交互、协作来完成更复杂的任务。这一原则的实现实际上解决了前面提到的子任务失败的问题。多智能体协作对于智能体运行中的容错能力至关重要。事实上,这可能是新计算范式与传统计算最大的区别之一:传统计算是精确且无错误的,仅通过单向通信(函数调用)来分配子任务,而新计算范式则容易出错且需要计算单元之间的双向通信来纠正错误。这将在下面有关 IACT 框架的部分中详细解释。

相关推荐

封面图片

为了让开发者也能用上 AI 大型语言模型 (LLM) 的能力,微软在 GitHub 上开源了一个轻量级 SDK:,可以说是部分

为了让开发者也能用上 AI 大型语言模型 (LLM) 的能力,微软在 GitHub 上开源了一个轻量级 SDK:,可以说是部分 Copilot 的解决方案。 该 SDK 支持和封装了来自最新 AI 研究的多种设计模式,以便开发人员可以将复杂的 技能注入他们的应用程序。 SDK 提供了提示链、递归推理、总结、零 / 少样本学习、上下文记忆、长期记忆、嵌入、语义索引、规划和访问外部知识存储以及内部数据等功能。

封面图片

tinyllm 是一个轻量级框架,用于大规模开发、调试和监控 LLM 和代理支持的应用程序。该库的主要目标是使代码尽可能简单和可

tinyllm 是一个轻量级框架,用于大规模开发、调试和监控 LLM 和代理支持的应用程序。该库的主要目标是使代码尽可能简单和可读,同时允许用户在生产中创建复杂的代理或 LLM 工作流程。 Function及其流式等价物FunctionStream是tinylm 中的核心类。它们旨在标准化和控制 LLM、ToolStore 以及流模式和其他方式下可扩展生产使用的任何相关调用。 它提供了一种结构化方法来处理函数执行的各个方面,包括输入/​​输出验证、输出处理、错误处理、评估,同时保持代码可读。您可以在单个文件中创建一个具有自己的提示、LLM 模型和评估器的链。无需跳过许多类定义,也无需意大利面条式代码。任何其他库代理/链(langchain/llama-index...)也可以无缝导入为tinylm函数。 | #框架

封面图片

:一个致力于利用开源模型创建自己的JARVIS 的项目。

:一个致力于利用开源模型创建自己的JARVIS 的项目。 AIlice 通过构建一个以LLM作为核心处理器的“文本计算机”来实现这一目标(项目代码仅三千多行)。 目前,AIlice 能够熟练的处理一系列任务,包括主题研究、编码、系统管理、文献综述以及超出这些基本能力的复杂混合任务。 AIlice 在使用 GPT-4 的日常任务中达到了近乎完美的性能,并且正在利用最新的开源模型向实际应用迈进。 基本特性 1. 自然且高度容错的IACT(Interactive Agents Calling Tree)架构。 2. 以最灵活的方式解析LLM输出,支持更多种多样的函数调用机制. 3. 自我构建并动态加载环境交互模块,为功能扩展提供无限潜力。 4. 专为开源模型设计,但可以无缝支持商业模型,如GPT-4。 5. 支持对特定主题进行深入调查。 6. 支持文献阅读。 7. 自动化编程和脚本执行。它是一个全能的coder和系统管理工具,掌握所有系统命令你可以把它看作一个人工智能操作系统。 8. 支持多模态模型。 9. 支持语音交互。 10. 用户以两种方式灵活的参与对话:以agent的一员,或者在任务执行中直接介入。

封面图片

将 Firebase 的简单性带入AI 原生应用程序开发中。

将 Firebase 的简单性带入AI 原生应用程序开发中。 该平台支持使用来自不同提供商的各种LLM来创建类似 GPT 的多租户应用程序。它具有独特的模块化功能,例如推理、检索、助手和工具,无缝集成以增强开发过程。 TaskingAI 的凝聚力设计确保了人工智能应用开发的高效、智能和用户友好的体验。 主要特征: 一体化 LLM 平台:通过统一的 API 访问数百个 AI 模型。 直观的 UI 控制台:简化项目管理并允许控制台内工作流程测试。 BaaS 启发的工作流程:将 AI 逻辑(服务器端)与产品开发(客户端)分开,提供从基于控制台的原型设计到使用 RESTful API 和客户端 SDK 的可扩展解决方案的清晰途径。 可定制的集成:通过可定制的工具和先进的检索增强生成(RAG)系统增强法学硕士功能 异步效率:利用Python FastAPI的异步特性实现高性能、并发计算,增强应用程序的响应能力和可扩展性。

封面图片

李彦宏:智能体是AI时代的网站 将形成数百万量级生态

李彦宏:智能体是AI时代的网站 将形成数百万量级生态 “当时看网站是怎么做出来的?通过浏览器一看源代码,非常简单,稍微改一点,我也可以做出来,今天做智能体跟这个很类似……起个名字,告诉它回答什么、不回答什么,就做成了。”他指出,智能体将会大量出现、形成生态。“未来,在各行各业、各个领域都会依据自己具体的场景,根据自己特有的经验、规则、数据,做出来这些智能体。”“智能体不仅能对话,还具备反思和规划能力,如果说的不对,它能自己想想哪儿错了,它还有规划能力,为了实现目的,能规划要调用什么工具。”李彦宏表示,智能体的这些能力正在逐步完善、门槛也足够低,随着基础大模型能力增强,将诞生更多有价值的应用。展望未来,李彦宏认为,智能体或许还将具备协作能力。“有些复杂的任务,可以通过多个智能体来完成,就像公司里有CEO,还有财务、技术、销售主管,他们协作起来,能完成一个非常复杂的任务。”他认为,如果多个智能体能协作来完成复杂任务,这将会对智能体生态的发展形成极大推动。 ... PC版: 手机版:

封面图片

对 agent 的一个暴论:现有 (multi) agent workflow 的模式没有太大价值。Agent 今年(在以吴恩达

对 agent 的一个暴论:现有 (multi) agent workflow 的模式没有太大价值。Agent 今年(在以吴恩达老师为首的各类大佬的吹捧下)热度很高,但现有的这些所谓的 (multi) agent workflow,本质上是把一个大任务拆分成很多个子任务,每个子任务都有明确的 input 和 output,自己定义一些变量和接口,把这些子任务串起来。这种方式很像是早期的自动驾驶,把感知和规控分开解,或者是上一代的语音助手,把语音转文字、LLM、语音合成这些工作流串起来。 终极的解决方案应该不是这个样子的。现有的 (multi) agent workflow,速度慢先不说,最大的问题还是在接口的地方把信息降维了。这些 input / output 的接口和变量,本质上都是把信息降维到人能理解的维度,这是以高维信息的损失为代价的。每多一层 workflow,损失的信息就多了一次。面对简单问题时, (multi) agent workflow 或许是可行的,但它注定无法解决复杂问题。就好比Waymo 用感知+规控的架构,搭配高精地图,能够在凤凰城和三藩市勉强把本地 L4 跑通,但很难 scale 成一个通用的解法。只有 Tesla 端到端的方案才是自动驾驶的未来。 因此,现有的 (multi) agent workflow方式注定只是一个中间状态,类似自动驾驶中感知+规控+高精地图的拼凑。而最终想要解决复杂问题,需要靠基础模型的进化。当模型能力足够强之后,应该是可以端到端的解决问题。你可以在 prompt 里提示它去使用某些工具,或者采用某些步骤,但应该不需要人为去把 workflow 拆出来。 Agent 的概念依旧重要,但应该回归它更加 native 的定义,即每一个 Agent 应该是独立的智能体,拥有自己的 memory, planning, tool use 等能力,能够端到端地解决问题,而不是需要人类按照自己的理解一口口地把饭喂到嘴里。一个 Agent 就应该是一辆独立的L5 Autopilot 的汽车,而不是一堆弱智 L2 Workflow 凑出来的所谓 multi agents 辅助驾驶杂牌军团。这听起来就很不优雅。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人