:litellm的国内版。允许用户通过统一的 api 访问多平台的生成式模型。

:litellm的国内版。允许用户通过统一的 api 访问多平台的生成式模型。 多模态,支持文本生成,多模态文本生成,结构体生成,图像生成,语音生成... 跨平台,支持 OpenAI,Azure,Minimax,智谱,月之暗面,文心一言 在内的国内外 10+ 平台 One API,统一了不同平台的消息格式,推理参数,接口封装,返回解析,让用户无需关心不同平台的差异 异步,流式和并发,提供流式调用,非流式调用,同步调用,异步调用,异步批量并发调用,适配不同的应用场景 自带电池,提供 chainlit UI,输入检查,参数检查,计费,速率控制,Agent, Tool call 等 轻量,最小化依赖,不同平台的请求和鉴权逻辑均为原生内置功能 高质量代码,100% typehints,pylance strict, ruff lint & format, test coverage > 85% ..

相关推荐

封面图片

微软提出的TaskMatrix.AI,想通过大模型和数百万个API来完成任务还是有意思的。

微软提出的TaskMatrix.AI,想通过大模型和数百万个API来完成任务还是有意思的。 : Completing Tasks by Connecting Foundation Models with Millions of APIs 链接: 论文中提出的这个TaskMatrix.AI主要是想理解多模态的输入,然后生成代码,代码里面调用API来完成任务。 它有统一格式的API平台和任务库,方便开发人员定制模型,也方便大模型调用。 TaskMatrix.AI拥有终身学习能力,可以通过学习组合模型和API来完成新任务,而且这是可以解释的。 关键组件有四个: - 多模态对话模型 - API 平台 - API Selector - API Executor 论文中还使用RLHF来提高多模态模型和API Selector的能力。 能够完成的任务: - 视觉任务,比如 图像编辑,图像问答等 - 多模态长内容生成,比如 生成图文 - 自动化 比如:操控手机,浏览器 - 访问云服务 比如: 发现新API - 控制物联网设备 比如:机器人,家用智能设备 我的想法,大模型或者多模态模型出现确实提高了以前对话系统的能力,以前智能音箱大战畅想的很多东西都可以拿出来继续做。

封面图片

【亚马逊推出AIGC“全家桶”】与微软、谷歌从消费级产品切入的做法不同,亚马逊旗下的AWS推出生成式AI平台Bedrock服务。

【亚马逊推出AIGC“全家桶”】与微软、谷歌从消费级产品切入的做法不同,亚马逊旗下的AWS推出生成式AI平台Bedrock服务。用户可以通过API访问亚马逊自己的Titan大模型,也能支持调用第三方的多样化模型。目前,微软、谷歌并未推出类似的PaaS开放平台。 #抽屉IT

封面图片

:开源大模型的统一后端接口,支持多种开源大模型

:开源大模型的统一后端接口,支持多种开源大模型 该项目为开源大模型的推理实现统一的接口接口,与OpenAI响应保持一致,具有以下特性: 以OpenAI ChatGPT API这样的方式调用开源分布式大模型 支持流式响应,实现打印机效果 实现文本嵌入模型,为文档知识问答提供支持 支持大规模语言模型开发工具langchain 的广泛功能 要简单的修改环境变量即可将开源模型作为chatgpt的替代模型,为大众应用提供反馈支持 支持加载经过自行训练的lora模型

封面图片

:一个开源的零依赖库,可使用单一API调用30多种LLM,可以在单个响应中发送多个提示到多个LLM,并将结果返回。

:一个开源的零依赖库,可使用单一API调用30多种LLM,可以在单个响应中发送多个提示到多个LLM,并将结果返回。 llm.ts支持各种不同的LLM,包括文本生成、代码生成、知识库和对话模型等。llm.ts可以在Node、Deno和浏览器等任何地方使用,用户需要自己提供API密钥

封面图片

API 工具 chatX,率先支持自定义模型,可以通过自定义模型调用API 中转网站支持的 claude3API,避开自己注册秒

API 工具 chatX,率先支持自定义模型,可以通过自定义模型调用API 中转网站支持的 claude3API,避开自己注册秒封的风险了 via 补充:该软件Pro内购目前限免 标签: #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

近日,微软宣布与 AI 音乐创作平台 Suno 达成合作,并将其功能引入 Copilot,允许用户通过文本生成多种类型的音乐。C

近日,微软宣布与 AI 音乐创作平台 Suno 达成合作,并将其功能引入 Copilot,允许用户通过文本生成多种类型的音乐。Copilot 用户只需打开微软 Edge 浏览器、访问 Copilot.Microsoft.com、登录自己的帐户并启用 Suno 插件,或者单击“用 Suno 制作音乐”的 logo,就能开始创作。 via 匿名 标签: #微软 #Copilot 频道: @GodlyNews1 投稿: @GodlyNewsBot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人