项目RepoChat-200k

项目RepoChat-200k 项目功能：AI 编程 项目简介：一个可以与聊天机器人进行互动对话的开源工具。通过提问或提供输入，聊天机器人将从向量数据库中检索相关文档，然后将用户的输入和检索到的文档一起发送给语言模型，以生成响应。 这个项目使用了200k上下文窗口的Claude模型，而不是RAG模型，以提高对话的相关性和准确性。 项目地址：点击直达 频道 群聊 投稿 商务

基于 LLaMA 的 AI 聊天机器人开源实现

基于 LLaMA 的 AI 聊天机器人开源实现 Meta 的大语言模型 LLaMA 最近引起了广泛关注，它的一大优势是参数规模更小但性能强于 OpenAI 的 GPT-3 模型，而且能运行在单张显卡上，让普通消费者的硬件也有可能提供类似 ChatGPT 性能的 AI 聊天机器人。LLaMA 是一组大语言模型的集合，其参数规模从 70 亿到 650 亿，它最新的 LLaMA-13B 模型有 130 亿个参数，不到 GPT-3 模型 1750 亿个参数的十分之一。现在AI 推出了首个基于人类反馈强化学习的 LLaMA AI 聊天机器人开源实现 。 来源 ，前文： 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

BOT（聊天机器人）通常需要一种新的通讯协议来与用户进行交互。这种协议通常是一种基于文本或语音的交互协议，用于指导人机对话的流程

BOT（聊天机器人）通常需要一种新的通讯协议来与用户进行交互。这种协议通常是一种基于文本或语音的交互协议，用于指导人机对话的流程。 现有的通讯协议，如HTTP和SMTP等，主要是为人类之间的交流设计的，它们不适合机器人之间的交互。因此，为了使BOT能够更好地与用户进行交互，需要开发新的通讯协议，例如基于WebSocket的通讯协议。 WebSocket是一种双向通信协议，可以在客户端和服务器之间建立持久的连接，并允许双方随时发送和接收数据。这种通讯协议可以使BOT更好地感知用户的意图和情感，并作出相应的响应。同时，这种通讯协议也可以提高机器人的响应速度和交互效率，提供更好的用户体验。 因此，开发基于WebSocket的通讯协议可以为BOT提供更好的交互体验和更广泛的应用场景。

马斯克 AI 公司将开源 Grok 聊天机器人

马斯克 AI 公司将开源 Grok 聊天机器人 Grok 聊天机器人是马斯克去年公布，号称比现有聊天机器人（chatbot）更有幽默感。规划中，Grok 会以付费服务提供给 X Premium Plus 订阅户，以内建在 X App 及独立 App 二种形式出现。

：NVIDIA的本地聊天机器人项目

：NVIDIA的本地聊天机器人项目 Chat With RTX让用户可以个性化训练一个连接自定义内容(文档、视频等)的大型语言模型，并与其聊天获取相关回复。 Chat With RTX利用了检索增强型生成(RAG)、TensorRT-LLM和RTX加速，可以快速从自定义聊天机器人中获取与上下文相关的回复。它支持各种文件格式，包括文本、pdf、doc/docx、xml等。用户可以指向含有这些文件的文件夹，应用可以在几秒内加载它们。 Chat With RTX技术演示基于GitHub上的TensorRT-LLM RAG开发者参考项目构建。开发者可以基于该项目开发部署自己的RAG应用。 Chat With RTX需要Windows 11系统，NVIDIA GeForce RTX 30/40系列或支持TensorRT-LLM的GPU，16GB以上RAM。 RTX GPU通过TensorRT-LLM可以实现下一级别的AI性能，提供增强的创造力、生产力，以及极快的游戏体验。 NVIDIA提供了各种面向开发者的生成AI工具和面向企业的解决方案。

基于WebGPU的免安装本地AI聊天机器人

基于WebGPU的免安装本地AI聊天机器人 早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目，该项目可以让开发者基于浏览器调用本机显卡算力。所以在 GitHub 上有开源团队构建了项目，即基于 Web 的大型语言模型，一切都在浏览器内运行，不需要服务器支持、不需要安装、直接利用 WebGPU 特性运行。 这个项目可以大幅度简化搭建 AI 聊天机器人的步骤，而且可以保护隐私，因为这个 AI 模型是 “你” 控制的，你提交的数据不会被共享给开发者进行模型训练。 当然由于是相当于在本地运行的，所以显卡性能至关重要，根据开源团队说明， 显存至少需要 6.4GB，所以如果你的显卡显存比较小的话可能无法运行。 必要条件：Google Chrome 113.0+、显存至少为 6.4GB，使用不同的模型显存要求可能还会增加。 项目地址： 演示地址： 注：演示聊天使用的模型是 vicuna-7b-v0。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot