开源聊天机器人在质量评估上能达到 ChatGPT 的九成

开源聊天机器人在质量评估上能达到 ChatGPT 的九成 加州伯克利、斯坦福、卡内基梅隆和加州圣迭戈的研究团队宣布了开源聊天机器人 Vicuna-13B，它是基于 Meta 的大语言模型 LLaMA，使用了用户通过 ShareGPT 分享的 7 万对话样本进行微调。研究人员让 OpenAI 的 GPT-4 作为裁判去对比 Vicuna-13B 以及 ChatGPT 和 Google Bard，结果显示它在质量评估中能达到 ChatGPT 的九成左右。Vicuna-13B 的训练成本只花了 300 美元。 Vicuna-13B 的代码使用 Apache License 2.0 许可证，研究人员计划释出其模型权重。训练和服务以及(支持中文)可公开用于非商业用途。 来源 ，， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

：NVIDIA的本地聊天机器人项目

：NVIDIA的本地聊天机器人项目 Chat With RTX让用户可以个性化训练一个连接自定义内容(文档、视频等)的大型语言模型，并与其聊天获取相关回复。 Chat With RTX利用了检索增强型生成(RAG)、TensorRT-LLM和RTX加速，可以快速从自定义聊天机器人中获取与上下文相关的回复。它支持各种文件格式，包括文本、pdf、doc/docx、xml等。用户可以指向含有这些文件的文件夹，应用可以在几秒内加载它们。 Chat With RTX技术演示基于GitHub上的TensorRT-LLM RAG开发者参考项目构建。开发者可以基于该项目开发部署自己的RAG应用。 Chat With RTX需要Windows 11系统，NVIDIA GeForce RTX 30/40系列或支持TensorRT-LLM的GPU，16GB以上RAM。 RTX GPU通过TensorRT-LLM可以实现下一级别的AI性能，提供增强的创造力、生产力，以及极快的游戏体验。 NVIDIA提供了各种面向开发者的生成AI工具和面向企业的解决方案。