：NVIDIA的本地聊天机器人项目

：NVIDIA的本地聊天机器人项目 Chat With RTX让用户可以个性化训练一个连接自定义内容(文档、视频等)的大型语言模型，并与其聊天获取相关回复。 Chat With RTX利用了检索增强型生成(RAG)、TensorRT-LLM和RTX加速，可以快速从自定义聊天机器人中获取与上下文相关的回复。它支持各种文件格式，包括文本、pdf、doc/docx、xml等。用户可以指向含有这些文件的文件夹，应用可以在几秒内加载它们。 Chat With RTX技术演示基于GitHub上的TensorRT-LLM RAG开发者参考项目构建。开发者可以基于该项目开发部署自己的RAG应用。 Chat With RTX需要Windows 11系统，NVIDIA GeForce RTX 30/40系列或支持TensorRT-LLM的GPU，16GB以上RAM。 RTX GPU通过TensorRT-LLM可以实现下一级别的AI性能，提供增强的创造力、生产力，以及极快的游戏体验。 NVIDIA提供了各种面向开发者的生成AI工具和面向企业的解决方案。

相关推荐

封面图片

NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人：Chat wth RTX

NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人：Chat wth RTX NVIDIA 称其为本地 LLM Chat with RTX，现在该公司网站上提供了演示版。顾名思义，您的电脑必须配备NVIDIA GeForce RXT GPU 才能运行这个本地聊天机器人。以下是具体的硬件要求：图形处理器 -NVIDIA GeForce RTX 30 或 40 系列图形处理器或NVIDIA RTX Ampere 或 Ada 代图形处理器，至少配备 8GB VRAM内存 - 16GB 或更大操作系统 - Windows 11Geforce 驱动程序 - 535.11 或更高版本下载并安装后，您就可以将"与 RTX 聊天"应用程序与您本地存储的内容（如文档、PDF 文件、视频等）连接起来。然后，您就可以使用本地数据集向聊天机器人提问，这样聊天机器人就能为您提供答案，而无需筛选所有资料。此外，RTX 聊天工具还可以在一些 YouTube 视频中查找信息。您只需将视频 URL 复制到应用程序中，然后就视频内容提问。Chat with RTX 会为您提供答案。当然，像"与 RTX 聊天"这样的本地 LLM 应用程序的最大特点是，您可以拥有一个人工智能聊天机器人，而不会将数据传输到公司的云服务器，以用于培训和其他目的。这样做的代价是，你需要一台相当强大的电脑来运行它。NVIDIA 将"与 RTX 聊天"应用程序标注为免费技术演示。这可能表明，该公司计划在未来某个时候将其转变为具有更多功能的付费或订阅型应用程序。 ... PC版： 手机版：
封面图片

ℹNVIDIA 推出能在本地运行的 Chat with RTX 聊天机器人，这篇教你怎么使用#

ℹNVIDIA 推出能在本地运行的 Chat with RTX 聊天机器人，这篇教你怎么使用# NVIDIA 也推出自己的 Chat with RTX 聊天机器人了！采用 LLM 大型语言模型，可直接在本地运行，无须透过网路，完全免费...
封面图片

ℹ不用羡慕 NVIDIA 了！AMD 也推出自家 CPU 和 GPU 本地运行的 AI 聊天机器人#

ℹ不用羡慕 NVIDIA 了！AMD 也推出自家 CPU 和 GPU 本地运行的 AI 聊天机器人# 上个月 NVIDIA 为用户推出专属能在本地运行的 Chat with RTX 聊天机器人时，相信不少 AMD 用户都眼红玩不到，而好消息...
封面图片

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能 NVIDIA 在今年 2 月首次推出了 ChatRTX，当时名为"Chat with RTX"，它是一款演示应用，需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器，可以通过浏览器访问该服务器，并输入本地文档甚至 YouTube 视频，从而获得一个强大的搜索工具，其中包含对您自己数据的总结和问题解答。Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计，因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性，由此产生的聊天机器人界面可让您在不同模型之间进行选择，以便找到最适合您想要分析或搜索的数据的模型。ChatRTX 可从 NVIDIA 网站下载，容量为 36GB，现在还支持基于通用语言模型框架的开放式双语（英语和中文）大型语言模型 ChatGLM3。此外，还添加了 OpenAI 的对比语言-图像预训练（CLIP），可让您搜索本地照片数据并与之交互，从而对模型进行图像识别训练。最后，NVIDIA 还更新了 ChatRTX，以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper，可让用户使用语音搜索数据。 ... PC版： 手机版：
封面图片

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人 AMD 表示用户可以在包括采用 AMD 新 XDNA NPU 的 Ryzen 7000 和 Ryzen 8000 系列 APU，以及内置 AI 加速核心的 Radeon RX 7000 系列 GPU 设备上，本地运行 LLM 和 AI 聊天机器人
封面图片

Nvidia 正在为拥有 RTX GPU 的用户更新其实验性的 ChatRTX 聊天机器人，增加更多 AI 模型。这个运行在 W

Nvidia 正在为拥有 RTX GPU 的用户更新其实验性的 ChatRTX 聊天机器人，增加更多 AI 模型。这个运行在 Windows PC 上的聊天机器人已经可以使用 Mistral 或 Llama 2 来查询你输入的个人文件，但现在支持的 AI 模型列表正在扩大，将包括谷歌的 Gemma、ChatGLM3，甚至 OpenAI 的 CLIP 模型，使得搜索你的照片更加容易。 标签: #英伟达 #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人