NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人:Chat wth RTX

NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人:Chat wth RTX NVIDIA 称其为本地 LLM Chat with RTX,现在该公司网站上提供了演示版。顾名思义,您的电脑必须配备NVIDIA GeForce RXT GPU 才能运行这个本地聊天机器人。以下是具体的硬件要求:图形处理器 -NVIDIA GeForce RTX 30 或 40 系列图形处理器或NVIDIA RTX Ampere 或 Ada 代图形处理器,至少配备 8GB VRAM内存 - 16GB 或更大操作系统 - Windows 11Geforce 驱动程序 - 535.11 或更高版本下载并安装后,您就可以将"与 RTX 聊天"应用程序与您本地存储的内容(如文档、PDF 文件、视频等)连接起来。然后,您就可以使用本地数据集向聊天机器人提问,这样聊天机器人就能为您提供答案,而无需筛选所有资料。此外,RTX 聊天工具还可以在一些 YouTube 视频中查找信息。您只需将视频 URL 复制到应用程序中,然后就视频内容提问。Chat with RTX 会为您提供答案。当然,像"与 RTX 聊天"这样的本地 LLM 应用程序的最大特点是,您可以拥有一个人工智能聊天机器人,而不会将数据传输到公司的云服务器,以用于培训和其他目的。这样做的代价是,你需要一台相当强大的电脑来运行它。NVIDIA 将"与 RTX 聊天"应用程序标注为免费技术演示。这可能表明,该公司计划在未来某个时候将其转变为具有更多功能的付费或订阅型应用程序。 ... PC版: 手机版:

相关推荐

封面图片

ℹNVIDIA 推出能在本地运行的 Chat with RTX 聊天机器人,这篇教你怎么使用#

ℹNVIDIA 推出能在本地运行的 Chat with RTX 聊天机器人,这篇教你怎么使用# NVIDIA 也推出自己的 Chat with RTX 聊天机器人了!采用 LLM 大型语言模型,可直接在本地运行,无须透过网路,完全免费...

封面图片

ℹ不用羡慕 NVIDIA 了!AMD 也推出自家 CPU 和 GPU 本地运行的 AI 聊天机器人#

ℹ不用羡慕 NVIDIA 了!AMD 也推出自家 CPU 和 GPU 本地运行的 AI 聊天机器人# 上个月 NVIDIA 为用户推出专属能在本地运行的 Chat with RTX 聊天机器人时,相信不少 AMD 用户都眼红玩不到,而好消息...

封面图片

:NVIDIA的本地聊天机器人项目

:NVIDIA的本地聊天机器人项目 Chat With RTX让用户可以个性化训练一个连接自定义内容(文档、视频等)的大型语言模型,并与其聊天获取相关回复。 Chat With RTX利用了检索增强型生成(RAG)、TensorRT-LLM和RTX加速,可以快速从自定义聊天机器人中获取与上下文相关的回复。它支持各种文件格式,包括文本、pdf、doc/docx、xml等。用户可以指向含有这些文件的文件夹,应用可以在几秒内加载它们。 Chat With RTX技术演示基于GitHub上的TensorRT-LLM RAG开发者参考项目构建。开发者可以基于该项目开发部署自己的RAG应用。 Chat With RTX需要Windows 11系统,NVIDIA GeForce RTX 30/40系列或支持TensorRT-LLM的GPU,16GB以上RAM。 RTX GPU通过TensorRT-LLM可以实现下一级别的AI性能,提供增强的创造力、生产力,以及极快的游戏体验。 NVIDIA提供了各种面向开发者的生成AI工具和面向企业的解决方案。

封面图片

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能 NVIDIA 在今年 2 月首次推出了 ChatRTX,当时名为"Chat with RTX",它是一款演示应用,需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器,可以通过浏览器访问该服务器,并输入本地文档甚至 YouTube 视频,从而获得一个强大的搜索工具,其中包含对您自己数据的总结和问题解答。Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计,因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性,由此产生的聊天机器人界面可让您在不同模型之间进行选择,以便找到最适合您想要分析或搜索的数据的模型。ChatRTX 可从 NVIDIA 网站下载,容量为 36GB,现在还支持基于通用语言模型框架的开放式双语(英语和中文)大型语言模型 ChatGLM3。此外,还添加了 OpenAI 的对比语言-图像预训练(CLIP),可让您搜索本地照片数据并与之交互,从而对模型进行图像识别训练。最后,NVIDIA 还更新了 ChatRTX,以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper,可让用户使用语音搜索数据。 ... PC版: 手机版:

封面图片

Nvidia 正在为拥有 RTX GPU 的用户更新其实验性的 ChatRTX 聊天机器人,增加更多 AI 模型。这个运行在 W

Nvidia 正在为拥有 RTX GPU 的用户更新其实验性的 ChatRTX 聊天机器人,增加更多 AI 模型。这个运行在 Windows PC 上的聊天机器人已经可以使用 Mistral 或 Llama 2 来查询你输入的个人文件,但现在支持的 AI 模型列表正在扩大,将包括谷歌的 Gemma、ChatGLM3,甚至 OpenAI 的 CLIP 模型,使得搜索你的照片更加容易。 标签: #英伟达 #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

NVIDIA App测试版推出 全面取代GeForce Experience且无需登录

NVIDIA App测试版推出 全面取代GeForce Experience且无需登录 从今天起,全新的NVIDIA 应用程序将改变这一切,它将控制面板和 GeForce 体验合二为一,并可连接到其他 NVIDIA 应用程序和功能。用户界面看起来完全重新设计,最重要的是,你不再需要登录 NVIDIA 账户就能通过该应用获得驱动程序更新。NVIDIA 表示,现在登录是可选的,是为想要兑换捆绑产品和奖励的用户准备的。最有趣的部分是这款新的 NVIDIA 应用程序中的统一 GPU 控制中心。它基本上整合了 GeForce Experience 最佳游戏设置和 NVIDIA 通过其控制面板应用单独控制游戏的功能。这意味着您现在可以在单一位置修改游戏设置和驱动程序设置,或为所有游戏和应用程序设置一个全局配置文件。NVIDIA 表示,最终将把 NVIDIA 控制面板的所有功能整合到这款新应用中,包括显示和视频设置。此外,还将添加 GeForce Experience 和 RTX Experience 中的一些属性,例如 GPU 超频和驱动程序回滚功能。不过,并不是所有功能都会过渡。NVIDIA 将移除向 Twitch 和 YouTube 进行广播、向 Facebook 和 YouTube 分享图片和视频以及照片模式 360 和立体捕捉等功能。GeForce Experience 性能覆盖图也发生了变化。下面截图中显示的统计叠加不仅跟踪各种渲染指标,还跟踪游戏的渲染延迟和整体 PC 延迟。NVIDIA 以前会在 GeForce 体验覆盖图中跟踪其中一些指标,但现在它们似乎可以完全自定义,因此你可以显示你想看到的确切统计数据就像第三方帧速率应用程序一样。用户还可以在 NVIDIA 应用程序中 下载其他 NVIDIA 应用程序,如 NVIDIA Broadcast、NVIDIA Omniverse 和 GeForce Now。此外,只要你拥有 RTX 显卡,你就可以使用由 AI 驱动的 NVIDIA Freestyle 游戏增强滤镜,例如 RTX 动态亮度功能,该功能也是从旧版 NVIDIA 控制面板转移过来的。您可以在这里下载NVIDIA 应用程序测试版: ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人