NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人:Chat wth RTX

NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人:Chat wth RTX NVIDIA 称其为本地 LLM Chat with RTX,现在该公司网站上提供了演示版。顾名思义,您的电脑必须配备NVIDIA GeForce RXT GPU 才能运行这个本地聊天机器人。以下是具体的硬件要求:图形处理器 -NVIDIA GeForce RTX 30 或 40 系列图形处理器或NVIDIA RTX Ampere 或 Ada 代图形处理器,至少配备 8GB VRAM内存 - 16GB 或更大操作系统 - Windows 11Geforce 驱动程序 - 535.11 或更高版本下载并安装后,您就可以将"与 RTX 聊天"应用程序与您本地存储的内容(如文档、PDF 文件、视频等)连接起来。然后,您就可以使用本地数据集向聊天机器人提问,这样聊天机器人就能为您提供答案,而无需筛选所有资料。此外,RTX 聊天工具还可以在一些 YouTube 视频中查找信息。您只需将视频 URL 复制到应用程序中,然后就视频内容提问。Chat with RTX 会为您提供答案。当然,像"与 RTX 聊天"这样的本地 LLM 应用程序的最大特点是,您可以拥有一个人工智能聊天机器人,而不会将数据传输到公司的云服务器,以用于培训和其他目的。这样做的代价是,你需要一台相当强大的电脑来运行它。NVIDIA 将"与 RTX 聊天"应用程序标注为免费技术演示。这可能表明,该公司计划在未来某个时候将其转变为具有更多功能的付费或订阅型应用程序。 ... PC版: 手机版:

相关推荐

封面图片

:NVIDIA的本地聊天机器人项目

:NVIDIA的本地聊天机器人项目 Chat With RTX让用户可以个性化训练一个连接自定义内容(文档、视频等)的大型语言模型,并与其聊天获取相关回复。 Chat With RTX利用了检索增强型生成(RAG)、TensorRT-LLM和RTX加速,可以快速从自定义聊天机器人中获取与上下文相关的回复。它支持各种文件格式,包括文本、pdf、doc/docx、xml等。用户可以指向含有这些文件的文件夹,应用可以在几秒内加载它们。 Chat With RTX技术演示基于GitHub上的TensorRT-LLM RAG开发者参考项目构建。开发者可以基于该项目开发部署自己的RAG应用。 Chat With RTX需要Windows 11系统,NVIDIA GeForce RTX 30/40系列或支持TensorRT-LLM的GPU,16GB以上RAM。 RTX GPU通过TensorRT-LLM可以实现下一级别的AI性能,提供增强的创造力、生产力,以及极快的游戏体验。 NVIDIA提供了各种面向开发者的生成AI工具和面向企业的解决方案。

封面图片

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能 NVIDIA 在今年 2 月首次推出了 ChatRTX,当时名为"Chat with RTX",它是一款演示应用,需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器,可以通过浏览器访问该服务器,并输入本地文档甚至 YouTube 视频,从而获得一个强大的搜索工具,其中包含对您自己数据的总结和问题解答。Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计,因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性,由此产生的聊天机器人界面可让您在不同模型之间进行选择,以便找到最适合您想要分析或搜索的数据的模型。ChatRTX 可从 NVIDIA 网站下载,容量为 36GB,现在还支持基于通用语言模型框架的开放式双语(英语和中文)大型语言模型 ChatGLM3。此外,还添加了 OpenAI 的对比语言-图像预训练(CLIP),可让您搜索本地照片数据并与之交互,从而对模型进行图像识别训练。最后,NVIDIA 还更新了 ChatRTX,以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper,可让用户使用语音搜索数据。 ... PC版: 手机版:

封面图片

Nvidia 正在为拥有 RTX GPU 的用户更新其实验性的 ChatRTX 聊天机器人,增加更多 AI 模型。这个运行在 W

Nvidia 正在为拥有 RTX GPU 的用户更新其实验性的 ChatRTX 聊天机器人,增加更多 AI 模型。这个运行在 Windows PC 上的聊天机器人已经可以使用 Mistral 或 Llama 2 来查询你输入的个人文件,但现在支持的 AI 模型列表正在扩大,将包括谷歌的 Gemma、ChatGLM3,甚至 OpenAI 的 CLIP 模型,使得搜索你的照片更加容易。 标签: #英伟达 #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

NVIDIA App测试版推出 全面取代GeForce Experience且无需登录

NVIDIA App测试版推出 全面取代GeForce Experience且无需登录 从今天起,全新的NVIDIA 应用程序将改变这一切,它将控制面板和 GeForce 体验合二为一,并可连接到其他 NVIDIA 应用程序和功能。用户界面看起来完全重新设计,最重要的是,你不再需要登录 NVIDIA 账户就能通过该应用获得驱动程序更新。NVIDIA 表示,现在登录是可选的,是为想要兑换捆绑产品和奖励的用户准备的。最有趣的部分是这款新的 NVIDIA 应用程序中的统一 GPU 控制中心。它基本上整合了 GeForce Experience 最佳游戏设置和 NVIDIA 通过其控制面板应用单独控制游戏的功能。这意味着您现在可以在单一位置修改游戏设置和驱动程序设置,或为所有游戏和应用程序设置一个全局配置文件。NVIDIA 表示,最终将把 NVIDIA 控制面板的所有功能整合到这款新应用中,包括显示和视频设置。此外,还将添加 GeForce Experience 和 RTX Experience 中的一些属性,例如 GPU 超频和驱动程序回滚功能。不过,并不是所有功能都会过渡。NVIDIA 将移除向 Twitch 和 YouTube 进行广播、向 Facebook 和 YouTube 分享图片和视频以及照片模式 360 和立体捕捉等功能。GeForce Experience 性能覆盖图也发生了变化。下面截图中显示的统计叠加不仅跟踪各种渲染指标,还跟踪游戏的渲染延迟和整体 PC 延迟。NVIDIA 以前会在 GeForce 体验覆盖图中跟踪其中一些指标,但现在它们似乎可以完全自定义,因此你可以显示你想看到的确切统计数据就像第三方帧速率应用程序一样。用户还可以在 NVIDIA 应用程序中 下载其他 NVIDIA 应用程序,如 NVIDIA Broadcast、NVIDIA Omniverse 和 GeForce Now。此外,只要你拥有 RTX 显卡,你就可以使用由 AI 驱动的 NVIDIA Freestyle 游戏增强滤镜,例如 RTX 动态亮度功能,该功能也是从旧版 NVIDIA 控制面板转移过来的。您可以在这里下载NVIDIA 应用程序测试版: ... PC版: 手机版:

封面图片

Chat Smith - 原APO AI - 人工智能聊天机器人

Chat Smith - 原APO AI - 人工智能聊天机器人 一款不错的基于 GPT-4 的 AI 聊天机器人。Apo AI Chat 是最先进的 GPT4 Open Chatbot 应用程序,可为任何提出的查询提供即时解决方案。 v8 会员解锁 GPT-4(o)解锁 去除盗版提示 #ChatSmith #AI 频道:@ZYPD123 群组:@mumu_software

封面图片

NVIDIA 今天宣布了GeForce RTX™ 40 SUPER 系列GPU家族 包括GeForce RTX 4080 SU

NVIDIA 今天宣布了GeForce RTX™ 40 SUPER 系列GPU家族 包括GeForce RTX 4080 SUPER、GeForce RTX 4070 Ti SUPER和GeForce RTX 4070 SUPER 它们为最新游戏提供了超强动力,并构成了以AI为核心的个人电脑的基础。 这款最新的基于NVIDIA Ada Lovelace架构的GPU提供高达52 shader TFLOPS、121 RT TFLOPS和836 AI TOPS的性能,以加速游戏和创作并提供开发新的娱乐世界和体验所需的动力。GeForce RTX 4070 SUPER起售价为599美元。 PC游戏玩家追求最佳的视觉质量,AI驱动的NVIDIA深度学习超级采样(DLSS)超分辨率、帧生成和光线重建与光线追踪相结合,在《暗黑破坏神IV》、《Pax Dei》和《地平线:禁忌之西》等游戏中提供令人惊叹的世界只需点击一下即可体验。有了DLSS,八个像素中有七个可以由AI生成,加速全光线追踪速度高达4倍,同时提供更好的图像质量。 新的GeForce RTX SUPER GPU是在个人电脑上体验人工智能的最佳方式。专用的AI Tensor核心提供高达836 AI TOPS的性能,为游戏、创作和日常生产力中的人工智能提供变革性能力。建立在RTX GPU之上的丰富软件堆栈进一步加速了人工智能的应用 NVIDIA TensorRT™ 是用于高性能深度学习推理的软件,包括一个深度学习推理优化器和运行时,为推理应用提供低延迟和高吞吐量。TensorRT-LLM for Windows 是一个开源库,它加速了最新大型语言模型的推理性能。在AI工作负载中,GeForce RTX 4080 SUPER 生成视频的速度比 RTX 3080 Ti 快1.5倍以上,生成图像的速度快1.7倍以上。 GeForce RTX 4080 SUPER 能够以 4K 分辨率全面支持光线追踪游戏。其速度比没有使用 DLSS 帧生成技术的 GeForce RTX 3080 Ti 快 1.4 倍,RTX 4080 SUPER 在传统光栅化方面提供了惊人的性能。凭借 836 AI TOPS,DLSS 帧生成技术为性能提供了额外的提升,使 RTX 4080 SUPER 的速度是 RTX 3080 Ti 的两倍。RTX 4080 SUPER 拥有更多的核心和更快的内存,以获得性能优势。它将从 1 月 31 日起上市,起售价为 999 美元。 RTX 4070 Ti SUPER是理想的GPU,能够在1440p超高帧率下全面提升游戏体验,甚至达到4K。与RTX 4070 Ti相比,它拥有更多的核心,扩大了帧缓冲至16GB,并且具有256位的内存总线,显著增加了内存带宽至672 GB/秒。它比RTX 3070 Ti快1.6倍,使用DLSS 3技术时快2.5倍。GeForce RTX 4070 Ti SUPER将于1月24日起发售,售价为799美元。 RTX 4070 SUPER搭载的核心比RTX 4070多出20%,使其在功耗仅为一小部分的情况下速度超过RTX 3090。配合DLSS 3技术,其领先优势扩大到1.5倍。该产品将于1月17日起以599美元的价格开始发售。 标签: #英伟达 #显卡 #Nvidia 频道: @GodlyNews1 投稿: @GodlyNewsBot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人