AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMDRyzenAICPU和RadeonRX7000GPU现支持本地运行LLM和AI聊天机器人https://www.ithome.com/0/754/260.htmhttps://community.amd.com/t5/ai/how-to-run-a-large-language-model-llm-on-your-amd-ryzen-ai-pc-or/ba-p/670709AMD表示用户可以在包括采用AMD新XDNANPU的Ryzen7000和Ryzen8000系列APU，以及内置AI加速核心的RadeonRX7000系列GPU设备上，本地运行LLM和AI聊天机器人

NVIDIA推出由GeForce RTX GPU支持的本地聊天机器人：Chat wth RTX

NVIDIA推出由GeForceRTXGPU支持的本地聊天机器人：ChatwthRTXNVIDIA称其为本地LLMChatwithRTX，现在该公司网站上提供了演示版。顾名思义，您的电脑必须配备NVIDIAGeForceRXTGPU才能运行这个本地聊天机器人。以下是具体的硬件要求：图形处理器-NVIDIAGeForceRTX30或40系列图形处理器或NVIDIARTXAmpere或Ada代图形处理器，至少配备8GBVRAM内存-16GB或更大操作系统-Windows11Geforce驱动程序-535.11或更高版本下载并安装后，您就可以将"与RTX聊天"应用程序与您本地存储的内容（如文档、PDF文件、视频等）连接起来。然后，您就可以使用本地数据集向聊天机器人提问，这样聊天机器人就能为您提供答案，而无需筛选所有资料。此外，RTX聊天工具还可以在一些YouTube视频中查找信息。您只需将视频URL复制到应用程序中，然后就视频内容提问。ChatwithRTX会为您提供答案。当然，像"与RTX聊天"这样的本地LLM应用程序的最大特点是，您可以拥有一个人工智能聊天机器人，而不会将数据传输到公司的云服务器，以用于培训和其他目的。这样做的代价是，你需要一台相当强大的电脑来运行它。NVIDIA将"与RTX聊天"应用程序标注为免费技术演示。这可能表明，该公司计划在未来某个时候将其转变为具有更多功能的付费或订阅型应用程序。...PC版：https://www.cnbeta.com.tw/articles/soft/1417919.htm手机版：https://m.cnbeta.com.tw/view/1417919.htm

NVIDIA 发布免费聊天机器人 Chat with RTX，可于电脑上本地运行

不少公司也对AIChatbot的私隐感到忧虑，不会将一些文件上传到ChatGPT或Poe进行分析。NVIDIA近日宣布推出了一款名为的免费示范版聊天机器人，它能够在用户的个人电脑上本地运行，让聊天机器人可以访问到用户的档案和文件。透过将个人数据输入ChatwithRTX，用户能够让它基于该信息创建摘要。此外，用户还可以像使用其他聊天机器人一样提问，而ChatwithRTX会深入用户的数据库中寻找答案。标签:#NVIDIA#AI#英伟达频道:@GodlyNews1投稿:@GodlyNewsBot