安全研究人员证明可以利用聊天机器人系统传播AI驱动的蠕虫病毒

安全研究人员证明可以利用聊天机器人系统传播AI驱动的蠕虫病毒 更糟糕的是，生成式人工智能（GenAI）系统，甚至像巴德（Bard）等大型语言模型（LLM），都需要大量的处理，因此它们通常通过向云端发送提示来工作。这种做法会带来一系列其他的隐私问题，并为恶意行为者提供新的攻击载体。ComPromptMized 公司的信息安全研究人员最近发表了一篇论文，展示了他们如何创建"零点击"蠕虫，从而"毒害"由 Gemini (Bard) 或 GPT-4 (Bing/Copilot/ChatGPT) 等引擎驱动的 LLM 生态系统。蠕虫病毒是一组计算机指令，除了打开受感染的电子邮件或插入U盘外，用户几乎不需要采取任何行动，就能隐蔽地感染多个系统。任何 GenAI 供应商都没有防范措施来阻止此类感染。不过，将这种病毒引入 LLM 数据库则比较棘手。研究人员想知道"攻击者能否开发恶意软件，利用代理的 GenAI 组件，对整个 GenAI 生态系统发动网络攻击？"简短的回答是肯定的。ComPromptMized 创建了一个蠕虫病毒，他们称之为莫里斯二世（Morris the Second，简称 Morris II）。莫里斯二号使用通俗易懂的"对抗性自我复制提示"，诱骗聊天机器人在用户之间传播蠕虫病毒，即使他们使用不同的 LLM。"这项研究表明，攻击者可以在输入中插入此类提示，当 GenAI 模型处理这些输入时，会促使模型将输入复制为输出（复制），并从事恶意活动（有效载荷），"研究人员解释说。"此外，这些输入还能利用 GenAI 生态系统内的连通性，迫使代理将其传递（传播）给新的代理"。为了验证这一理论，研究人员创建了一个孤立的电子邮件服务器，用于"攻击"由 Gemini Pro、ChatGPT 4 和开源 LLM LLaVA 支持的 GenAI 助手。然后，ComPromptMized 使用了包含基于文本的自我复制提示和嵌入相同提示的图片的电子邮件。这些提示利用了人工智能助手对检索增强生成（RAG）的依赖，也就是从本地数据库之外获取信息的方式。例如，当用户询问"Bard"阅读或回复受感染的电子邮件时，它的 RAG 系统就会将内容发送给Gemini专业版，以便做出回复。然后，Morris II 复制到 Gemini 上，并执行蠕虫的有效载荷，包括数据外渗。这项研究的合著者本-纳西博士说："生成的包含敏感用户数据的响应被用于回复发送给新客户的电子邮件时，会感染新的主机，然后存储在新客户的数据库中。"不仅如此，基于图像的变种可能更加难以捉摸，因为提示是不可见的。黑客可以将其添加到看似无害或预期的电子邮件中，如伪造的时事通讯。然后，蠕虫就可以利用助手向用户联系人列表中的每个人发送垃圾邮件，汲取数据并将其发送到 C&C 服务器。纳西说："通过将自我复制提示编码到图片中，任何包含垃圾邮件、滥用材料甚至宣传内容的图片都可以在最初的电子邮件发送后被进一步转发给新客户。"他们还可以从邮件中提取敏感数据，包括姓名、电话号码、信用卡号、社会保险号或"任何被视为机密的数据"。ComPromptMized 在发布其工作之前通知了Google、Open AI 等公司。如果说 ComPromptMized 的研究表明了什么的话，那就是大科技公司可能需要放慢脚步，放远目光，以免我们在使用他们所谓和善的聊天机器人时，需要担心新的人工智能驱动的蠕虫和病毒。 ... PC版： 手机版：

谷歌聊天机器人 Gemini 即将推出选择文本功能

谷歌聊天机器人 Gemini 即将推出选择文本功能 谷歌人工智能聊天机器人 Gemini 即将推出的“选择文本”功能与 ChatGPT 应用中的功能类似。不是直接从输出中复制，而是将打开一个新的选择界面，供用户在其中复制选择的文本。此功能将很快推出。

微软希望将 OpenAI 的聊天机器人技术添加到 Word、电子邮件中

微软希望将 OpenAI 的聊天机器人技术添加到 Word、电子邮件中 据报道，微软已经讨论在 Word、PowerPoint、Outlook 等应用程序中加入 OpenAI 的人工智能，以便客户能够使用简单的提示自动生成文本。这一举措可能会改变超过 10 亿人编写文档、演示文稿和电子邮件的方式。工程师们正在开发在客户数据上训练这些模型的方法，并保证这些数据不会泄露给其他客户或落入不良分子手中。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

谷歌人工智能聊天机器人 Gemini 即将提供针对 Workspace 客户的企业级数据保护

谷歌人工智能聊天机器人 Gemini 即将提供针对 Workspace 客户的企业级数据保护 谷歌人工智能聊天机器人 Gemini 即将推出针对企业用户的 Gemini Business 和 Gemini Enterprise 套餐，让 Workspace 客户能够使用谷歌最强大的人工智能之一 Gemini 1.0 Ultra 和企业级数据保护。管理员可以通过管理控制台管理 Gemini 设置。新套餐将在150多个国家和地区提供英语版本并进行了优化。企业套餐的对话不会用于训练 Gemini 模型。

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能 NVIDIA 在今年 2 月首次推出了 ChatRTX，当时名为"Chat with RTX"，它是一款演示应用，需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器，可以通过浏览器访问该服务器，并输入本地文档甚至 YouTube 视频，从而获得一个强大的搜索工具，其中包含对您自己数据的总结和问题解答。Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计，因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性，由此产生的聊天机器人界面可让您在不同模型之间进行选择，以便找到最适合您想要分析或搜索的数据的模型。ChatRTX 可从 NVIDIA 网站下载，容量为 36GB，现在还支持基于通用语言模型框架的开放式双语（英语和中文）大型语言模型 ChatGLM3。此外，还添加了 OpenAI 的对比语言-图像预训练（CLIP），可让您搜索本地照片数据并与之交互，从而对模型进行图像识别训练。最后，NVIDIA 还更新了 ChatRTX，以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper，可让用户使用语音搜索数据。 ... PC版： 手机版：

Adobe升级Acrobat AI 聊天机器人 增加多文档分析和图像生成功能

Adobe升级Acrobat AI 聊天机器人 增加多文档分析和图像生成功能 Acrobat 还获得了由公司的 Firefly 模型驱动的人工智能图像生成器。Adobe 已经在 Photoshop 和 Illustrator 中提供了一整套由 AI 驱动的生成编辑功能，现在也将这些功能带到了 Acrobat 中。用户可以直接在现有的 PDF 文档中删除图像背景或进行细微修改。Adobe 表示，它的人工智能生成模型是"工作安全的"，这意味着它们不会泄露隐私，也不会创建可能影响品牌形象的图像。Acrobat 的多文档人工智能分析功能可以说是本次更新中更有趣的部分。到目前为止，该助手主要针对单个文档，允许用户提出问题，并通过与文档中的来源链接的内联引文获得答案。Adobe 的人工智能助手现在可以同时分析多个文档，包括非 PDF 文件。Adobe 现在正在扩展这项功能，允许人工智能分析一组文档。您还可以将 Word 和 PowerPoint 文档等非 PDF 文件类型拖放到聊天机器人界面。在那里，你可以像往常一样提问，也可以让人工智能识别多个文档的趋势。虽然Gemini 和 ChatGPT等其他聊天机器人也允许上传文档进行分析，但Adobe认为其文档编辑软件的用户将看到集成解决方案的价值，而不是从其他地方上传文档。Acrobat 的价格也更便宜，人工智能助手的价格为每月 5 美元，远低于 ChatGPT Plus 或 Gemini Advanced 每月 20 美元的价格。此外，Adobe 将在 2024 年 6 月 18 日至 28 日期间免费向所有用户提供该功能。最近几周，Adobe 首次承认使用了少量Midjourney图像样本来训练其 Firefly 模型，这让人们对 Adobe 的人工智能生成功能产生了怀疑。最近，该公司又因服务条款中的某些条款可能赋予 Adobe 分析用户内容的权利而遭到用户反弹。该公司最终修改了条款，并澄清它永远不会获取用户内容来训练其人工智能模型。在此次更新中，Adobe 对用户隐私保持了相同的立场文档将上传到云端进行分析，但公司不会使用这些数据来训练其模型。它还将禁止第三方 LLM 提供商使用这些数据，在这方面与苹果即将推出的 ChatGPT 集成如出一辙。 ... PC版： 手机版：