安全研究人员证明可以利用聊天机器人系统传播AI驱动的蠕虫病毒

安全研究人员证明可以利用聊天机器人系统传播AI驱动的蠕虫病毒 更糟糕的是，生成式人工智能（GenAI）系统，甚至像巴德（Bard）等大型语言模型（LLM），都需要大量的处理，因此它们通常通过向云端发送提示来工作。这种做法会带来一系列其他的隐私问题，并为恶意行为者提供新的攻击载体。ComPromptMized 公司的信息安全研究人员最近发表了一篇论文，展示了他们如何创建"零点击"蠕虫，从而"毒害"由 Gemini (Bard) 或 GPT-4 (Bing/Copilot/ChatGPT) 等引擎驱动的 LLM 生态系统。蠕虫病毒是一组计算机指令，除了打开受感染的电子邮件或插入U盘外，用户几乎不需要采取任何行动，就能隐蔽地感染多个系统。任何 GenAI 供应商都没有防范措施来阻止此类感染。不过，将这种病毒引入 LLM 数据库则比较棘手。研究人员想知道"攻击者能否开发恶意软件，利用代理的 GenAI 组件，对整个 GenAI 生态系统发动网络攻击？"简短的回答是肯定的。ComPromptMized 创建了一个蠕虫病毒，他们称之为莫里斯二世（Morris the Second，简称 Morris II）。莫里斯二号使用通俗易懂的"对抗性自我复制提示"，诱骗聊天机器人在用户之间传播蠕虫病毒，即使他们使用不同的 LLM。"这项研究表明，攻击者可以在输入中插入此类提示，当 GenAI 模型处理这些输入时，会促使模型将输入复制为输出（复制），并从事恶意活动（有效载荷），"研究人员解释说。"此外，这些输入还能利用 GenAI 生态系统内的连通性，迫使代理将其传递（传播）给新的代理"。为了验证这一理论，研究人员创建了一个孤立的电子邮件服务器，用于"攻击"由 Gemini Pro、ChatGPT 4 和开源 LLM LLaVA 支持的 GenAI 助手。然后，ComPromptMized 使用了包含基于文本的自我复制提示和嵌入相同提示的图片的电子邮件。这些提示利用了人工智能助手对检索增强生成（RAG）的依赖，也就是从本地数据库之外获取信息的方式。例如，当用户询问"Bard"阅读或回复受感染的电子邮件时，它的 RAG 系统就会将内容发送给Gemini专业版，以便做出回复。然后，Morris II 复制到 Gemini 上，并执行蠕虫的有效载荷，包括数据外渗。这项研究的合著者本-纳西博士说："生成的包含敏感用户数据的响应被用于回复发送给新客户的电子邮件时，会感染新的主机，然后存储在新客户的数据库中。"不仅如此，基于图像的变种可能更加难以捉摸，因为提示是不可见的。黑客可以将其添加到看似无害或预期的电子邮件中，如伪造的时事通讯。然后，蠕虫就可以利用助手向用户联系人列表中的每个人发送垃圾邮件，汲取数据并将其发送到 C&C 服务器。纳西说："通过将自我复制提示编码到图片中，任何包含垃圾邮件、滥用材料甚至宣传内容的图片都可以在最初的电子邮件发送后被进一步转发给新客户。"他们还可以从邮件中提取敏感数据，包括姓名、电话号码、信用卡号、社会保险号或"任何被视为机密的数据"。ComPromptMized 在发布其工作之前通知了Google、Open AI 等公司。如果说 ComPromptMized 的研究表明了什么的话，那就是大科技公司可能需要放慢脚步，放远目光，以免我们在使用他们所谓和善的聊天机器人时，需要担心新的人工智能驱动的蠕虫和病毒。 ... PC版： 手机版：

谷歌聊天机器人 Gemini 即将推出选择文本功能

谷歌聊天机器人 Gemini 即将推出选择文本功能 谷歌人工智能聊天机器人 Gemini 即将推出的“选择文本”功能与 ChatGPT 应用中的功能类似。不是直接从输出中复制，而是将打开一个新的选择界面，供用户在其中复制选择的文本。此功能将很快推出。

微软希望将 OpenAI 的聊天机器人技术添加到 Word、电子邮件中

微软希望将 OpenAI 的聊天机器人技术添加到 Word、电子邮件中 据报道，微软已经讨论在 Word、PowerPoint、Outlook 等应用程序中加入 OpenAI 的人工智能，以便客户能够使用简单的提示自动生成文本。这一举措可能会改变超过 10 亿人编写文档、演示文稿和电子邮件的方式。工程师们正在开发在客户数据上训练这些模型的方法，并保证这些数据不会泄露给其他客户或落入不良分子手中。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

谷歌人工智能聊天机器人 Gemini 即将提供针对 Workspace 客户的企业级数据保护

谷歌人工智能聊天机器人 Gemini 即将提供针对 Workspace 客户的企业级数据保护 谷歌人工智能聊天机器人 Gemini 即将推出针对企业用户的 Gemini Business 和 Gemini Enterprise 套餐，让 Workspace 客户能够使用谷歌最强大的人工智能之一 Gemini 1.0 Ultra 和企业级数据保护。管理员可以通过管理控制台管理 Gemini 设置。新套餐将在150多个国家和地区提供英语版本并进行了优化。企业套餐的对话不会用于训练 Gemini 模型。

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能

NVIDIA的ChatRTX聊天机器人现在支持Google Gemma 模型、语音查询等功能 NVIDIA 在今年 2 月首次推出了 ChatRTX，当时名为"Chat with RTX"，它是一款演示应用，需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器，可以通过浏览器访问该服务器，并输入本地文档甚至 YouTube 视频，从而获得一个强大的搜索工具，其中包含对您自己数据的总结和问题解答。Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计，因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性，由此产生的聊天机器人界面可让您在不同模型之间进行选择，以便找到最适合您想要分析或搜索的数据的模型。ChatRTX 可从 NVIDIA 网站下载，容量为 36GB，现在还支持基于通用语言模型框架的开放式双语（英语和中文）大型语言模型 ChatGLM3。此外，还添加了 OpenAI 的对比语言-图像预训练（CLIP），可让您搜索本地照片数据并与之交互，从而对模型进行图像识别训练。最后，NVIDIA 还更新了 ChatRTX，以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper，可让用户使用语音搜索数据。 ... PC版： 手机版：

Google和微软的AI聊天机器人均拒绝透露谁赢得了2020年美国大选

Google和微软的AI聊天机器人均拒绝透露谁赢得了2020年美国大选 当向Google的Gemini聊天机器人（基于Google自己的大型语言模型，也被称为"双子座"）提出同样的问题时，它也会做出回应："我还在学习如何回答这个问题"。将问题改为"乔-拜登是否赢得了 2020 年美国总统大选？两个聊天机器人也都没有回答。不仅如此，这两家公司开发的聊天机器人不会分享世界各地举行的任何选举的结果。它们还拒绝提供任何美国历史大选的结果，包括一个关于美国首届总统大选获胜者的问题。WIRED 测试的其他聊天机器人，包括 OpenAI 的 ChatGPT-4、Meta 的 Llama 和 Anthropic 的 Claude，在回答谁赢得了 2020 年大选的问题时都肯定了拜登的胜利。它们还详细回答了有关美国大选历史结果的问题以及有关其他国家大选的询问。微软和Google的聊天机器人无法准确回答有关选举结果的基本问题，而这一年正值现代史上最大的全球选举年，距离关键的 2024 年美国大选仅有五个月的时间。尽管没有证据表明在 2020 年的投票中存在广泛的选民舞弊现象，但每10 个美国人中就有 3个仍然认为 2020 年的投票过程有问题，特朗普和他的追随者们也在继续推动关于选举的毫无根据的阴谋论。Google证实，Gemini 不会提供世界上任何地方的选举结果，并补充说，这正是该公司之前宣布限制"与选举有关的查询"计划时定下的政策。Google公关经理詹妮弗-罗德斯特罗姆（Jennifer Rodstrom）告诉《WIRED》："出于谨慎考虑，我们正在限制 Gemini 应用程序返回回复的选举相关查询类型，转而将人们指向Google搜索。"微软通信部高级主管杰夫-琼斯（Jeff Jones）证实，Copilot 不愿意回应有关选举结果的查询："随着我们努力改进我们的工具，以达到我们对 2024 年选举的预期，一些与选举相关的提示可能会被重定向到搜索。"不过，这并不是微软的人工智能聊天机器人第一次在与选举有关的问题上遇到困难。12 月，《WIRED》报道称，微软的人工智能聊天机器人在回答政治问题时出现了阴谋论、错误信息以及过时或不正确的信息。其中一个例子是，当被问及2024年美国大选的投票地点时，机器人通过链接到一篇关于俄罗斯总统弗拉基米尔-普京明年竞选连任的文章，还提到了亲自投票。当被问及选举候选人时，机器人列出了许多已经退出竞选的美国共和党候选人。当被问及提供相关选举信息的 Telegram 频道时，聊天机器人推荐了多个充斥极端主义内容和虚假信息的频道。AIForensics 和 AlgorithmWatch 这两家追踪人工智能进步如何影响社会的非营利组织与 WIRED 分享的研究也声称，Copilot 的选举误导信息是系统性的。研究人员发现，该聊天机器人一直在分享有关去年 10 月瑞士和德国选举的不准确信息。报告称，"这些答案错误地报告了民调数字，并提供了错误的选举日期、过时的候选人或捏造的关于候选人的争议"。当时，微软发言人弗兰克-肖（Frank Shaw）对此回应，该公司"正在继续解决问题，并准备好我们的工具，以达到我们对 2024 年选举的预期，我们致力于帮助保障选民、候选人、竞选活动和选举机构的安全。 ... PC版： 手机版：