安全研究人员证明可以利用聊天机器人系统传播AI驱动的蠕虫病毒

安全研究人员证明可以利用聊天机器人系统传播AI驱动的蠕虫病毒 更糟糕的是,生成式人工智能(GenAI)系统,甚至像巴德(Bard)等大型语言模型(LLM),都需要大量的处理,因此它们通常通过向云端发送提示来工作。这种做法会带来一系列其他的隐私问题,并为恶意行为者提供新的攻击载体。ComPromptMized 公司的信息安全研究人员最近发表了一篇论文,展示了他们如何创建"零点击"蠕虫,从而"毒害"由 Gemini (Bard) 或 GPT-4 (Bing/Copilot/ChatGPT) 等引擎驱动的 LLM 生态系统。蠕虫病毒是一组计算机指令,除了打开受感染的电子邮件或插入U盘外,用户几乎不需要采取任何行动,就能隐蔽地感染多个系统。任何 GenAI 供应商都没有防范措施来阻止此类感染。不过,将这种病毒引入 LLM 数据库则比较棘手。研究人员想知道"攻击者能否开发恶意软件,利用代理的 GenAI 组件,对整个 GenAI 生态系统发动网络攻击?"简短的回答是肯定的。ComPromptMized 创建了一个蠕虫病毒,他们称之为莫里斯二世(Morris the Second,简称 Morris II)。莫里斯二号使用通俗易懂的"对抗性自我复制提示",诱骗聊天机器人在用户之间传播蠕虫病毒,即使他们使用不同的 LLM。"这项研究表明,攻击者可以在输入中插入此类提示,当 GenAI 模型处理这些输入时,会促使模型将输入复制为输出(复制),并从事恶意活动(有效载荷),"研究人员解释说。"此外,这些输入还能利用 GenAI 生态系统内的连通性,迫使代理将其传递(传播)给新的代理"。为了验证这一理论,研究人员创建了一个孤立的电子邮件服务器,用于"攻击"由 Gemini Pro、ChatGPT 4 和开源 LLM LLaVA 支持的 GenAI 助手。然后,ComPromptMized 使用了包含基于文本的自我复制提示和嵌入相同提示的图片的电子邮件。这些提示利用了人工智能助手对检索增强生成(RAG)的依赖,也就是从本地数据库之外获取信息的方式。例如,当用户询问"Bard"阅读或回复受感染的电子邮件时,它的 RAG 系统就会将内容发送给Gemini专业版,以便做出回复。然后,Morris II 复制到 Gemini 上,并执行蠕虫的有效载荷,包括数据外渗。这项研究的合著者本-纳西博士说:"生成的包含敏感用户数据的响应被用于回复发送给新客户的电子邮件时,会感染新的主机,然后存储在新客户的数据库中。"不仅如此,基于图像的变种可能更加难以捉摸,因为提示是不可见的。黑客可以将其添加到看似无害或预期的电子邮件中,如伪造的时事通讯。然后,蠕虫就可以利用助手向用户联系人列表中的每个人发送垃圾邮件,汲取数据并将其发送到 C&C 服务器。纳西说:"通过将自我复制提示编码到图片中,任何包含垃圾邮件、滥用材料甚至宣传内容的图片都可以在最初的电子邮件发送后被进一步转发给新客户。"他们还可以从邮件中提取敏感数据,包括姓名、电话号码、信用卡号、社会保险号或"任何被视为机密的数据"。ComPromptMized 在发布其工作之前通知了Google、Open AI 等公司。如果说 ComPromptMized 的研究表明了什么的话,那就是大科技公司可能需要放慢脚步,放远目光,以免我们在使用他们所谓和善的聊天机器人时,需要担心新的人工智能驱动的蠕虫和病毒。 ... PC版: 手机版:

相关推荐

封面图片

微软希望将 OpenAI 的聊天机器人技术添加到 Word、电子邮件中

微软希望将 OpenAI 的聊天机器人技术添加到 Word、电子邮件中 据报道,微软已经讨论在 Word、PowerPoint、Outlook 等应用程序中加入 OpenAI 的人工智能,以便客户能够使用简单的提示自动生成文本。这一举措可能会改变超过 10 亿人编写文档、演示文稿和电子邮件的方式。工程师们正在开发在客户数据上训练这些模型的方法,并保证这些数据不会泄露给其他客户或落入不良分子手中。来源 , 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

封面图片

安全研究人员跟踪到中国黑客组织Earth Krahang入侵了23个国家的70个机构

安全研究人员跟踪到中国黑客组织Earth Krahang入侵了23个国家的70个机构 具体来说,黑客已经入侵了 48 个政府组织,其中 10 个是外交部门,另外 49 个政府机构也成为了黑客的攻击目标。受害者(红色)和目标(黄色)地图(趋势科技)攻击者利用易受攻击的面向互联网的服务器,使用鱼叉式网络钓鱼电子邮件部署定制的网络间谍活动后门。Earth Krahang 滥用其在被攻破的政府基础设施上的存在来攻击其他政府,在被攻破的系统上建立 VPN 服务器,并执行暴力破解以破解重要电子邮件账户的密码。攻击概述威胁行为者利用开源工具扫描面向公众的服务器,查找特定漏洞,如 CVE-2023-32315(Openfire)和 CVE-2022-21587(Oracle Web Apps)。通过利用这些漏洞,他们部署 webhell 来获取未经授权的访问权限,并在受害者网络中建立持久性。或者,他们使用鱼叉式网络钓鱼作为初始访问载体,围绕地缘政治主题发送信息,诱使收件人打开附件或点击链接。一旦进入网络,Earth Krahang 就会利用被入侵的基础设施托管恶意有效载荷、代理攻击流量,并使用被黑客入侵的政府电子邮件账户向其同事或其他政府发送鱼叉式网络钓鱼电子邮件。趋势科技在报告中写道:"我们注意到,Earth Krahang 在侦察阶段会从目标处获取数百个电子邮件地址。在一个案例中,行为者利用一个政府实体的受损邮箱向属于同一实体的 796 个电子邮件地址发送恶意附件"。用于从被入侵账户发送电子邮件的脚本(已删节)(趋势科技)这些电子邮件包含恶意附件,可将后门植入受害者的计算机,传播感染并在检测和清理时实现冗余。攻击者使用被入侵的 Outlook 账户来强行获取 Exchange 凭据,同时还发现了专门从 Zimbra 服务器中渗入电子邮件的 Python 脚本。用于收集电子邮件数据的 Python 脚本(趋势科技)该威胁组织还利用 SoftEtherVPN 在被入侵的面向公众的服务器上建立 VPN 服务器,以建立对受害者私人网络的访问,并进一步提高他们在这些网络中横向移动的能力。Eath Krahang 在网络上建立存在后,会部署 Cobalt Strike、RESHELL 和 XDealer 等恶意软件和工具,提供命令执行和数据收集功能。XDealer 是这两种后门程序中更复杂、更精密的一种,因为它支持 Linux 和 Windows,可以截屏、记录键盘输入和截取剪贴板数据。攻击链概述(趋势科技)趋势科技称,根据指挥和控制(C2)的重叠,它最初发现 Earth Krahang 与中国附属行为者 Earth Lusca 之间存在联系,但确定这是一个独立的集群。这两个威胁组织可能都在中国公司I-Soon 旗下运作,作为专门针对政府实体进行网络间谍活动的特遣部队。此外,RESHELL 以前与"Gallium"组织有关,而 XDealer 则与"Luoyu"黑客有关。然而,趋势科技的洞察力表明,这些工具很可能是威胁行为者之间共享的,每个工具都使用不同的加密密钥。本次的"Earth Krahang"指标清单在此单独发布。 ... PC版: 手机版:

封面图片

南洋理工大学研究人员发明人造"蠕虫肠道"吞噬塑料垃圾

南洋理工大学研究人员发明人造"蠕虫肠道"吞噬塑料垃圾 南洋理工大学的科学家们用不同的塑料食物喂养蠕虫,并从它们的肠道中提取微生物组,将它们放在烧瓶中培养,形成人工"蠕虫肠道"。图片来源:新加坡国立大学南洋理工大学土木与环境工程学院(CEE)和新加坡环境生命科学工程中心(SCELSE)的研究人员通过用塑料喂养蠕虫并培养其内脏中的微生物,展示了一种加速塑料生物降解的新方法。先前的研究表明,面包虫 - 通常作为宠物食品出售、因其营养价值而被称为"超级蠕虫"的黑甲虫的幼虫能够以塑料为食而存活,因为其肠道中含有能够分解常见类型塑料的细菌。然而,由于进食和虫体维持的速度较慢,将它们用于塑料处理一直不切实际。现在,南洋理工大学的科学家们展示了一种克服这些挑战的方法,他们分离出蠕虫的肠道细菌,利用它们来完成这项工作,而无需大规模繁殖蠕虫。(左起)南洋理工大学研究团队成员包括研究员 Sakcham Bairoliya 博士、曹斌副教授和研究员 Liu Yinan 博士。资料来源:新加坡国立大学南洋理工大学电子工程学院副教授、南洋环境科学与工程学院首席研究员曹斌说:"一只蠕虫一生只能消耗几毫克的塑料,因此可以想象,如果我们要依靠它们来处理塑料垃圾,需要多少蠕虫。我们的方法将蠕虫从等式中剔除,从而消除了这种需求。我们的重点是提高蠕虫肠道中有用微生物的数量,并建立一个能够有效分解塑料的人工'蠕虫肠道'"。这项研究最近发表在《国际环境》杂志上,与南洋理工大学 2025 五年战略计划中促进创新并将研究成果转化为造福社会的实际解决方案的承诺相一致。开发人造蠕虫肠道为了开发他们的方法,南洋理工大学的科学家们给三组超级蠕虫喂食了不同的塑料食物高密度聚乙烯(HDPE)、聚丙烯(PP)和聚苯乙烯(PS)为期 30 天。对照组喂食燕麦片。北大科学家之所以选择这些塑料,是因为它们是世界上最常见的塑料之一,用于食品盒和洗涤剂瓶等日常用品。高密度聚乙烯是一种以抗冲击性强、不易分解而著称的塑料。在这些蠕虫内脏中发现的细菌可以分解塑料。资料来源:南洋理工大学在给蠕虫喂食塑料后,科学家从它们的肠道中提取了微生物组,并将它们放在装有合成营养物和不同类型塑料的烧瓶中培养,形成了人工"蠕虫肠道"。在室温下,让微生物组在烧瓶中生长六周。增加塑料降解细菌科学家们发现,与对照组相比,装有喂食塑料的蠕虫肠道微生物群的烧瓶中,塑料降解菌显著增加。此外,与直接喂给蠕虫的塑料上的微生物相比,在烧瓶中塑料上定植的微生物群落更简单,更适合特定类型的塑料。当微生物群落更简单且针对特定类型的塑料时,在实际应用中就有可能更有效地降解塑料。该研究的第一作者、中欧和东欧环境与工程学院研究员刘一楠博士说:"我们的研究是首次成功尝试从喂食塑料的蠕虫肠道微生物组中培养塑料相关细菌群落。通过将肠道微生物组置于特定条件下,我们能够提高人工'蠕虫肠道'中塑料降解细菌的丰度,这表明我们的方法是稳定的,可以大规模复制。"研究人员说,他们的概念验证为开发利用蠕虫肠道微生物群处理塑料垃圾的生物技术方法奠定了基础。下一步,研究人员希望了解超级蠕虫肠道中的细菌如何在分子水平上分解塑料。了解这一机制将有助于科学家们在未来设计塑料降解细菌群落,从而高效地分解塑料。编译自:ScitechDaily ... PC版: 手机版:

封面图片

研究人员创造了一种利用快速电子研究材料中慢速电子的方法

研究人员创造了一种利用快速电子研究材料中慢速电子的方法 访问:NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 然而,这些慢速电子却极难测量。有关它们在固体材料中行为的知识非常有限,科学家们往往只能依靠反复试验。不过,维也纳工业大学现已成功获得有关这些电子行为的宝贵新信息:利用快速电子直接在材料中产生慢速电子。这样就能破译以前无法通过实验获得的细节。该方法现已发表在《物理评论快报》(Physical Review Letters)杂志上。同时产生两种电子维也纳工业大学应用物理研究所的沃尔夫冈-维尔纳(Wolfgang Werner)教授说:"我们对慢速电子在材料内部(例如晶体内部或活细胞内部)的作用很感兴趣。要想找出答案,实际上必须直接在材料中建造一个小型实验室,才能直接进行现场测量。但这当然是不可能的。"Felix Blödorn、Julian Brunner、Alessandra Bellissimo、Florian Simperl、Wolfgang Werner。资料来源:维也纳工业大学迄今为止只能测量从材料中出来的电子,但这并不能告诉我们电子是在材料的哪个部位被释放出来的,以及从那时起电子发生了什么变化。维也纳科技大学的团队借助快速电子解决了这一问题,快速电子可以穿透材料并激发材料中的各种过程。例如,这些快速电子会扰乱材料正负电荷之间的平衡,从而导致另一个电子脱离其位置,以相对较低的速度移动,并在某些情况下逃离材料。现在的关键步骤是同时测量这些不同的电子:"一方面,我们将电子射入材料,并测量它再次离开时的能量。另一方面,我们也同时测量哪些慢速电子从材料中出来。将这些数据结合起来,就有可能获得以前无法获得的信息。"快速电子在穿过材料的过程中损失了多少能量,可以提供它穿透材料多深的信息。这反过来又提供了有关慢速电子从其位置释放出来的深度的信息。现在可以利用这些数据来计算材料中的慢速电子释放能量的程度和方式。有关的数值理论首次可以通过这些数据得到可靠的验证。这让人大吃一惊:以前人们认为,材料中电子的释放是以级联的方式进行的:一个快速电子进入材料,撞击到另一个电子,然后将其从原处撕开,导致两个电子移动。然后,这两个电子又会从自己的位置上带走两个电子,依此类推。新数据表明,事实并非如此:相反,快速电子经历了一系列碰撞,但始终保持着大部分能量,而且在每一次相互作用中,只有一个相对较慢的电子脱离其位置。沃尔夫冈-维尔纳说:"我们的新方法在非常不同的领域提供了机会。我们现在终于可以研究电子在与材料相互作用时如何释放能量了。例如,正是这种能量决定了在癌症治疗中能否摧毁肿瘤细胞,或者在电子束光刻中能否正确形成半导体结构的最精细部分。"编译来源:ScitechDaily ... PC版: 手机版:

封面图片

研究人员利用重新设计的药物给可导致人类癌症的爱泼斯坦-巴尔病毒踩刹车

研究人员利用重新设计的药物给可导致人类癌症的爱泼斯坦-巴尔病毒踩刹车 两个爱泼斯坦巴氏病毒病毒(病毒颗粒)的电子显微镜图像显示了圆形的囊壳松散地包裹着遗传物质60 年前,病理学家安东尼-爱泼斯坦(Anthony Epstein)和病毒学家伊冯娜-巴尔(Yvonne Barr)宣布发现了一种病毒,从此这种病毒便以他们的名字命名。爱泼斯坦-巴尔病毒创造了科学史上第一个被证实能导致人类癌症的病毒。爱泼斯坦和巴尔从肿瘤组织中分离出了这种属于疱疹病毒家族的病原体,并在随后的实验中证明了它的致癌潜力。大多数人都是 EB 病毒携带者:90% 的成年人都感染了这种病毒,但通常不会出现任何症状,也不会因此生病。大约 50%的人在五岁前感染,但很多人直到青春期才感染。急性病毒感染可引起腺热病,也被称为"接吻病",感染者可数月无法工作。除了致癌特性外,这种病原体还被怀疑与多发性硬化症等自身免疫性疾病的发病有关。迄今为止,还没有任何药物或经批准的疫苗能够专门抑制体内的 EBV。现在,巴塞尔大学和巴塞尔大学医院的一个研究小组报告了一个很有希望的起点,可以为 EB 病毒踩刹车。他们的研究成果今天(5 月 23 日)发表在《科学》杂志上。克里斯托夫-赫斯(Christoph Hess)教授领导的研究人员破译了感染 EBV 的免疫细胞(即所谓的 B 细胞)是如何重新编程的。这一过程被称为"转化",它是使感染变为慢性并导致癌症等后续疾病的必要条件。具体来说,研究小组发现,病毒会触发受感染的细胞加速产生一种名为 IDO1 的酶。这最终导致受感染细胞的发电厂线粒体产生更多能量。反过来,EB 病毒以这种方式对 B 细胞进行重编程时,新陈代谢的增加和 B 细胞的快速增殖也需要这种额外的能量。在临床上,研究人员重点研究了一组在器官移植后患上由 EBV 引发的血癌的病人。为了防止移植器官被排斥,必须使用药物削弱免疫系统。这反过来又使EB病毒更容易占据上风,引发血癌,即移植后淋巴瘤。在这篇现已发表的论文中,研究人员发现,EB病毒在移植后淋巴瘤确诊前几个月就已经上调了IDO1酶。这一发现可能有助于开发该疾病的生物标志物。"以前开发 IDO1 抑制剂是希望它们能帮助治疗已确诊的癌症,但不幸的是,事实并非如此。换句话说,已经有针对这种酶的抑制剂通过了临床测试,"Christoph Hess 解释说。因此,这类药物现在可能会获得第二次机会,应用于抑制EB病毒感染,从而治疗EB病毒相关疾病。事实上,在小鼠实验中,用这些药物抑制 IDO1 可以减少 B 细胞的转化,从而减少病毒载量和淋巴瘤的发展。""在移植患者中,标准做法是使用抗各种病毒的药物。"Hess说:"到目前为止,还没有任何专门用于预防或治疗 Epstein-Barr 病毒相关疾病的药物。"更多信息:Bojana Müller-Durovic 等人,针对 EBV 的代谢依赖性可阻碍 B 细胞转化,《科学》(2024 年)DOI: 10.1126/science.adk4898.... PC版: 手机版:

封面图片

坏蛋AI聊天机器人涌现,帮助黑客实施网络钓鱼攻击

坏蛋AI聊天机器人涌现,帮助黑客实施网络钓鱼攻击 一批名为“BadGPT”和“FraudGPT”的新型邪恶聊天机器人正在网络最黑暗的角落涌现。 正如一些办公室工作人员使用 ChatGPT来编写更好的电子邮件一样,黑客正在使用人工智能聊天机器人的受操纵版本来增强他们的网络钓鱼电子邮件。他们可以使用聊天机器人来创建虚假网站、编写恶意软件并定制消息,以更好地冒充高管和其他受信任的实体。 印第安纳大学的研究人员最近梳理了在暗网上销售和传播的 200 多种大型语言模型黑客服务。第一项服务于 2023 年初出现,即 2022 年 11 月OpenAI 的 ChatGPT 公开发布几个月后。 根据网络安全供应商 SlashNext 2023 年 10 月的一份报告,从 ChatGPT 公开发布以来的 12 个月内,网络钓鱼电子邮件增长了 1,265%,平均每天发送 31,000 封钓鱼邮件。虽然一些地下人工智能工具已被关闭,但新的服务已经取代了它们。AI 黑客服务通常通过加密货币付款,价格从每月 5 美元到 199 美元不等。 (节选)

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人