安全专家警告：网络犯罪分子正利用 ChatGPT 编写恶意软件并策划创造约会聊天机器人用以诈骗

安全专家警告：网络犯罪分子正利用 ChatGPT 编写恶意软件并策划创造约会聊天机器人用以诈骗 网络安全研究人员周五警告说，网络犯罪分子已经开始使用 OpenAI 的人工智能聊天机器人 ChatGPT 来快速构建黑客工具。 一位监控犯罪论坛的专家告诉福布斯，诈骗者还在测试 ChatGPT 构建其他聊天机器人的能力，这些聊天机器人旨在冒充年轻女性来诱捕目标。 许多早期的 ChatGPT 用户已经发出警告，该应用程序在去年 12 月推出后的几天内迅速传播开来，它可以编写能够监视用户键盘敲击或创建勒索软件的恶意软件。 网络情报公司 Hold Security 的创始人亚历克斯霍尔登说，他看到约会诈骗者也开始使用 ChatGPT，因为他们试图创造令人信服的角色。 他说：“他们计划创建聊天机器人来模仿大多数女孩，以便在聊天中走得更远。” “他们正试图将闲聊自动化。” 虽然 ChatGPT 编码的工具看起来“非常基础”，但 Check Point 表示，更多“老练”的黑客找到一种将 AI 转化为他们优势的方法只是时间问题。OpenAI 的工具将能够构建更基本但同样有效的恶意软件来降低新手进入非法市场的门槛。

一种以前未被发现的恶意软件品牌正被用于针对 #Linux 系统的攻击

一种以前未被发现的恶意软件品牌正被用于针对 #Linux 系统的攻击 据网络安全公司 ESET 的研究人员称，这种名为 FontOnLake 的恶意软件似乎是精心设计的，虽然正在积极开发，但已经包括远程访问选项、凭证盗窃功能，并能够初始化代理服务器。 FontOnLake 样本于2020年5月首次出现在 VirusTotal 上，但与这些文件相连的命令和控制（C2）服务器被禁用，研究人员说这可能是由于上传的原因。 研究人员指出，该恶意软件所针对的 Linux 系统可能位于包括东南亚在内的地区。 ESET认为，操作者对被抓住和他们的活动暴露 “过于谨慎”，因为几乎所有获得的样本都使用不同的C2服务器地址和各种端口。此外，该恶意软件的作者利用了C/C++和一些第三方库，如 Boost 和 Protobuf。 FontOnLake 是模块化的恶意软件，利用自定义二进制文件来感染目标机器并执行恶意代码。虽然ESET仍在调查FontOnLake，但该公司表示，在其已知的组件中，有被用来加载后门、rootkits和收集信息的木马应用程序。 总共有三个后门也与 FontOnLake 有关。这些后门都是用C++编写的，并创建了一个通往同一C2的桥梁，用于数据外流。此外，它们能够发出 “心跳” 命令，以保持这种连接的活性。 FontOnLake 总是与一个内核模式的 rootkit 一起，在受感染的 Linux 机器上保持持久性。据 Avast 称，该 rootkit 是基于开源的 Suterusu 项目。 以下是ESET发布的技术白皮书，研究 FontOnLake。 #ThreatIntelligence #malware

研究显示:ChatGPT可能会被诱骗生成恶意代码 | 站长之家

研究显示:ChatGPT可能会被诱骗生成恶意代码 | 站长之家 近日，英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能（AI）工具，如ChatGPT，可以被操纵，用于生成恶意代码，从而可能用于发动网络攻击。 该研究是由谢菲尔德大学计算机科学系的学者进行的，首次证明了Text-to-SQL系统的潜在危险，这种AI系统可以让人们用普通语言提出问题，以搜索数据库，广泛应用于各行各业。 研究发现，这些AI工具存在安全漏洞，当研究人员提出特定问题时，它们会生成恶意代码。一旦执行，这些代码可能泄露机密数据库信息，中断数据库的正常服务，甚至摧毁数据库。研究团队成功攻击了六种商业AI工具，其中包括高知名度的BAIDU-UNIT，该工具在众多领域中得到广泛应用，如电子商务、银行业、新闻业、电信业、汽车业和民航业等。 这项研究也突出了人们如何利用AI学习编程语言以与数据库互动的潜在风险。越来越多的人将AI视为提高工作效率的工具，而不仅仅是对话机器人。例如，一名护士可能会向ChatGPT提出编写SQL命令的请求，以与存储临床记录的数据库互动。然而，研究发现，ChatGPT生成的SQL代码在许多情况下可能对数据库造成损害，而护士可能在不受警告的情况下导致严重的数据管理错误。 此外，研究还揭示了一种可能的后门攻击方法，即通过污染训练数据，在Text-to-SQL模型中植入“特洛伊木马”。这种后门攻击通常不会对模型的性能产生一般性影响，但可以随时触发，对使用它的任何人造成实际危害。 研究人员表示，用户应该意识到Text-to-SQL系统中存在的潜在风险，尤其是在使用大型语言模型时。这些模型非常强大，但其行为复杂，很难预测。谢菲尔德大学的研究人员正在努力更好地理解这些模型，并允许其充分发挥潜力。 该研究已经引起了业界的关注，一些公司已经采纳了研究团队的建议，修复了这些安全漏洞。然而，研究人员强调，需要建立一个新的社区来对抗未来可能出现的高级攻击策略，以确保网络安全策略能够跟上不断发展的威胁。

某 PyPI 软件包出现异常更新，黑客利用其传播 Nova Sentinel 恶意

某 PyPI 软件包出现异常更新，黑客利用其传播 Nova Sentinel 恶意软件 软件供应链安全公司 Phylum 表示，2022 年 4 月，一个为 django-log-tracker 的软件包首次发布出现在 PyPI 上。两年后，网络研究人员重新检测到该库出现异常更新。

研究人员发现了一个以前未知的 macOS 恶意软件变体，名为 GIMMICK，据信这是一个被称为 “风暴云” 的中国间谍威胁行为

研究人员发现了一个以前未知的 macOS 恶意软件变体，名为 GIMMICK，据信这是一个被称为 “风暴云” 的中国间谍威胁行为者使用的定制工具。 该恶意软件是由 Volexity 的研究人员发现的，他们是从一台运行macOS 11.6（Big Sur）的 MacBook Pro 的内存中检索到的，该 MacBookPro 在2021年底的网络间谍活动中被破坏。 复杂的威胁行为者使用的定制恶意软件被曝光的情况并不常见。这些团体的操作非常谨慎，致力于留下最小的痕迹并擦除恶意软件的残余部分，擅长逃避基于IoC的检测。 #Malware #macOS

【慢雾：针对macOS系统恶意软件RustBucket可触发恶意活动密钥】

【慢雾：针对macOS系统恶意软件RustBucket可触发恶意活动密钥】 SlowMist发布安全警报，针对macOS 运行系统的 Rust 和 Objective-C 编写的恶意软件RustBucket，感染链由一个 macOS 安装程序组成，该安装程序安装了一个带后门但功能正常的 PDF 阅读器。然后伪造的 PDF 阅读器需要打开一个特定的 PDF 文件，该文件作为触发恶意活动的密钥。