微软指中俄等国支持的黑客利用ChatGPT精进网攻能力

微软指中俄等国支持的黑客利用ChatGPT精进网攻能力微软一份报告显示，由中国、俄罗斯、伊朗和朝鲜支持的黑客正使用微软旗下公司OpenAI开发的大型语言模型ChatGPT来精进他们的网络攻击能力。据路透社报道，微软星期三（2月14日）发布报告说，在追踪了隶属于俄罗斯军事情报部门、伊朗革命卫队（RevolutionaryGuard）及中国和朝鲜政府支持的黑客组织后，发现他们试图利用大型语言模型来提升黑客技术。报告详细描述了各个国家的黑客组织使用大型语言模型的方式。报告指，为俄罗斯军事间谍机构GRU效力的黑客利用ChatGPT研究可能与乌克兰常规军事行动有关的各种卫星和雷达技术；朝鲜黑客利用这些工具来生成用于针对地区专家的鱼叉式网络钓鱼内容；伊朗黑客也利用ChatGPT生成更有说服力的电邮，引诱知名女权主义者访问一个设下陷阱的网站。报告还说，由中国政府支持的黑客也正利用这个大型语言模式进行测试，试图就敌对情报机构、网络安全问题和“知名人士”进行询问。报告发布前，负责客户安全的微软副总裁柏特（TomBurt）受访时说：“无论是否存在任何违反法律或服务条款的行为，我们只是不希望那些被我们发现、追踪并确认是各种威胁的组织取得这项技术。”不过，微软说，目前黑客对这些AI工具的利用还处于“初期”和“渐进”阶段。柏特说，OpenAI和微软尚未看到网络间谍取得任何突破，“我们真的看到他们只是像其他用户一样使用这项技术”。据路透社报道，中国驻美大使馆发言人刘鹏宇称，反对“对中国的无端抹黑和指控”，并主张安全、可靠、可控地部署人工智能技术，以增进全人类的共同福祉。2024年2月15日9:12AM

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击微软在今天的一篇博文中说："网络犯罪集团、民族国家威胁行动者和其他对手正在探索和测试新出现的各种人工智能技术，试图了解它们对其行动的潜在价值以及它们可能需要规避的安全控制。"与俄罗斯军事情报机构有关联的"锶"组织被发现使用LLMs"了解卫星通信协议、雷达成像技术和特定技术参数"。该黑客组织也被称为APT28或FancyBear，在俄罗斯的乌克兰战争期间一直很活跃，此前曾参与2016年针对希拉里-克林顿总统竞选活动的攻击。据微软称，该小组还一直在使用LLM来帮助完成"基本的脚本任务，包括文件操作、数据选择、正则表达式和多进程处理，以实现技术操作的自动化或优化"。一个名为Thallium的朝鲜黑客组织一直在使用LLMs来研究公开报道的漏洞和目标组织，帮助完成基本的脚本任务，并为网络钓鱼活动起草内容。微软称，名为Curium的伊朗组织也一直在使用LLMs生成网络钓鱼电子邮件，甚至是用于躲避杀毒软件检测的代码。与中国政府有关联的黑客也在使用LLMs进行研究、编写脚本、翻译和改进现有工具。人们一直担心在网络攻击中使用人工智能，特别是出现了像WormGPT和FraudGPT这样的人工智能工具来协助创建恶意电子邮件和破解工具。美国国家安全局的一位高级官员上个月也警告说，黑客正在利用人工智能让他们的钓鱼邮件看起来更有说服力。微软和OpenAI尚未发现任何使用LLMs的"重大攻击"，但这两家公司已经关闭了与这些黑客组织相关的所有账户和资产。微软表示："与此同时，我们认为这是一项重要的研究，通过发布来揭露我们观察到的知名威胁行为者试图采取的早期、渐进式行动，并与防御者社区分享我们如何阻止和反击这些行动的信息。"虽然目前人工智能在网络攻击中的应用似乎还很有限，但微软对未来的使用案例（如语音冒充）发出了警告。"人工智能驱动的欺诈是另一个令人严重关切的问题。语音合成就是一个例子，三秒钟的语音样本就能训练出一个听起来像任何人的模型，即使是像语音邮件问候语这样无害的东西，也可以用来获得足够的样本。"微软的解决方案是利用人工智能来应对人工智能攻击。"人工智能可以帮助攻击者提高攻击的复杂程度，而且他们有足够的资源来应对。"微软首席检测分析经理霍马-海蒂法（HomaHayatyfar）说。"我们已经从微软追踪的300多个威胁行为体身上看到了这一点，我们使用人工智能来保护、检测和应对。"微软正在打造一款新的人工智能助手SecurityCopilot，专为网络安全专业人士设计，用于识别漏洞并更好地理解每天通过网络安全工具产生的大量信号和数据。在Azure云遭受重大攻击，甚至俄罗斯黑客监视微软高管之后，这家软件巨头也在全面整顿其软件安全机制。了解更多：https://www.microsoft.com/en-us/security/blog/2024/02/14/staying-ahead-of-threat-actors-in-the-age-of-ai/...PC版：https://www.cnbeta.com.tw/articles/soft/1418125.htm手机版：https://m.cnbeta.com.tw/view/1418125.htm

新 AI 工具 “Recall” 深陷差评舆论，微软紧急加强防护以避免黑客攻击

新AI工具“Recall”深陷差评舆论，微软紧急加强防护以避免黑客攻击据报道，当地时间6月7日，微软公司宣布，即将推出的一系列搭载人工智能的个人电脑中，一个名为“Recall”的新功能将默认设置为关闭状态。这是因为网络安全专家指出该工具可能成为黑客的目标，因为Recall功能可以记录用户在电脑上的所有操作，包括电子邮件、浏览历史和文件，通过定期截屏并由微软的算法进行分析来实现这一功能。（每日经济新闻）

OpenAI为ChatGPT推出了代码解释器工具，但存在安全漏洞，黑客可以利用该工具执行恶意指令。

OpenAI为ChatGPT推出了代码解释器工具，但存在安全漏洞，黑客可以利用该工具执行恶意指令。OpenAI近日为ChatGPT推出了全新的代码解释器（CodeInterpreter）工具，可以帮助程序员调试、完善代码编程工作。该工具可以利用AI来编写Python代码，所编写的代码甚至可以在沙盒中运行。不过根据JohannRehberger网络安全专家、Tom'sHardware等多家国外媒体报道，由于该代码解释器工具可以处理任何电子表格文件，并能以图表的形式分析和呈现数据，黑客可以欺骗ChatGPT聊天机器人，让其执行来自第三方URL的指令。