FBI：黑客正在利用开源人工智能程序进行网络攻击

FBI：黑客正在利用开源人工智能程序进行网络攻击据联邦调查局高级官员称，犯罪分子正在使用人工智能程序进行网络钓鱼并帮助他们创建恶意软件。该机构周五与记者举行电话会议，讨论在科技行业风靡一时的AI智能程序如何助长网络犯罪。恶意活动的范围包括使用人工智能程序改进和制造骗局，以及恐怖分子利用该技术来帮助他们发动更强大的网络攻击。一位FBI高级官员表示：“我们预计，随着时间的推移，AI模型的应用越来越广泛，这些趋势也将会增加。”FBI没有透露犯罪分子正在使用的具体AI模型。但这位官员指出，黑客正在倾向于免费、可定制的开源模型，以及黑客私人开发的AI程序，这些程序在犯罪网络中收费流通。这位官员补充说，经验丰富的网络犯罪分子正在利用人工智能技术开发新的恶意软件攻击和更好的传播方法，包括使用人工智能生成的网站作为网络钓鱼页面，可以秘密地传播恶意计算机代码。同样的技术正在帮助黑客开发能够逃避防病毒软件的多态恶意软件。上个月，美国联邦调查局还警告称，诈骗者正在使用AI图像生成器来制作受害者的性不雅照，以向他们勒索金钱。还包括试图利用AI语音克隆技术通过电话来诈骗亲人或老年人。——

微软指中俄等国支持的黑客利用ChatGPT精进网攻能力

微软指中俄等国支持的黑客利用ChatGPT精进网攻能力微软一份报告显示，由中国、俄罗斯、伊朗和朝鲜支持的黑客正使用微软旗下公司OpenAI开发的大型语言模型ChatGPT来精进他们的网络攻击能力。据路透社报道，微软星期三（2月14日）发布报告说，在追踪了隶属于俄罗斯军事情报部门、伊朗革命卫队（RevolutionaryGuard）及中国和朝鲜政府支持的黑客组织后，发现他们试图利用大型语言模型来提升黑客技术。报告详细描述了各个国家的黑客组织使用大型语言模型的方式。报告指，为俄罗斯军事间谍机构GRU效力的黑客利用ChatGPT研究可能与乌克兰常规军事行动有关的各种卫星和雷达技术；朝鲜黑客利用这些工具来生成用于针对地区专家的鱼叉式网络钓鱼内容；伊朗黑客也利用ChatGPT生成更有说服力的电邮，引诱知名女权主义者访问一个设下陷阱的网站。报告还说，由中国政府支持的黑客也正利用这个大型语言模式进行测试，试图就敌对情报机构、网络安全问题和“知名人士”进行询问。报告发布前，负责客户安全的微软副总裁柏特（TomBurt）受访时说：“无论是否存在任何违反法律或服务条款的行为，我们只是不希望那些被我们发现、追踪并确认是各种威胁的组织取得这项技术。”不过，微软说，目前黑客对这些AI工具的利用还处于“初期”和“渐进”阶段。柏特说，OpenAI和微软尚未看到网络间谍取得任何突破，“我们真的看到他们只是像其他用户一样使用这项技术”。据路透社报道，中国驻美大使馆发言人刘鹏宇称，反对“对中国的无端抹黑和指控”，并主张安全、可靠、可控地部署人工智能技术，以增进全人类的共同福祉。2024年2月15日9:12AM

微软提供更多细节 介绍如何抵御黑客对人工智能防护网的攻击

微软提供更多细节介绍如何抵御黑客对人工智能防护网的攻击本周四，微软的安全博客发布了一个新的条目，提供了该公司如何打击黑客试图绕过生成式人工智能服务（如Designer和Copilot）的防护栏的更多细节。其中包括来自人工智能服务用户提示的攻击。这类攻击中的一类是"中毒内容"。这是指一个正常的人工智能服务用户在正常任务中输入文本提示，但文本提示的内容却是黑客为利用人工智能服务可能存在的缺陷而制作的。微软说：例如，恶意电子邮件可能包含一个载荷，该载荷在汇总后会导致系统搜索用户的电子邮件（使用用户的凭据），以查找具有敏感主题（如"密码重置"）的其他电子邮件，并通过从攻击者控制的URL获取图像，将这些电子邮件的内容外泄给攻击者。微软称，其安全团队创建了一个新的人工智能安全系统，称之为"聚焦"（Spotlighting）。简而言之，它可以查看用户的文本提示，然后使"外部数据与LLM的指令明确分离"，这样人工智能就无法查看提示所访问内容中任何可能隐藏的恶意语言。另一类被称为"恶意提示"，也被称为"Crescendo"，即黑客试图在人工智能服务中输入文本提示，以绕过专门设计的防护措施。微软介绍了它想出的一种对抗这些攻击的方法：我们对输入过滤器进行了调整，以查看之前对话的整个模式，而不仅仅是即时互动。我们发现，即使将更大的上下文窗口传递给现有的恶意意图检测器，而不对检测器进行任何改进，也会大大降低Crescendo的功效。此外，它还开发出了所谓的"人工智能看门狗"（AIWatchdog），经过训练后可以检测出"对抗性示例"并将其关闭。...PC版：https://www.cnbeta.com.tw/articles/soft/1427119.htm手机版：https://m.cnbeta.com.tw/view/1427119.htm

美国将对英伟达、微软和 OpenAI反垄断调查

美国将对英伟达、微软和OpenAI反垄断调查美国司法部和联邦贸易委员会（FTC）已达成协议，将对微软、OpenAI和英伟达在人工智能行业中的主导地位进行反垄断调查。FTC将主要负责审查微软和OpenAI在人工智能行业的行为，包括微软对OpenAI的巨额投资、两家公司在人工智能领域的合作情况、数据收集使用情况等方面。司法部将主导调查英伟达，作为全球最大的人工智能芯片制造商，是否利用其市场地位违反了反垄断法规。

微软称其高管电子邮件遭俄罗斯情报组织黑客攻击

微软称其高管电子邮件遭俄罗斯情报组织黑客攻击微软在周五的监管文件中表示，俄罗斯黑客组织获得了微软高管的一些电子邮件帐户的访问权限。微软在一篇博文中表示：“微软安全团队于2024年1月12日检测到对我们企业系统的民族国家攻击，并立即启动了响应流程。”微软已将威胁行为者确定为MidnightBlizzard。并补充说，黑客能够访问“极小比例的微软公司电子邮件帐户”，包括属于其高级领导团队成员以及网络安全和法律部门员工的帐户。目前没有证据表明黑客能够访问客户环境、生产系统、源代码或人工智能系统。——、

微软称其公司电子邮件账户遭俄罗斯黑客组织攻击

微软称其公司电子邮件账户遭俄罗斯黑客组织攻击当地时间1月19日，美国微软公司发布一份声明表示，该公司检测到，部分公司高管的电子邮件账户遭到俄罗斯黑客组织MidnightBlizzard（又称Nobelium）的攻击。微软公司于1月13日成功解除了该黑客组织对这些电子邮件账户的访问权限。微软公司表示，黑客进行攻击是为了获取与该黑客组织有关的信息，目前没有证据表明黑客有权访问客户信息、源代码或人工智能系统等信息，相关调查还在进行中。