【欧洲刑警组织：预计利用人工智能技术的网络犯罪数量将上升】

【欧洲刑警组织：预计利用人工智能技术的网络犯罪数量将上升】 欧洲刑警组织（Europol）在其对欧盟最新网络威胁的年度分析中透露，预计人工智能驱动的网络犯罪数量将会上升。 Europol 在《2024 年互联网有组织犯罪威胁评估》（IOCTA）中指出，人工智能工具如何使非技术人员能够策划复杂的在线犯罪。人工智能生成的深度造假和虚假广告被全球不良行为者广泛用于瞄准潜在受害者。这些工具的出现正在积极降低网络犯罪的进入门槛。因此，Europol 认为有必要配备工具来打击技术滥用并保护欧盟金融体系。 快讯/广告 联系 @xingkong888885

微软提供更多细节 介绍如何抵御黑客对人工智能防护网的攻击

微软提供更多细节 介绍如何抵御黑客对人工智能防护网的攻击 本周四，微软的安全博客发布了一个新的条目，提供了该公司如何打击黑客试图绕过生成式人工智能服务（如 Designer 和 Copilot）的防护栏的更多细节。其中包括来自人工智能服务用户提示的攻击。这类攻击中的一类是"中毒内容"。这是指一个正常的人工智能服务用户在正常任务中输入文本提示，但文本提示的内容却是黑客为利用人工智能服务可能存在的缺陷而制作的。微软说：例如，恶意电子邮件可能包含一个载荷，该载荷在汇总后会导致系统搜索用户的电子邮件（使用用户的凭据），以查找具有敏感主题（如"密码重置"）的其他电子邮件，并通过从攻击者控制的 URL 获取图像，将这些电子邮件的内容外泄给攻击者。微软称，其安全团队创建了一个新的人工智能安全系统，称之为"聚焦"（Spotlighting）。简而言之，它可以查看用户的文本提示，然后使"外部数据与 LLM 的指令明确分离"，这样人工智能就无法查看提示所访问内容中任何可能隐藏的恶意语言。另一类被称为"恶意提示"，也被称为"Crescendo"，即黑客试图在人工智能服务中输入文本提示，以绕过专门设计的防护措施。微软介绍了它想出的一种对抗这些攻击的方法：我们对输入过滤器进行了调整，以查看之前对话的整个模式，而不仅仅是即时互动。我们发现，即使将更大的上下文窗口传递给现有的恶意意图检测器，而不对检测器进行任何改进，也会大大降低 Crescendo 的功效。此外，它还开发出了所谓的"人工智能看门狗"（AI Watchdog），经过训练后可以检测出"对抗性示例"并将其关闭。 ... PC版： 手机版：

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击 微软在今天的一篇博文中说："网络犯罪集团、民族国家威胁行动者和其他对手正在探索和测试新出现的各种人工智能技术，试图了解它们对其行动的潜在价值以及它们可能需要规避的安全控制。"与俄罗斯军事情报机构有关联的"锶"组织被发现使用 LLMs"了解卫星通信协议、雷达成像技术和特定技术参数"。该黑客组织也被称为 APT28 或 Fancy Bear，在俄罗斯的乌克兰战争期间一直很活跃，此前曾参与2016 年针对希拉里-克林顿总统竞选活动的攻击。据微软称，该小组还一直在使用 LLM 来帮助完成"基本的脚本任务，包括文件操作、数据选择、正则表达式和多进程处理，以实现技术操作的自动化或优化"。一个名为 Thallium 的朝鲜黑客组织一直在使用 LLMs 来研究公开报道的漏洞和目标组织，帮助完成基本的脚本任务，并为网络钓鱼活动起草内容。微软称，名为 Curium 的伊朗组织也一直在使用 LLMs 生成网络钓鱼电子邮件，甚至是用于躲避杀毒软件检测的代码。与中国政府有关联的黑客也在使用 LLMs 进行研究、编写脚本、翻译和改进现有工具。人们一直担心在网络攻击中使用人工智能，特别是出现了像 WormGPT 和 FraudGPT 这样的人工智能工具来协助创建恶意电子邮件和破解工具。美国国家安全局的一位高级官员上个月也警告说，黑客正在利用人工智能让他们的钓鱼邮件看起来更有说服力。微软和 OpenAI 尚未发现任何使用 LLMs 的"重大攻击"，但这两家公司已经关闭了与这些黑客组织相关的所有账户和资产。微软表示："与此同时，我们认为这是一项重要的研究，通过发布来揭露我们观察到的知名威胁行为者试图采取的早期、渐进式行动，并与防御者社区分享我们如何阻止和反击这些行动的信息。"虽然目前人工智能在网络攻击中的应用似乎还很有限，但微软对未来的使用案例（如语音冒充）发出了警告。"人工智能驱动的欺诈是另一个令人严重关切的问题。语音合成就是一个例子，三秒钟的语音样本就能训练出一个听起来像任何人的模型，即使是像语音邮件问候语这样无害的东西，也可以用来获得足够的样本。"微软的解决方案是利用人工智能来应对人工智能攻击。"人工智能可以帮助攻击者提高攻击的复杂程度，而且他们有足够的资源来应对。"微软首席检测分析经理霍马-海蒂法（Homa Hayatyfar）说。"我们已经从微软追踪的 300 多个威胁行为体身上看到了这一点，我们使用人工智能来保护、检测和应对。"微软正在打造一款新的人工智能助手Security Copilot，专为网络安全专业人士设计，用于识别漏洞并更好地理解每天通过网络安全工具产生的大量信号和数据。在 Azure 云遭受重大攻击，甚至俄罗斯黑客监视微软高管之后，这家软件巨头也在全面整顿其软件安全机制。了解更多： ... PC版： 手机版：

Tether 正在开发去中心化人工智能模型

Tether 正在开发去中心化人工智能模型 Tether 首席执行官 Paolo Ardoino 揭示 OpenAI 黑客攻击的预防方法，USDT 稳定币发行商 Tether 正在开发去中心化人工智能（AI）模型，作为其进军该领域的一部分。

DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首 谷歌旗下 DeepMind 部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。

开源人工智能现状（2023版）

开源人工智能现状（2023版） 此书可帮助那些对人工智能（AI）感兴趣，但可能不太了解最新动态的人快速了解现在有哪些酷炫的工具和技术。 主要内容 模型和数据：讲解了哪些AI模型现在很厉害，以及用什么样的数据来测试它们。 工具应用：介绍了一些好用的软件和服务，让你更容易地使用AI。 电脑硬件：告诉你哪些电脑芯片或硬件更适合运行AI程序。 法律问题：提醒你在使用这些工具和数据时需要注意哪些法律问题。 || #电子书