香港电脑保安事故协调中心吁市民减少在社交网络分享个人身分特征

香港电脑保安事故协调中心吁市民减少在社交网络分享个人身分特征 香港电脑保安事故协调中心去年共处理7700多宗保安事故，网络钓鱼占接近一半，是5年来新高。中心表示，人工智能可以编写程式，降低了成为黑客的技术门槛，骗徒亦可能以人工智能制作深伪影片，甚至「换脸」行骗，提醒市民减少在社交网络分享个人身分特征。 2024-02-01 12:01:54

【香港电脑保安事故协调中心：2022年需关注NFT、元宇宙相关安全风险】

【香港电脑保安事故协调中心：2022年需关注NFT、元宇宙相关安全风险】 2月15日消息，香港生产力促进局（生产力局）辖下的香港电脑保安事故协调中心（HKCERT）近日总结2021年中国香港地区信息安全状况并发布2022年安全预测。 HKCERT表示，中心去年共处理7725宗安全事故。 当中最主要事故为网络钓鱼（3737宗，占48%），较2020年增加7%，连续四年上升并创新高，当中逾七成事故涉及网上购物或网上银行。2022年必须留意的五大安全风险： 1. NFT及元宇宙涉及新型虚拟资产储存、交易及大量数据往来，当中亦包含虚拟世界中不同用户的活动信息，因此相关的资讯安全将备受更大关注；2. 加密货币价值持续攀升及相关市场不断扩张，不法分子会从有关的货币交易和储存两方面入手，盗取用户敏感资料，进入账户转走货币，或作其他恶意用途；3. 利用新兴科技（例如：5G、物联网、人工智能、QR码等）应用普及和潜在安全漏洞发动的网络攻击将趋多元化，如人工智能欺诈、利用QR码登入的账户劫持攻击等；4. 疫情持续将进一步加快供应链互连和数字化，透过攻击第三方服务供应商来入侵最终目标机构的供应链攻击亦会相应上升；5. 网络攻击将会变得更具针对性及有组织，多重勒索软件及针对个别行业（例如：网上购物、电子银行）的钓鱼攻击将成常态。

FBI：黑客正在利用开源人工智能程序进行网络攻击

FBI：黑客正在利用开源人工智能程序进行网络攻击 据联邦调查局高级官员称，犯罪分子正在使用人工智能程序进行网络钓鱼并帮助他们创建恶意软件。 该机构周五与记者举行电话会议，讨论在科技行业风靡一时的 AI 智能程序如何助长网络犯罪。恶意活动的范围包括使用人工智能程序改进和制造骗局，以及恐怖分子利用该技术来帮助他们发动更强大的网络攻击。 一位 FBI 高级官员表示：“我们预计，随着时间的推移，AI 模型的应用越来越广泛，这些趋势也将会增加。” FBI 没有透露犯罪分子正在使用的具体 AI 模型。但这位官员指出，黑客正在倾向于免费、可定制的开源模型，以及黑客私人开发的 AI 程序，这些程序在犯罪网络中收费流通。 这位官员补充说，经验丰富的网络犯罪分子正在利用人工智能技术开发新的恶意软件攻击和更好的传播方法，包括使用人工智能生成的网站作为网络钓鱼页面，可以秘密地传播恶意计算机代码。同样的技术正在帮助黑客开发能够逃避防病毒软件的多态恶意软件。 上个月，美国联邦调查局还警告称，诈骗者正在使用 AI 图像生成器来制作受害者的性不雅照，以向他们勒索金钱。还包括试图利用 AI 语音克隆技术通过电话来诈骗亲人或老年人。

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击 微软在今天的一篇博文中说："网络犯罪集团、民族国家威胁行动者和其他对手正在探索和测试新出现的各种人工智能技术，试图了解它们对其行动的潜在价值以及它们可能需要规避的安全控制。"与俄罗斯军事情报机构有关联的"锶"组织被发现使用 LLMs"了解卫星通信协议、雷达成像技术和特定技术参数"。该黑客组织也被称为 APT28 或 Fancy Bear，在俄罗斯的乌克兰战争期间一直很活跃，此前曾参与2016 年针对希拉里-克林顿总统竞选活动的攻击。据微软称，该小组还一直在使用 LLM 来帮助完成"基本的脚本任务，包括文件操作、数据选择、正则表达式和多进程处理，以实现技术操作的自动化或优化"。一个名为 Thallium 的朝鲜黑客组织一直在使用 LLMs 来研究公开报道的漏洞和目标组织，帮助完成基本的脚本任务，并为网络钓鱼活动起草内容。微软称，名为 Curium 的伊朗组织也一直在使用 LLMs 生成网络钓鱼电子邮件，甚至是用于躲避杀毒软件检测的代码。与中国政府有关联的黑客也在使用 LLMs 进行研究、编写脚本、翻译和改进现有工具。人们一直担心在网络攻击中使用人工智能，特别是出现了像 WormGPT 和 FraudGPT 这样的人工智能工具来协助创建恶意电子邮件和破解工具。美国国家安全局的一位高级官员上个月也警告说，黑客正在利用人工智能让他们的钓鱼邮件看起来更有说服力。微软和 OpenAI 尚未发现任何使用 LLMs 的"重大攻击"，但这两家公司已经关闭了与这些黑客组织相关的所有账户和资产。微软表示："与此同时，我们认为这是一项重要的研究，通过发布来揭露我们观察到的知名威胁行为者试图采取的早期、渐进式行动，并与防御者社区分享我们如何阻止和反击这些行动的信息。"虽然目前人工智能在网络攻击中的应用似乎还很有限，但微软对未来的使用案例（如语音冒充）发出了警告。"人工智能驱动的欺诈是另一个令人严重关切的问题。语音合成就是一个例子，三秒钟的语音样本就能训练出一个听起来像任何人的模型，即使是像语音邮件问候语这样无害的东西，也可以用来获得足够的样本。"微软的解决方案是利用人工智能来应对人工智能攻击。"人工智能可以帮助攻击者提高攻击的复杂程度，而且他们有足够的资源来应对。"微软首席检测分析经理霍马-海蒂法（Homa Hayatyfar）说。"我们已经从微软追踪的 300 多个威胁行为体身上看到了这一点，我们使用人工智能来保护、检测和应对。"微软正在打造一款新的人工智能助手Security Copilot，专为网络安全专业人士设计，用于识别漏洞并更好地理解每天通过网络安全工具产生的大量信号和数据。在 Azure 云遭受重大攻击，甚至俄罗斯黑客监视微软高管之后，这家软件巨头也在全面整顿其软件安全机制。了解更多： ... PC版： 手机版：

坏蛋AI聊天机器人涌现，帮助黑客实施网络钓鱼攻击

坏蛋AI聊天机器人涌现，帮助黑客实施网络钓鱼攻击 一批名为“BadGPT”和“FraudGPT”的新型邪恶聊天机器人正在网络最黑暗的角落涌现。 正如一些办公室工作人员使用 ChatGPT来编写更好的电子邮件一样，黑客正在使用人工智能聊天机器人的受操纵版本来增强他们的网络钓鱼电子邮件。他们可以使用聊天机器人来创建虚假网站、编写恶意软件并定制消息，以更好地冒充高管和其他受信任的实体。 印第安纳大学的研究人员最近梳理了在暗网上销售和传播的 200 多种大型语言模型黑客服务。第一项服务于 2023 年初出现，即 2022 年 11 月OpenAI 的 ChatGPT 公开发布几个月后。 根据网络安全供应商 SlashNext 2023 年 10 月的一份报告，从 ChatGPT 公开发布以来的 12 个月内，网络钓鱼电子邮件增长了 1,265%，平均每天发送 31,000 封钓鱼邮件。虽然一些地下人工智能工具已被关闭，但新的服务已经取代了它们。AI 黑客服务通常通过加密货币付款，价格从每月 5 美元到 199 美元不等。 （节选）

【工信部等八部门：探索建设区域人工智能数据处理中心，促进人工智能赋能传统制造业】

【工信部等八部门：探索建设区域人工智能数据处理中心，促进人工智能赋能传统制造业】 12 月 29 日，工信部官网发布《工业和信息化部等八部门关于加快传统制造业转型升级的指导意见》。其中提到，推动产业园区和集群整体改造升级。探索建设区域人工智能数据处理中心，提供海量数据处理、生成式人工智能工具开发等服务，促进人工智能赋能传统制造业。探索平台化、网络化等组织形式，发展跨物理边界虚拟园区和集群，构建虚实结合的产业数字化新生态。 快讯/广告 联系 @xingkong888885