欧洲刑警组织警告说 ChatGPT已经在帮助犯罪分子

欧洲刑警组织警告说ChatGPT已经在帮助犯罪分子现在，欧盟的执法机构欧洲刑警组织已经详细说明了这种模式如何被滥用于更邪恶的目的。事实上，人们已经在使用它来进行非法活动，警察声称。欧洲刑警组织在其报告中说："这些类型的模型可能对执法工作产生的影响已经可以预见。犯罪分子通常会迅速利用新技术，而且很快就能看到他们想出具体的犯罪利用方法，在ChatGPT公开发布后仅几个星期就提供了第一个实际例子。"尽管ChatGPT在拒绝遵守有潜在危害的输入请求方面做得比较好，但用户已经找到了绕过OpenAI的内容过滤系统的方法。例如，有些人已经让它吐出了关于如何制造炸弹或合成可卡因的说明。网民可以要求ChatGPT了解如何犯罪，并要求它提供一步步的指导。"如果一个潜在的罪犯对某个特定的犯罪领域一无所知，ChatGPT可以通过提供关键信息，然后在后续步骤中进一步探索，从而大大加快研究过程。因此，ChatGPT可以用来了解大量的潜在犯罪领域，而无需事先了解，范围包括如何入室犯罪、恐怖主义、网络犯罪和儿童性虐待，"欧洲警察局警告说。该机构承认，所有这些信息已经在互联网上公开提供，但该模型使人们更容易找到和了解如何进行具体的犯罪活动。欧洲刑警组织还强调，该模型可以被利用来冒充目标，为欺诈和网络钓鱼提供便利，或制作宣传和虚假信息以支持恐怖主义。ChatGPT拥有很强的生成代码的能力--甚至是恶意代码，也可以通过降低创建恶意软件所需的技术能力来增加网络犯罪的风险。"对于没有什么技术知识的潜在罪犯来说，这是一个宝贵的资源。同时，一个更高级的用户可以利用这些改进的能力来进一步完善甚至自动化复杂的网络犯罪手法，"该报告说。大型语言模型（LLMs）并不复杂，仍处于起步阶段，但随着科技公司投入资源开发该技术，它们正在迅速改善。OpenAI已经发布了GPT-4，一个更强大的系统，而且这些模型正被越来越多地整合到产品中。自ChatGPT发布以来，微软和Google都在其搜索引擎中推出了AI驱动的网络搜索聊天机器人。欧洲刑警组织表示，随着越来越多的公司推出人工智能功能和服务，这将为利用该技术进行非法活动开辟新途径。执法组织的报告建议："多模态人工智能系统，将对话式聊天机器人与能够产生合成媒体的系统结合起来，如高度令人信服的深度伪造，或包括感官能力，如视觉和听觉。"例如，秘密版本的语言模型没有内容过滤器，并在有害数据上进行训练，可以在暗网上托管。"最后，关于LLM服务在未来如何处理用户数据存在不确定性--对话是否会被存储，并可能将敏感的个人信息暴露给未经授权的第三方？如果用户产生了有害的内容，是否应该向执法当局报告？"欧洲刑警组织问道。...PC版：https://www.cnbeta.com.tw/articles/soft/1351589.htm手机版：https://m.cnbeta.com.tw/view/1351589.htm

在Telegram中查看

相关推荐

【欧洲刑警组织警告DeFi和NFT领域犯罪活动不断增加】

【欧洲刑警组织警告DeFi和NFT领域犯罪活动不断增加】2023年09月18日05点15分老不正经报道，欧洲刑警组织（欧盟执法合作机构）最近发布了欧洲金融和经济犯罪威胁评估。该报告强调了影响欧盟的金融和经济犯罪的复杂性，例如洗钱、腐败、欺诈、知识产权犯罪和假币。报告称，基于区块链技术的去中心化金融（DeFi）有望带来更大的独立性和安全性。然而，这一领域缺乏监管，为经济犯罪留下了空间，因为犯罪分子在DeFi平台上存储非法资产。高波动性的加密货币也是欺诈计划和洗钱活动的目标。NFT越来越受欢迎，但由于其即时交易功能也吸引了欺诈者。鉴于NFT的跨境交易特征，其存在巨大的洗钱风险。此外，元宇宙（用于各种活动的数字空间）的出现已被金融部门采用，并为犯罪分子提供了新的机会。虚拟宇宙中的欺诈和盗窃案件已经有报道，这表明该虚拟环境中存在有组织犯罪的潜在趋势。面对这些不断演变的金融和经济犯罪，欧洲刑警组织强调需要采取积极措施、国际合作并保持领先的犯罪创新，以确保欧盟的安全与稳定。

【国际刑警组织警告“元宇宙”可能催生新的网络犯罪】

【国际刑警组织警告“元宇宙”可能催生新的网络犯罪】10月30日消息，国际刑警组织称其正在为以下风险作准备，即网络沉浸式环境（元宇宙）可能催生新的网络犯罪类型，使现有犯罪更大规模地发生。报道称，国际刑警组织负责技术和创新的执行主任马丹·奥贝罗伊对路透社记者说，该组织成员国对如何应对可能的元宇宙犯罪作准备提出了关切。元宇宙中可能会出现一些新型犯罪，一些现有犯罪可能会被这种媒介赋能，并上升到新的水平。报道称，奥贝罗伊说，在增强现实和虚拟现实技术参与其中时，网络钓鱼和诈骗的运作形式可能会有所不同。他说，儿童安全问题也令人担忧。虚拟现实还可以为实体世界中的犯罪提供便利。如果恐怖组织想要攻击一处物理空间，他们可能会利用虚拟空间来策划、模拟和启动他们的演习，然后发动攻击。

安全专家警告：网络犯罪分子正利用 ChatGPT 编写恶意软件并策划创造约会聊天机器人用以诈骗

安全专家警告：网络犯罪分子正利用ChatGPT编写恶意软件并策划创造约会聊天机器人用以诈骗网络安全研究人员周五警告说，网络犯罪分子已经开始使用OpenAI的人工智能聊天机器人ChatGPT来快速构建黑客工具。一位监控犯罪论坛的专家告诉福布斯，诈骗者还在测试ChatGPT构建其他聊天机器人的能力，这些聊天机器人旨在冒充年轻女性来诱捕目标。许多早期的ChatGPT用户已经发出警告，该应用程序在去年12月推出后的几天内迅速传播开来，它可以编写能够监视用户键盘敲击或创建勒索软件的恶意软件。网络情报公司HoldSecurity的创始人亚历克斯霍尔登说，他看到约会诈骗者也开始使用ChatGPT，因为他们试图创造令人信服的角色。他说：“他们计划创建聊天机器人来模仿大多数女孩，以便在聊天中走得更远。”“他们正试图将闲聊自动化。”虽然ChatGPT编码的工具看起来“非常基础”，但CheckPoint表示，更多“老练”的黑客找到一种将AI转化为他们优势的方法只是时间问题。OpenAI的工具将能够构建更基本但同样有效的恶意软件来降低新手进入非法市场的门槛。——

欧盟下令欧洲刑警组织限期内删除公民信息数据

欧盟下令欧洲刑警组织限期内删除公民信息数据欧洲刑警组织被命令删除公民数据——只要该机构并未将公民同正在进行的犯罪活动联系起来。欧洲数据保护监管机构（EDPS）宣布了这一决定，EDPS是一个欧盟的独立监管机构，主要目标是监督和确保欧洲机构和团体尊重隐私和数据保护权利。EDPS表示，欧洲刑警组织有一年时间执行这项命令，在此期间，该执法机构必须过滤其数据库并删除任何未牵涉刑事调查的欧盟公民信息。作为调查的一部分，欧洲刑警组织将被允许处理个人信息，但与犯罪无关的数据必须在六个月后删除。EDPS在新闻稿中表示：“这意味着欧洲刑警组织将不再被允许无限期地长久保留与犯罪或犯罪活动没有关联的人的数据。”——solidot

【尼日利亚国际刑警组织通过虚拟资产培训加强网络安全】

【尼日利亚国际刑警组织通过虚拟资产培训加强网络安全】2024年05月11日08点30分老不正经报道，尼日利亚国际刑警组织、网络安全专家和当地情报界的其他成员举行会议，共同探讨如何应对该国网络犯罪。据悉，此次活动在尼日利亚首都阿布贾举行，由A&DForensics公司与非洲稳定币联盟（AfricaStablecoinConsortium）合作组织，旨在让尼日利亚国际刑警组织了解如何减少涉及虚拟资产（尤其是稳定币）的犯罪。据区块链专家ChiomaOnyekelu称，培训课程旨在增强国际刑警组织特工的能力，使其掌握利用区块链情报和分析追踪和起诉参与加密货币交易（特别是使用比特币和稳定币）的网络犯罪分子的技能。

欧洲刑警组织表示，移动漫游技术使其工作变得过于困难

欧洲刑警组织表示，移动漫游技术使其工作变得过于困难欧洲警方呼吁立法者帮助他们削弱一种被称为隐私增强技术（PET）的技术，他们称这种技术妨碍了刑事调查，但这次并不是端到端加密。欧洲刑警组织强调了他们对短信家庭路由的担忧，这种技术允许电信运营商在客户到访其他国家时继续提供服务。大多数现代手机用户都与具有漫游协议的网络绑定。例如，英国的EE客户在西班牙登陆时将连接到Telefonica或Xfera，或者在克罗地亚登陆时连接到T-Mobile。虽然这通常为大多数漫游用户提供了相对顺畅的服务，但欧洲刑警组织现在表示，需要解决在这些家庭路由设置中经常启用的PET的问题。警方指出，当漫游时，犯罪嫌疑人使用来自其他国家的SIM卡，他们的所有移动通信都将通过他们的本地网络进行处理。例如，如果英国人在德国犯罪，那么德国警方无法像对待德国电信这样的国内运营商那样发出请求获取未加密数据。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人