FBI：黑客正在利用开源人工智能程序进行网络攻击

FBI：黑客正在利用开源人工智能程序进行网络攻击据联邦调查局高级官员称，犯罪分子正在使用人工智能程序进行网络钓鱼并帮助他们创建恶意软件。该机构周五与记者举行电话会议，讨论在科技行业风靡一时的AI智能程序如何助长网络犯罪。恶意活动的范围包括使用人工智能程序改进和制造骗局，以及恐怖分子利用该技术来帮助他们发动更强大的网络攻击。一位FBI高级官员表示：“我们预计，随着时间的推移，AI模型的应用越来越广泛，这些趋势也将会增加。”FBI没有透露犯罪分子正在使用的具体AI模型。但这位官员指出，黑客正在倾向于免费、可定制的开源模型，以及黑客私人开发的AI程序，这些程序在犯罪网络中收费流通。这位官员补充说，经验丰富的网络犯罪分子正在利用人工智能技术开发新的恶意软件攻击和更好的传播方法，包括使用人工智能生成的网站作为网络钓鱼页面，可以秘密地传播恶意计算机代码。同样的技术正在帮助黑客开发能够逃避防病毒软件的多态恶意软件。上个月，美国联邦调查局还警告称，诈骗者正在使用AI图像生成器来制作受害者的性不雅照，以向他们勒索金钱。还包括试图利用AI语音克隆技术通过电话来诈骗亲人或老年人。——

黑客利用币安智能链储存恶意代码

黑客利用币安智能链储存恶意代码过去两个月，黑客劫持了WordPress网站向访问者展示浏览器需要更新才能正常访问的信息，如果访客上当他们会下载恶意程序收集登陆凭证等敏感信息。恶意程序通常托管在Web服务上，一经发现会迅速被移除。但在这起攻击中，黑客利用了币安智能链的智能合约去储存永远无法移除的恶意代码。加密货币所使用的区块链在信息写入之后是很难移除的。()()投稿：@ZaiHuaBot频道：@TestFlightCN

研究显示:ChatGPT可能会被诱骗生成恶意代码 | 站长之家

研究显示:ChatGPT可能会被诱骗生成恶意代码站长之家近日，英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能（AI）工具，如ChatGPT，可以被操纵，用于生成恶意代码，从而可能用于发动网络攻击。该研究是由谢菲尔德大学计算机科学系的学者进行的，首次证明了Text-to-SQL系统的潜在危险，这种AI系统可以让人们用普通语言提出问题，以搜索数据库，广泛应用于各行各业。研究发现，这些AI工具存在安全漏洞，当研究人员提出特定问题时，它们会生成恶意代码。一旦执行，这些代码可能泄露机密数据库信息，中断数据库的正常服务，甚至摧毁数据库。研究团队成功攻击了六种商业AI工具，其中包括高知名度的BAIDU-UNIT，该工具在众多领域中得到广泛应用，如电子商务、银行业、新闻业、电信业、汽车业和民航业等。这项研究也突出了人们如何利用AI学习编程语言以与数据库互动的潜在风险。越来越多的人将AI视为提高工作效率的工具，而不仅仅是对话机器人。例如，一名护士可能会向ChatGPT提出编写SQL命令的请求，以与存储临床记录的数据库互动。然而，研究发现，ChatGPT生成的SQL代码在许多情况下可能对数据库造成损害，而护士可能在不受警告的情况下导致严重的数据管理错误。此外，研究还揭示了一种可能的后门攻击方法，即通过污染训练数据，在Text-to-SQL模型中植入“特洛伊木马”。这种后门攻击通常不会对模型的性能产生一般性影响，但可以随时触发，对使用它的任何人造成实际危害。研究人员表示，用户应该意识到Text-to-SQL系统中存在的潜在风险，尤其是在使用大型语言模型时。这些模型非常强大，但其行为复杂，很难预测。谢菲尔德大学的研究人员正在努力更好地理解这些模型，并允许其充分发挥潜力。该研究已经引起了业界的关注，一些公司已经采纳了研究团队的建议，修复了这些安全漏洞。然而，研究人员强调，需要建立一个新的社区来对抗未来可能出现的高级攻击策略，以确保网络安全策略能够跟上不断发展的威胁。

促进生成式人工智能服务创新发展和规范应用，网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》要求，有序开展生成式人工智能

促进生成式人工智能服务创新发展和规范应用，网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》要求，有序开展生成式人工智能服务备案工作，现将已备案信息予以公告。提供具有舆论属性或者社会动员能力的生成式人工智能服务的，可通过属地网信部门履行备案程序，属地网信部门应及时将已备案信息对外公开发布。已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案生成式人工智能服务情况，注明模型名称及备案号。（网信中国微信公号）

雅虎邮箱增加更多人工智能功能以简化桌面电子邮件

雅虎邮箱增加更多人工智能功能以简化桌面电子邮件雅虎正在通过新的人工智能功能和其他功能更新桌面版YahooMail，以帮助简化电子邮件和任务管理。其中一个亮点是人工智能生成的简短电子邮件摘要。这些摘要带有项目符号列表，突出显示了建议的任务和其他操作。除了人工智能摘要功能外，雅虎还让快速访问和处理电子邮件变得更加容易。快速操作按钮现在将直接显示在收件箱内，让用户可以快速将事件添加到日历、办理登机手续以及跟踪包裹。这些功能将从今天开始向美国用户推出，用户可选择加入。未来，这些功能将出现在YahooMail的移动应用中。——

谷歌团队指朝鲜黑客利用韩踩踏事故散播恶意代码文档

谷歌团队指朝鲜黑客利用韩踩踏事故散播恶意代码文档（早报讯）谷歌威胁分析团队指朝鲜黑客组织APT37曾在今年10月底恶意利用韩国踩踏事故，散播植入恶意代码的文档。据韩联社报道，团队星期四（12月8日）在官网发表报告称，文档的内容格式模仿了韩国中央灾难安全对策本部报告书，详细记载事故梗概、人员伤亡、应对措施等信息。APT37曾以“金星121”“ScarCruft”“RedEyes”“Group123”等名号在网上活动，近来主要以韩国涉朝团体和国防领域要员为目标。他们曾在2019年冒充韩国统一部，散布藏有恶意代码的电子邮件，并在2018年散播伪装成韩国门户网站杀毒应用程序的手机端恶意代码。韩国政府星期四也发布预警，防范韩企雇佣朝鲜信息技术（IT）员工。韩国政府说，居留海外的朝鲜人伪造国籍和身份，承接各国IT企业的工作，每年赚取数亿美元外汇。发布：2022年12月8日12:49PM