骗徒以人工智能伪冒多人出席视像会议　与会职员被骗汇款失2亿元

骗徒以人工智能伪冒多人出席视像会议　与会职员被骗汇款失2亿元 警方首次发现有骗徒利用人工智能深伪技术，在网上会议假冒成多名人士，欺骗与会的一名职员，这名职员最终分15次、把2亿港元转帐5个本地户口。网络安全及科技罪案调查科网络安全组署理高级警司陈纯青表示，报案人是一间跨国公司香港分行的财务职员，他在上月中收到假冒该公司英国总部首席财务官的讯息，对方声称要进行机密交易，邀请报案人参与一个多人视像会议。由于当时参与视像会议的成员，显示出与真实人士一样的容貌，虽然报案人曾有怀疑，但最终不虞有诈，按指示汇款共2亿港元。报案人最终向总公司查询，才发现被骗。陈纯青说，调查后发现视像会议中各名人士的影像，与声称出席会议的各成员一些网上公开影片是一样，相信骗徒预先在网上下载影片，然后利用人工智能为影片配上伪冒声音，预制成欺诈片段，套用在视像会议。骗徒为免露出破绽，在视像会议中没有与报案人交流，只是直接向报案人下达命令。警方说，市民过往在单对单的视像会议，戒备心可能较高，但无论在网上见到单人或多人，当收到汇款要求都必须查证。汇款前可以用惯常联络的方式，再联络对方一次。警方亦建议可要求对方在镜头前做指定动作、视像会议期间提问，以测试对方身份真伪等。另外，早前网上出现人工智能伪造电视节目片段，冒称行政长官向市民推介投资计划。警方说，暂时没有收到因为相关伪冒片段而堕入骗局的举报。 2024-02-04 08:25:16

警方︰骗徒用人工智能开视像会议骗款2亿元

警方︰骗徒用人工智能开视像会议骗款2亿元 警方首次发现，有骗徒利用人工智能深伪技术，在网上视像会议假冒成多名人士，欺骗与会的一名职员，分15次把2亿港元转帐到5个本地户口。警方相信骗徒预先在网上下载影片，利用深伪技术配上伪冒声音行骗，提醒市民不论视像会议有多少人参与，都要提高警觉，并以惯常用的方式查证真伪。 2024-02-04 18:22:15

英企奥雅纳遭遇AI深伪骗案　香港员工损失逾1亿令吉

英企奥雅纳遭遇AI深伪骗案　香港员工损失逾1亿令吉 总部设于英国的知名工程顾问公司奥雅纳（Arup）周四（16日）证实，该公司卷入一宗人工智能深伪骗案，事件导致有香港员工受骗，转帐约2500万美元（约1.17亿令吉）。

误信深伪技术假上司　英国驻港公司负责人受骗损失400万

误信深伪技术假上司　英国驻港公司负责人受骗损失400万 警方表示，一名任职英国驻港跨境公司的女子怀疑受骗，误信骗徒为公司上司，按指示多次汇款400万元到指定帐户，发现被骗后报警。据了解，受害人为英国驻香港公司的负责人，今年5月20日收到一个透过通讯软件 WhatsApp 的信息。骗徒冒认是受害人在英国公司的上司，受害人看到骗徒 WhatsApp 头像相片与英国公司的上司是一样，便与对方于5月21日进行视像会议。会议上，骗徒要求受害人汇款大约港币400万元到指定的银行户口，由于视像会议中，骗徒的声线与外貌均与英国公司的上司十分相似，受害人于是同日进行多次汇款，转入骗徒的指定银行帐户。但其后醒觉查证，知道被骗报警。警方暂时根据纪录相信是第二宗涉及深伪技术(Deepfake) 的诈骗案件。 警方说，留意到近日有骗徒利用公司高层人员的公开片段，配合深伪技术将说话内容篡改，然后在视像会议播放，并要求职员汇款予「假上司」。因此提醒公众，当遇到陌生来电或讯息声称是亲友或上司，并要求汇款，应立即致电对方查证。 2024-05-30 14:09:51

Deepfake假CFO骗走公司1.8个亿 员工：视频会议里每个人看起来都很真实啊

Deepfake假CFO骗走公司1.8个亿 员工：视频会议里每个人看起来都很真实啊 先别着急骂这大兄弟警惕性太低，Ta也不是没有过一丝丝怀疑，但是，这可不是什么诈骗界常见的一对一视频通话参与会议的有好几个熟面孔，无论是脸还是声音，当事人描述“每个人看起来都很真实啊”。甭管怎么说，这事儿的惊悚程度，是有点吓到网友们了。借由AI技术犯罪的话题，一时间又成为了各大平台的讨论焦点。冲锋在AI批评一线的马库斯就第一时间拉着网友们吃起了瓜：好家伙，这是《黑镜》降临了。深度伪造的狗屎越来越真实了。事件始末我们暂且称这位被骗的财务人员为“小帅”，事情的具体经过是这样婶儿的……最初，小帅收到了一封远在英国总部的“CFO”发来的邮件。由于内容提到需要执行一项秘密交易，小帅一开始有些疑虑，并怀疑这是网络钓鱼信息。不想，骗子立马展开下一步动作，邀请小帅进行视频会议。小帅进入视频会议后彻底被眼前的一幕唬住了：不仅公司CFO在，小帅的一些同事也在，还有一些外部人员。关键是，这些假同事和小帅认识的真同事无论是模样长相还是声音，都别无二致。会议中，这个假冒CFO还让小帅做自我介绍，不过在此过程中会议突然中断。骗子随后又通过即时通讯平台、电邮、一对一视频通话与小帅保持联系。如此接连下套，小帅最终中了骗子的诡计，按照会议中的指示，分别向5个香港银行账户进行了15次转账，总计2亿港元，也就是约2560万美元，约合RMB1.8个亿。从骗子联系小帅开始，整个事件大概持续了一个周，直到小帅之后向公司总部核实情况，才惊觉整个事件不过是一场精心策划的诈骗。之后他们报了警。警方立即展开调查，发现会议中除小帅外的所有参与者，都是骗子使用公开的个人视频和音频片段重建的数字人。视频中让小帅自我介绍并不是真的在和他互动，而只是单纯的用虚拟形象下达指令。警方还透露，不法分子曾使用相同的多人视频通话策略，试图诈骗该公司分部的另外一名员工，总共接触了两到三名员工。但警方未提供有关他们遭遇的完整信息。目前该案还在进一步调查中，尚未对诈骗者实施逮捕。后续在新闻发布会上，香港警方表示已逮捕6名与此类诈骗有关的人员，且类似案件还有很多：去年7-9月，有8张被盗的香港身份证被用于申请了90份贷款、登记了54个银行账户；至少有20次，AI Deepfake被用来模仿身份证上的人像，以骗过面部识别程序。AI“克隆”有多猛可以看到，整个案件中，最终让小帅放下戒备的一大关键点就在于视频会议中的假人过于真实。那么现在的“数字克隆人”究竟能有多真？一起来看几个栗子。就比如下面这段霉霉说中文的视频就来自一款爆火AI工具HeyGen。音色口型简直完美复刻，网友看了之后都吓得直喊妈：HeyGen的最新技术展示中，和数字克隆人实时聊天也已成为现实。AI语音合成方面，最近比较火的是一家叫做11Labs（ElevenLabs）的初创公司。11Labs不仅能实现29个语种的语音生成，而且仅需短至1分钟的音频素材，就能很好地“克隆”任何一个人的声音，语调、情绪变化都能模仿到位的那种。关键是，现如今这些AI克隆术不仅真实度越拉越满，门槛也在逐渐降低……比如下面这种开源项目，已经可以分分钟实现实时视频换脸。项目主页列有不少现成的不同人的面部模型，如果不喜欢还可以自己训练模型。“数字克隆版的你即将到来”或许是受到这一事件和前段时间霉霉成Deepfake受害者事件的影响，上述这个实时换脸项目再获关注，还新鲜冲上了GitHub趋势榜。就在这个项目的issues中，不少网友的抵触情绪早已弥漫多时。但正如许多网友提到的那样，技术没有善恶之分。并且更现实的问题在于，开弓没有回头箭。于是很多人把关注的重点，放到了“如何防御”这件事上。除了更多规范和政策的制定，从技术的角度来说，Nature就在“2024最值得关注的七项技术”一文中提到：让开发者在AI工具中加入隐形水印机制或许是一种方案。而从个人的角度来说，提高警惕，已经成为AIGC技术爆发时代不得不面对的命题。香港警方也在这次事件中表示，将扩大警报系统，以提前警告、阻止用户向诈骗相关账户转移资金。不过，Deepfake假CFO骗走公司1.8个亿这种事儿，多少还是有点过于离谱。以致于不少网友提出了质疑：这么大一个公司，就没点风险管理措施？怕不是有内鬼吧。那么，你怎么看？ ... PC版： 手机版：

【香港警方：HOUNAX虚拟投资诈骗案涉款达1.1亿港元，已接获131人报案】

【香港警方：HOUNAX虚拟投资诈骗案涉款达1.1亿港元，已接获131人报案】 香港警方近日发现有骗徒假扮投资专家，以高回报吸引市民经一间虚拟资产交易平台投资，最终无法取回款项。警方表示，涉案公司名为HOUNAX，警方暂时接获131名受害人报案，涉款超过1.1亿元港元，每宗个案受骗金额介乎1.2万至400万港元。 警方商业罪案调查科警司陈伟基表示，涉案公司今年初起运作，HOUNAX网站使用繁体中文，用户登录网页亦预设了+852区号，相信行骗对象是香港人，其网址仍然运作，网站亦仍有效，市民甚至仍可下载该平台的手机应用程式。 陈伟基说，大部分受害人均于本月报案，证监会已于11月1日将HOUNAX列入无牌公司及可疑网站名单，类别属可疑虚拟资产交易平台，又指其讹称与一间金融机构合作。（香港电台网站） 此前消息，香港证监会官网显示，“无牌公司及可以网站”名单中的可疑虚拟资产交易平台已于11月1日新增一家可疑虚拟资产交易平台“HOUNAX”。 快讯/广告 联系 @xingkong888885