McAfee 最新报告，基于人工智能的语音诈骗日益猖獗，在接到诈骗电话的群体中，77% 的人会导致经济损失。

McAfee最新报告，基于人工智能的语音诈骗日益猖獗，在接到诈骗电话的群体中，77%的人会导致经济损失。报告中提及了两个真实案例，其中一个通过AI模拟受害者亲人，表示因某些事情急需要钱；另一个通过AI模拟女儿，向其母亲勒索赎金，但事实上她的女儿并未被绑架。由于AI语音克隆工具非常便宜且可用，因此恶意方可以快速轻松地创建语音克隆。他们获得样本音频的方式是从人们在社交媒体上分享他们的声音。你在网上分享你的声音越多，威胁者就越容易找到并克隆你的声音。报告()内容如下：语音克隆工具的准确率高达95%；77%接到AI诈骗电话的人出现经济损失；超过三分之一的人损失超过1000美元；7%的人被骗了5,000到15,000美元；在美国有11%的人损失了5,000美元至15,000美元；AI诈骗在2022年窃取了26亿美元()频道：@TestFlightCN

使用人工智能克隆拜登声音的自动拨号电话被罚款600万美元

使用人工智能克隆拜登声音的自动拨号电话被罚款600万美元美国联邦通信委员会提议对在新罕布什尔州初选期间使用语音克隆技术冒充拜登总统拨打一系列非法自动拨号电话的诈骗者处以600万美元罚款。今年1月，新罕布什尔州的许多选民接到了一通电话，声称是总统的留言，告诉他们不要在即将到来的初选中投票。当然，这是假的，使用的是过去几年广泛可用的技术克隆的拜登总统的声音。联邦通信委员会和几个执法机构已经明确表示，不能做的是利用假拜登通过已经是非法的机器人电话来压制选民。——

骗徒以人工智能换脸换声诈骗　警吁留意视像眼神口型

骗徒以人工智能换脸换声诈骗警吁留意视像眼神口型警方表示，留意到近几个月，有骗徒怀疑借助人工智能深伪技术制作虚假新闻报道，推介投资活动，或冒充名人移花接木后制影片，引诱市民参与不存在的投资计划；网上亦有人讨论，利用相关技术实时换脸换声，透过视像通话假冒受害人亲友要求汇款。警方又指，不法分子透过社交平台的公开影像，大量套取冒充对象的声音和脸部讯息，再透过深伪技术制作影片，在视像通话中播放，骗徒之后会利用各种借口完结通话，再要求受害人转换到其他即时通讯软件继续对话，从而继续诈骗行为。警方早前接获情报，指一名身在外地的日籍人士在社交平台一个假冒某银行管理层的帐户中，浏览一条提及香港投资计划的影片并信以为真，并向骗徒转帐价值港币1700元的点数卡；亦有情报指，有人怀疑利用深伪技术进行恐吓，有市民经交友平台认识左骗徒，根据指示下载手机软件，进行短暂视像通话后，发现样貌被移花接木到色情片段，继而被骗徒勒索，该名市民因感到怀疑，最终未有受骗。警方网络安全组高级督察陈智颖说，深伪技术并非完美，市民可以留意影片中的人物眼神和口型是否有不自然的地方，也可以要求对方在镜头面前举起手指并横向移动，或将头部上下左右转动，由于电脑需要针对突如其来改变重新运算，影片质素会受影响，继而露出破绽，破解诈骗手法。警方网络安全及科技罪案调查科网络安全组警司陈纯青说，「眼见不一定为实，有图亦不一定是真相」，提醒市民保持警惕及查证。警方又提醒，市民切勿接听陌生视像电话，以免声音和样貌等个人生物辨识资料被盗取作深伪技术影片，再进行诈骗。2023-07-0308:36:14(2)

Google将打击利用Bard人工智能传播恶意软件的骗徒

Google将打击利用Bard人工智能传播恶意软件的骗徒被告是三个身份不明的人，他们声称提供GoogleBard的"最新版本"供用户下载。被告与Google没有任何关系，尽管他们假装与公司有关系。他们使用Google商标，包括Google、Google人工智能和Bard，引诱毫无戒心的受害者将恶意软件下载到他们的电脑上"。诉讼指出，骗子们专门利用Facebook的推广帖子，试图传播恶意软件。Google文件截图，显示其中一个骗局。图片：Google与加密货币诈骗类似，这起诉讼凸显了对新兴技术的兴趣是如何被用来对付那些可能并不完全了解其运作方式的人的。例如，本案中的骗子暗示Bard是一项付费服务或应用程序，用户需要下载，而实际上它在bard.google.com上是免费提供的。Google在博文中指出，公司已经提交了约300份与这些骗子有关的移除请求，并希望美国域名注册商禁用这些域名。Google总法律顾问哈利玛-德莱恩-普拉多（HalimahDeLainePrado）在该公司的博文中写道："发起正式投诉是建立法律先例、破坏骗子使用的工具和提高不良行为者后果的有效工具。"...PC版：https://www.cnbeta.com.tw/articles/soft/1396601.htm手机版：https://m.cnbeta.com.tw/view/1396601.htm

美国总统乔·拜登表态希望禁止人工智能语音模仿

美国总统乔·拜登表态希望禁止人工智能语音模仿"在国内，我已经签署了400多项两党法案。"拜登总统在国情咨文中说："要通过我的团结议程，还有更多的法案。随后，他列举了如果他被选中连任，他希望解决的一些提案：加强对芬太尼贩运的惩罚力度，通过两党隐私立法来保护我们的儿童上网，利用人工智能的承诺来保护我们免受危险，禁止人工智能语音冒充等等"。拜登有充分的理由呼吁禁止人工智能语音克隆。今年1月，新罕布什尔州的选民接到了一个39秒的机器人电话，告诉他们不要在民主党初选中投票，而是把选票"留给"11月的总统选举。播报这条建议的声音听起来几乎和乔·拜登一模一样。语音欺诈检测公司Pindrop后来分析了这通电话，认为它是使用ElevenLabs公司的文本到语音引擎制作的，该公司也证实了这一点。这一事件导致美国联邦通信委员会根据1991年的《电话消费者保护法》，规定使用人工智能生成的语音拨打机器人电话为非法行为。该机构担心，技术被用来模仿"名人、政治候选人和近亲属"的声音，从而混淆和欺骗消费者。拜登提议的禁令范围尚不明确。它可能仅限于某些领域，比如模仿政客，但总统听起来确实在谈论全面禁止人工智能语音模仿，这将产生深远影响。除了政治之外，使用人工智能重塑演员的声音和形象也是SAG-AFTRA演员罢工背后的问题之一。尽管并非所有人都对这一协议感到满意，但在达成一项协议，确保在使用人工智能复制演员时，演员同意并获得公平补偿后，罢工结束了。...PC版：https://www.cnbeta.com.tw/articles/soft/1422973.htm手机版：https://m.cnbeta.com.tw/view/1422973.htm

Android系统新增基于人工智能的诈骗电话检测功能

Android系统新增基于人工智能的诈骗电话检测功能Google表示，该功能利用GeminiNano（该公司用于Android设备的Gemini大型语言模型的缩小版，可在本地和离线状态下运行）来查找欺诈性语言和其他通常与诈骗有关的对话模式。用户将在通话过程中收到存在这些红色信号的实时警报。可能触发这些警报的一些例子包括"银行代表"打来的电话，他们会提出一些真正的银行不太可能提出的要求，比如询问你的密码或银行卡密码等个人信息，要求通过礼品卡付款，或要求用户紧急转账给他们。Google表示，这些新的保护措施完全是在设备上实施的，因此GeminiNano监控的对话将保持私密性。用户在可疑电话中收到的通知示例，用户可以选择继续通话或迅速结束通话。目前还不知道这项诈骗检测功能将于何时推出，但Google表示，用户需要选择使用该功能，将在"今年晚些时候"分享更多信息。虽然经过多年的宣传活动和如何避免诈骗的指导，有些人似乎很容易就能识破诈骗电话，但总有中招的风险。全球反诈骗联盟（GlobalAnti-ScamAlliance）去年10月的一份报告发现，在过去12个月中，全球每4人中就有1人因诈骗或身份盗窃而损失钱财，损失金额超过1万亿美元。因此，虽然可能会发现这种技术有用的人很多，但兼容性可能会限制其适用性。根据其开发者支持页面显示，GeminiNano目前仅支持GooglePixel8Pro和三星S24系列。...PC版：https://www.cnbeta.com.tw/articles/soft/1430904.htm手机版：https://m.cnbeta.com.tw/view/1430904.htm