克隆政治人物的声音仍然易如反掌 人工智能语音克隆服务几乎不设防

克隆政治人物的声音仍然易如反掌人工智能语音克隆服务几乎不设防反数字仇恨中心研究了6种不同的人工智能语音克隆服务:InvideoAI、Veed、ElevenLabs、Speechify、Descript和PlayHT。他们尝试让每种服务克隆八位主要政治人物的声音,并在每种声音中生成五种虚假陈述。在总共240个请求中,有193个请求得到了服务的满足,生成了假冒政客说一些他们从未说过的话的令人信服的音频。有一项服务甚至还帮忙生成了虚假信息本身的脚本。其中一个例子是假冒的英国首相苏纳克(RishiSunak)说:"我知道我不应该用竞选资金来支付个人开支,这是错误的,我真诚地道歉"。必须指出的是,要辨别这些言论是否虚假或具有误导性并非易事,因此这些服务允许这种虚假言论也就不完全令人惊讶了。Speechify和PlayHT都是40投0中,没有阻止任何声音,也没有阻止任何虚假陈述。Descript、InvideoAI和Veed使用了一种安全措施,即必须上传一个人说了你想生成的内容的音频,例如,Sunak说了上述内容。但是,只要让另一个没有这种限制的服务先生成音频,并将其作为"真实"版本,就可以轻松规避这一限制。在这6家服务公司中,只有ElevenLabs一家阻止了语音克隆的创建,因为复制公众人物违反了他们的政策。值得称赞的是,在40个案例中,有25个是这样做的;其余的案例来自欧盟政治人物,也许该公司还没有把他们列入名单。(同样,这些人物也发表了14条虚假言论)。InvideoAI的表现最为糟糕。它不仅没有阻止任何录音(至少在用假的真实声音"越狱"之后),甚至还生成了一个假冒拜登总统的改进脚本,警告投票站有炸弹威胁,尽管表面上禁止误导性内容。...PC版:https://www.cnbeta.com.tw/articles/soft/1433072.htm手机版:https://m.cnbeta.com.tw/view/1433072.htm

相关推荐

封面图片

play.ht:这个项目可以从20秒的音频中快速生成克隆语音,并自动转换为英语。即便你不会说英语,也可以通过语音克隆的方式,立刻

:这个项目可以从20秒的音频中快速生成克隆语音,并自动转换为英语。即便你不会说英语,也可以通过语音克隆的方式,立刻说出一口流利的英语。这里的技术采用了一个名为Parrot的模型,它能从几秒的音频克隆出声音,并基于文本,重新生成一段富有情感的语音。目前该模型只支持英语,不过技术团队已经在开始尝试支持更多语言。克隆声音的数据样本主要分两种:高保真(20分钟)和零样本(20秒),给的音频样本时间越长,其精度就更佳。未来,该工具将被应用到各类数字内容创作(如游戏、媒体、在线教育)等平台。

封面图片

OpenAI 的语音克隆人工智能模型只需要15秒的样本即可工作

OpenAI的语音克隆人工智能模型只需要15秒的样本即可工作人工智能公司OpenAI正在提供对其开发的文本转语音生成平台VoiceEngine的有限访问权限,该平台可以根据某人15秒的声音片段创建合成声音。人工智能生成的语音可以根据命令以与说话者相同的语言或其他多种语言读出文本提示。OpenAI在其博客文章中表示:“这些小规模部署有助于我们了解方法、保障措施,并思考如何在各个行业中很好地利用VoiceEngine。”拥有访问权限的公司包括教育科技公司AgeofLearning、视觉叙事平台HeyGen、一线健康软件制造商Dimagi、人工智能通信应用创建者Livox和健康系统Lifespan。——、

封面图片

郭台铭批台政治人物不懂科技只会买武器

郭台铭批台政治人物不懂科技只会买武器已表态争取参选总统的鸿海集团创办人郭台铭批评,台湾政治人物对未来的科技一点都不了解,只会与美国军方打交道,买了很多武器进来。郭台铭表示,他要将台湾打造成亚洲的科技岛,反对台湾变成亚洲的弹药库。综合台湾《联合报》和路透社报道,郭台铭星期四(4月27日)到东海大学以“用科技和世界做朋友”发表演讲。他说,未来50年的人工智能(AI)如何走,现在的台湾政治领袖都没有规划。“现在选举,很多政治人物只有党派的利益,没有人民的利益”。郭台铭指出,韩国有朝鲜威胁,同样地处军事危机,但韩国总统仍不放弃发展经济、科技,到美国投资谈生意,这个总统才是为了经济服务,不像台湾政客是为了政党服务。郭台铭进一步批评,台湾政治人物只会做政治,对未来的科技一点都不了解,大家都是未来的主人翁。“20年后你们的未来在哪里?谁能够来告诉你们?很可惜我们的政治人物只会与美国军方和国防打交道,买了很多武器进来”。他表示,反对台湾变成亚洲的弹药库,台湾应该准备战争,但准备之余也要避战,台湾要变成亚洲的科技岛,不要变成弹药库。郭台铭说,对中国大陆来说,攻打台湾并不是一个优先事项。但台湾的政治家们希望台湾人民能因为这样,可以憎恨大陆,他们才可以当选。他强调,“我不会(宣布)独立,你也不会攻击我或在台湾周围飞行”,自己希望“尊重和平”,在平等的基础上进行会谈,并批评国际媒体将台湾描绘成一颗危险的定时炸弹。郭台铭说,“台湾是我唯一的家”,台湾是一个美丽的地方,但是台湾的下一代因为缺乏机会而选择离开家园,“我深知只有把台湾治理好,才能使这个家,不会只是一个只有心在哪里,人却无法在那里生活的地方”。谈到当选后的政策,郭台铭说,如果能担任台湾的CEO,将推动台湾的教育和产业改革,让台湾成为一个更有竞争力的地方。相信在自己的努力下,台湾可孕育出下一个马斯克、张忠谋、阿尔特曼(SamuelAltman),这才是真正的台湾之光,“我是个有效率CEO”。

封面图片

McAfee推出Mockingbird项目来阻止AI语音克隆诈骗 | YouTube | 文章

McAfee推出Mockingbird项目来阻止AI语音克隆诈骗McAfee推出了ProjectMockingbird,以检测使用生成式AI制作的深度伪造音频和视频。这些伪造内容正在被网络犯罪分子用来进行诈骗和操纵公众舆论。该技术可以检测出音频是否真的是某人的声音,或者是AI生成的。它可以帮助消费者识别视频和信息的真伪,避免上当受骗。McAfee表示这项技术应用广泛,可以帮助消费者应对AI生成的诈骗和虚假信息的增加。它可以赋予消费者区分数字世界中真假内容的能力。McAfee进行的一项调查显示,68%的美国人比去年更担心深度伪造,33%的人表示遇到过或知道深度伪造诈骗。大众最担心深度伪造会被用来影响选举、网络欺凌、破坏公众对媒体的信任等。McAfee希望通过这项技术来增强在线隐私、身份和福祉。McAfee在CES2024上首次公开展示了ProjectMockingbird。该技术被比作知更鸟的鸣叫来欺骗的行为,同样地网络犯罪分子也利用AI来欺骗消费者谋取利益。McAfee的这项技术旨在帮助消费者识破AI生成的语音和视频欺骗,提高数字世界的安全性。它具有广泛的应用前景。

封面图片

唱片协会(RIAA)建议美国政府将人工智能语音克隆网站列入政府盗版监视名单

唱片协会(RIAA)建议美国政府将人工智能语音克隆网站列入政府盗版监视名单美国唱片工业协会(RIAA)现在认为人工智能语音克隆是一种潜在的版权侵权威胁,并希望美国政府将其纳入盗版监管名单。在提交给美国贸易代表(USTR)的一份文件中,RIAA要求美国政府将人工智能语音克隆类别纳入其据称宣扬盗版或假冒行为的年度实体名单中。美国唱片工业协会(RIAA)只点名了该领域的一家公司:。该公司提供例如ArianaGrande、TaylorSwift和KanyeWest等著名音乐艺术家的语音模型。该组织认为,该网站允许用户翻录YouTube视频并复制无伴奏合唱曲目,然后使用人工智能语音模型对其进行修改,侵犯了版权,也侵犯了录音艺术家的公开权。——

封面图片

使用人工智能克隆拜登声音的自动拨号电话被罚款600万美元

使用人工智能克隆拜登声音的自动拨号电话被罚款600万美元美国联邦通信委员会提议对在新罕布什尔州初选期间使用语音克隆技术冒充拜登总统拨打一系列非法自动拨号电话的诈骗者处以600万美元罚款。今年1月,新罕布什尔州的许多选民接到了一通电话,声称是总统的留言,告诉他们不要在即将到来的初选中投票。当然,这是假的,使用的是过去几年广泛可用的技术克隆的拜登总统的声音。联邦通信委员会和几个执法机构已经明确表示,不能做的是利用假拜登通过已经是非法的机器人电话来压制选民。——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人