乌克兰网红遭遇 AI 克隆 在中国社交媒体上广泛传播

乌克兰网红遭遇 AI 克隆 在中国社交媒体上广泛传播 今年早些时候，20岁的乌克兰网红奥尔加•洛伊克 (Olga Loiek) 在网上遭遇了一群由人工智能生成的自己的克隆体而且他们都在说中文。她向英国金融时报透露：“我真的被吓到了。我看到我的脸在说一种我不懂的语言。当我翻译它时，发现这些都是我一生中绝不会说出的话”，并补充说这个深度伪造的角色谈论的是“加强俄罗斯和中国之间的关系”。洛伊克在 YouTube 和 Instagram 上有2万名粉丝，其中一些人向她报告了这些视频。她表示，她对克隆背后的动机一无所知，但怀疑自己的形象可能被用作一场虚假信息宣传活动的一部分。这些视频在中国社交媒体网站小红书和哔哩哔哩上广泛传播，其中一个假账号吸引了30万名粉丝。她补充说：“这听起来像是宣传，试图让人们相信俄罗斯是一个伟大的国家，然而乌克兰的战争却是我一生中最糟糕的事情”。

近日，一名乌克兰女孩奥尔加·洛伊克在YouTube上控诉，她最近得知自己的脸被中国人偷去，并用AI合成技术生成视频，用来给俄罗斯

近日，一名乌克兰女孩奥尔加·洛伊克在YouTube上控诉，她最近得知自己的脸被中国人偷去，并用AI合成技术生成视频，用来给俄罗斯食品带货。在带货视频中，她的“数字克隆人”还宣扬“中俄友谊地久天长”。 目前，陆续有网友留言对她表示道歉，也有网友补充了偷窃者的信息。

片名：《星球大战前传2：克隆人的进攻》

片名：《星球大战前传2：克隆人的进攻》 又名: 星球大战第二集：克隆人的进攻 / 星球大战前传II：复制人侵略(港) / 星际大战二部曲：复制人全面进攻(台) / 星战前传之克隆人的进攻 / 复制人的袭击 导演: 乔治·卢卡斯 编剧: 乔治·卢卡斯 / 乔纳森·黑尔斯 主演: 伊万·麦克格雷格 / 娜塔莉·波特曼 / 海登·克里斯滕森 / 克里斯托弗·李 / 塞缪尔·杰克逊 类型: 动作 / 科幻 / 冒险 制片国家/地区: 美国 语言: 英语 上映日期: 2002-07-12(中国大陆) / 2002-05-16(美国) 片长: 142分钟 / 120分钟(IMAX版) 《星球大战前传2：克隆人的进攻》剧情简介 · · · · · · 绝地武士战胜西斯学徒后十年，银河共和国再次面临威胁，前绝地武士杜库伯爵（克里斯托弗•李 Christopher Lee 饰）鼓动数千星系与共和国决裂，并筹建大批机器人军队为政变做准备。纳布星的阿米达拉（娜塔丽·波特曼 Natalie Portman 饰）结束女王任期后以议员身份抵达考路斯坎星，决意为组建共和军队投出关键一票。欧比-旺•肯诺比（伊万•麦克格雷格 Ewan McGregor 饰）携长大了的阿纳金（海登·克里斯滕森 Hayden Christensen 饰）奉命保护阿米达拉的安全。在阿纳金护送阿米达拉返回纳布星避难的途中，二人情愫暗生，决定共同前往塔图因星寻找阿纳金之母。与此同时，欧比-旺追查刺客行迹一路深入吉诺西斯星，发现了杜库伯爵的阴谋，自己却深陷囹圄，危在旦夕……本片获2003年第75界奥斯卡最佳视觉效果奖提名。 #星球大战前传2克隆人的进攻 #星球大战前传2 #星球大战前传 #星际大战二部曲复制人全面进攻 【第一步点击订阅】：https://t.me/+G8AOBF1h_TxhM2Nl 【第二步点击观影】：https://t.me/c/1909290747/798

OpenAI 的语音克隆人工智能模型只需要15秒的样本即可工作

OpenAI 的语音克隆人工智能模型只需要15秒的样本即可工作 人工智能公司 OpenAI 正在提供对其开发的文本转语音生成平台 Voice Engine 的有限访问权限，该平台可以根据某人15秒的声音片段创建合成声音。人工智能生成的语音可以根据命令以与说话者相同的语言或其他多种语言读出文本提示。OpenAI 在其博客文章中表示：“这些小规模部署有助于我们了解方法、保障措施，并思考如何在各个行业中很好地利用 Voice Engine。”拥有访问权限的公司包括教育科技公司 Age of Learning、视觉叙事平台 HeyGen、一线健康软件制造商 Dimagi、人工智能通信应用创建者 Livox 和健康系统 Lifespan。 、

一名妇女要求哈马斯成员归还女儿尸体的视频在网上疯传。

一名妇女要求哈马斯成员归还女儿尸体的视频在网上疯传。 想必我们正在谈论一位德国女性，Shani Lauk，她参加了以色列南部的自然派对节。 昨天，网上出现一段视频，显示一具半裸女孩的尸体躺在汽车后座上，附近坐着武装男子（图2）。在她的腿上，你可以看到与社交网络上名为 shanukkk 的女孩相同的纹身（照片 3）。 此前，社交网络还声称，在同一节日，被巴勒斯坦人抓获的女孩中，据称有一名俄罗斯女子，名叫伊丽莎白·普鲁德尼科娃(Elizaveta Prudnikova)。 RT发现事实并非如此，可能是个乌龙，因为这位女孩说她在莫斯科的家里。

换脸乌克兰美女在中国赚钱 AI已经开始跨国犯罪了

换脸乌克兰美女在中国赚钱 AI已经开始跨国犯罪了 下面的数据可能更加直观：小红书一个名为“娜塔莎进口食品”的博主，在视频中的人设是一位定居在中国的俄罗斯人，并通过这一身份发布各种关于俄罗斯与中国生活的短视频，和大家科普各种俄罗斯知识，仅小红书平台粉丝量就在短短数月内突破了 20 万。但现实是，这个账号的各种视频内容完全是由 AI 生成，甚至这个肖像的真人还是一位乌克兰人，她的真名叫 Olga Loiek。从这个账号发布的各种视频中，不难看出背后的运营团队深谙短视频平台的流量密码：时不时抛出“喜欢中国，想买房子定居”“女性搬到中国是否要务农”这种极富争议的社会话题，显然很清楚如何利用好 Olga 的“流量密码”，但这些也只会加重受害者的痛苦。在抖音等平台，利用 Olga 肖像权制作虚假视频的内容，往往是关于战争中俄罗斯一方的言论：例如“俄罗斯会感激中国朋友的支持”等在短视频平台反响热烈的话题。讽刺的是，抖音的老用户可能会觉得这一刻似曾相识：去年六月，一位自称“保尔柯察铁”的“俄罗斯车臣人”在抖音走红，依靠分享在战争前线的最新动态，迅速积攒了超过三十万粉丝，并顺势开启了带货：当然也是包括伏特加糖果在内的各种俄罗斯特色食物。但在后续他发布的各种“作战”视频中，被不少网友认出了拍摄视频的实际地点经常是河南洛阳某处的发电厂，最终被进一步扒出这位中文过于流利的车臣人，其实只是特效滤镜的效果。被揭开谜底之后的账号不再被网友关注，最终无人问津。虽然彼时诸如“柯察铁”这样的案例并不少，这些视频尚且需要真人出镜，即使漏洞百出，也吸引了众多没有足够辨认能力的观众，而到了 Olga 的例子中，这些视频产业链已经完全不需要一个漏洞百出的真人出镜，取而代之的是一个完全由视频素材训练出的“克隆人”。事实上，使用真人肖像打造出克隆人短视频的工具已经相当成熟：克隆 Olga 的运营团队使用的是一款名为 HeyGen 的 AI 肖像克隆软件：这是一款已经非常成熟 AI 应用，网络上能找到众多面向初学者的 HeyGen 上手教程。使用价格上，即使是最贵的商用版本也只需 72 美元/月。在这些工具之前， AI 视频基本还遵循着输入足够多相关肖像视频素材，根据口型/表情对应生成相应的素材，生产对应的短视频内容，即创作者口中嘲讽 AI 生成视频的“拼尸块”模式，但现在随着 HeyGen 这样的 AI 工具越来越多，生成一条高度逼真的短视频所需要的素材，可能仅仅是原作者的几张照片。每月仅 500 人民币的投入，创作克隆视频换来的收益却相当可观：这些克隆账号不仅能通过挑动流量话题赚钱，通过带货收入也是另一种主要方式：小红书账号下的清单中充斥着各种“俄罗斯特产食品”的链接，并且随着克隆短视频的带动，给观众灌输“俄罗斯经济需要你们的支持”的思想，促使观众购买这些商品：截至2 月 19 日，其中一些单品销量已经超过一万。Olga 也在自己上传的视频中提到，她和她的家人曾多次就这个问题尝试向小红书、抖音等申诉，即使她们都很难理解复杂的中文条款所包含的意思，但这些申诉都没有获得正面的结果，无奈之下，才选择自己真人发布视频，将整件事和盘托出。在 Olga 发布视频揭开这个问题，并引起全球网友热议的两周内，这个账号仍然在小红书等平台正常存活：账号简介中，最新的一条视频的主题甚至是庆祝中国新年，同时仍然有很多不明真相的网友，在评论区中回复账号运营者刻意煽动起的各种问题。给 Olga 关于“买房”“找中国人当老公”等建议。与此同时，Olga 的家人所能做的，也只有在社交媒体上呼吁 HeyGen 的开发者采取行动，避免这种被 AI 换脸的事件发生在更多人身上。2 月 20 日，这个账号才被“封禁”：没有任何常规账号封禁的相关提示，消失在平台中。看起来这起事件告一段落，但在过去的数月中，黑产团队赚到了带货收入与流量分成所得，平台坐享其成收获流量，观众收获了心理满足感与“俄罗斯特产”，只有 Olga 本人和家人承受了痛苦。按照 Olga 本人在 YouTube 发布的视频中所言：“我们的家人在战争中不得不在不断的空袭和轰炸中东躲西藏。在这段时间里，看到自己的脸被用来向数十万人宣传俄罗斯，这并不有趣”。苹果公司联合创始人史蒂夫·沃兹尼亚克近期也警告称，AI 视频内容行业需要强监管。同时监管机构应该也应该追究大型科技公司在其中疏于监管乃至纵容的责任。中国在 2020 年五月发布的《民法典》中第 1019 条，其实已经有相关的条文：任何组合或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或公开肖像权人的肖像。此前颁布的《互联网信息服务深度合成管理规定》中，也明确规定内容提供者需要按照对生成的图片、视频等内容进行标识，但目前主流短视频平台也没有足够有效的方式来应对：在类似没有明确标注的 AI 生成视频下，小红书会对疑似 AI 内容自动生成的内容自动打上标识，但除此之外并没有更多有效的应对方式。在小红书社区公约中，也明确表示冒充他人等行为属于侵权， 抖音也专门设置了关于人工智能生成内容的平台规范暨行业倡议、人工智能生成内容标识的水印与元数据规范，并推出了虚拟形象账号备案指引。抖音安全中心相关负责人对电厂表示，抖音安全中心针对技术手段仿冒虚假人设、不当获取粉丝的账号，持续进行专项治理。对于违规账号，平台采取了包括全面禁言和粉丝清零在内的处罚措施，近期已处罚账号67个。下一步平台将加大治理力度，也欢迎用户在发现违规账号时点击举报，平台将在第一时间核实处理。此前，抖音官方信息发布账号“抖音黑板报”曾发布打击黑灰产违规“涨粉养号”行为的公告，其中涉及多项违规行为，就包括利用人工智能技术（AIGC）创建虚拟人物仿冒真人或批量发布低俗低质内容。不过，对于Olga这种已经涉及到明确侵犯肖像权的事件，如果内容平台的“正义执行”在两周乃至更长时间之后才姗姗来迟，这不仅是给黑产团队可乘之机，甚至在很大程度上已经纵容了更多类似事件的发生。远在 Sora 之前，从 deepfake 震惊世界的那一天起，AI 换脸就已经开始快速发展，并随着各种越来越易用的工具被开发出来，黑产产业链也如同影子般迅速成长：从一开始的换脸到变声，直到如今以假乱真的 AI 短视频泛滥，内容监督的技术与管理已经远无法跟上现实的需求。如果没有行之有效的监管与审核，下一个伴随着流量密码诞生的 Olga，只会更具煽动性且更难以辨别，且近在眼前。远在 Sora 之前，从 deepfake 震惊世界的那一天起，AI 换脸就已经开始快速发展，并随着各种越来越易用的工具被开发出来，黑产产业链也如同影子般迅速成长：从一开始的换脸到变声，直到如今以假乱真的 AI 短视频泛滥，内容监督的技术与管理已经远无法跟上现实的需求。如果没有行之有效的监管与审核，下一个伴随着流量密码诞生的 Olga，只会更具煽动性且更难以辨别，且近在眼前。（记者何畅对本文亦有贡献） ... PC版： 手机版：