有多少乌克兰网红的脸被做成了带货工具？

有多少乌克兰网红的脸被做成了带货工具？我本以为，随着那篇报道的结束，中国人假冒毛子的故事就告一段落。但我万万没想到，在 2024 年，这个套路他 360 度大升级了。具体是咋回事呢？这两天，一个叫 Olga Loiek 的乌克兰女孩发了条视频，说有个朋友给她发个链接，自己一看，人都傻了。好家伙，我怎么在中国咔咔带上货了？？原来在小红书上，有这样一类账号，天天就是一个长相完全一致的金发美女，变着法的讲中俄友谊长存，三句离不开谢谢中国。视频结尾，还会给你介绍下俄罗斯的美食。而看视频的老铁们，自然也要照顾下大妹子的生意。是的，成百上千万中国观众看到的这张侃侃而谈的 “ 脸庞 ” ，就是 Olga Loiek 。反观 Olga ，自己还没在 YouTube 上赚到半毛钱呢。而且更尴尬的是，脸被别人偷去用来带货不说，作为一个乌克兰人，人设还是个俄罗斯人，带得还都是人俄罗斯的土特产……这找谁说理去。如果你没法和这个女孩共情，不妨可以设想一下，一个美国人顶着你的脸，假装自己是日本人，变着法吹日本。然后他还利用你的脸，从其他美国人手里，赚了你这辈子都不一定能赚到的钱，在视频评论区里，观众们刷的都是 “ 你好日本，爱来自美国 ” 。你气不气？Olga Loiek 也不是唯一一个倒霉蛋，另一位来自瑞典的网红拉纳布莱克利的脸，也被移花接木到了中国人脸上。在视频里， “ 她 ” 大谈中国人的勤劳善良，并且嫁给中国老公，余生在中国定居。看完视频的网友也不知道自己成了即将被噶的韭菜，还在问她喜欢中国哪个城市。在抽查了几个被 Olga Loiek 展示的账号之后，我发现这些假冒外国人的中国账号，有些已经在各大平台注销掉了，但还有一些依旧逍遥法外。可世上只有千日做贼，哪有千日防贼。AI 技术的发展速度，明显比人类目前的应对速度要快。在一年前， AI 技术还是被网友嘲笑的对象，网友看了也只会觉得这辈子的恐怖谷效应都犯完了。然而现在， AI 技术已经可以产生以假乱真的效果了。变化总是在悄无声息中进行，在 AI 技术日渐进步的今天，眼睛和耳朵，正在逐渐失去辨别能力。人的知觉，正在信息时代的冲击下 “ 被退化 ” 。看到这，估计很多差友会觉得这些事都离自己太远，比如那个假冒的乌克兰女孩，懂行的一看就知道了，完全骗不到自己啊？那你再试试这个呢？如果你比较关注游戏杂谈，那你可能还记得一个叫做敖厂长的视频博主，他因为几波舆论潮，基本败完了自己的口碑。在去年，他先后停止了 B 站和抖音的更新，悄无声息的从网友的关注列表里消失了。可就在前两天，一位 B 站 UP 主用自研 AI 文本转语音技术，搭配上他原有的文案和剪辑风格，愣是复刻了一整个 UP 主敖厂长出来，给我看恍惚了。弹幕里都在刷 “ 亡灵法师 ”“ 招魂成功 ” 。在这个 UP 主页贴出的网址中，还能找到更多奇奇怪怪的 AI 音声，比如丁真、科比、孙笑川，以及一些知道这个网站八成要发律师函的明星们。那么，使用 AI 生成一个人的音声，要搜集多少真人的声音呢？UP 主在视频介绍中，给出的答案是：5 秒。没错，你只要说 5 秒钟的话，你的声音就可能已经被克隆了。如果以上的技术，能够用在发展生产力，推动社会进步上，那勉强还能算是最好的结局。但你要知道，现在的 AI 技术，已经越来越下沉。第一天出了个厉害的 AI 软件，第二天使用教程就有博主给你发抖音了，简直就是手把手教学，从入坑到精通给你安排的明明白白。不可否认，这是一件好事，可它也把人心底的阴暗面一点点放大，最后形成公共事件。前几天， AI 生成的泰勒斯威夫特虚假不雅照片，在整个网络上疯传，甚至惊动了美国白宫。白宫新闻发言人卡里娜 · 让 - 皮埃尔警告 AI 生成照片的传播 “ 令人担忧 ” ，并敦促社交媒体公司防止此类错误信息的传播。泰勒这事为啥这么爆炸？毕竟早在 PS 时代，就有很多女性饱受换脸的困扰了对吧？但在 AI 时代，照片里的所有细节都可以被精心定制。泰勒这次，就是因为交了一个橄榄球星男朋友，被生成出了在橄榄球更衣室里的照片……换谁不急眼？后来也是由于类似的图片过多，Twitter一度封锁了对斯威夫特的相关搜索。为什么全美国因为这事都开始变得神经兮兮，因为大家都清楚，今天是泰勒，明天可能就是自己。而且 AI 干的坏事，也不只是下三路，它的能量比你想的庞大。在中国香港，发生过一起 AI“ 深度伪造 ” 诈骗案。诈骗者就是通过 AI 技术，把网上搜集到的跨国公司总部高层的声音和面貌，替换到自己身上，然后，简简单单从该公司的香港分公司骗走了 2 亿港元，甚至，公司财务连老板的人脸和声音都没看出来有啥异常。你以为 AI 也就到这种程度吗？别忘了， 2022 年，乌克兰总统泽连斯基 “ 呼吁乌克兰士兵放下武器投降 ” 的视频在网上传播。这条十分整蛊的视频，逼到乌克兰国防部都要站出来声明 “ 这是不可能的 ” 。由此可见，从个人到团体，甚至是国家之间的战争，每个能钻的空子，都成为了 AI 的突破口。更可怕是，到目前为止，还没有一个特别好的招儿能防让住人用 AI 干坏事。网络安全业内人士，i春秋的朋友小傲（化名）就告诉世超，反 AI 犯罪的难点主要有两方面，一个是技术层面，一个是经济层面。在技术层面上， AI 生成内容的识别难度大，特别是 AI 越发展，肉眼能识别出来的概率也越小，这种时候就只能上机器。而在经济层面上，用 AI 来犯罪并不是难事也不需要花什么钱，但用 AI 来反 AI 的成本就高了，你得砸钱出力去搞研究。现阶段，国内外有不少监管机构和公司在想法子拴住 AI ，去年公安部就端了个用 AI 写勒索病毒的团伙。市面上，也有不少检测 AI 生成内容的工具，但效果还不好说。像 OpenAI 之前就推出过一款文本检测工具，但因为检测错误率太高偷偷给下架了……两年前，微软还有 BBC 等几家科技公司和媒体一起合作，成立了个内容来源和真实性联盟 ( C2PA ) 。有了 C2PA 协议之后，内容是谁创作的，历史的修改记录，都会被记录下来。就相当于给生成的内容，打上了一层看不见的水印。但用小傲的话来说， C2PA 这玩意属于防君子不防小人，大厂守规矩，不代表很多开源调出来的小模型，也会遵守协议。而且， C2PA 现在还有不少 Bug ，像一截图水印就没了，要生效也得好几个平台都使用协议才行。所以很残酷的一个现实是，现阶段咱们没法儿杜绝 AI 干坏事。关键在于， AI 技术发展得实在是太快了， AI 生成的内容越来越逼真，生成的门槛却越来越低，就像 Sora 问世后，大家都在说 “ 现实，不存在了 ” 。不可否认，之后的立法、反 AI 技术肯定会跟上，但这种敌在暗我在明的情况，监管就很被动了。这就像一场猫鼠游戏， AI 知道规则就会绕过去，人类再设置新的规则，这场游戏，或许永无止境。我们能做的，除了多加分辨，就只剩下下载国家反诈中心 App 了。 ... PC版：手机版：

在Telegram中查看

相关推荐

俄罗斯美女直播带货称想嫁中国人乌克兰网红揭被AI换脸

俄罗斯美女直播带货称想嫁中国人乌克兰网红揭被AI换脸一名自称来自俄罗斯的“网红”在中国社交平台带货，她在平台中频频“感谢中国”、并称“想嫁中国男人”，收获不少中国粉丝。但近日这名“网红”被揭发是“AI换脸”，其盗用的正是拥有精致面孔的乌克兰美女网红奥尔嘉（Olga Loiek）。奥尔嘉1月29日在自己的YouTube频道发布题为“有人在中国复制了我”的视频控诉，有人在小红书、B站等中国社交媒体创造了一个不存在的俄国女子“娜塔莎”，自称在中国生活了八年，并在中国各社交媒体广发“中俄友谊长存”、“感谢中国”、“想嫁中国男人”、“深深爱中国”等中文口号，但这个人实际是用AI复制了奥尔嘉的面孔和声音所伪造。奥尔嘉说，“她（娜塔莎）有我的脸、她有我的声音，且说得一口流利的中文”。奥尔嘉对此感到愤怒，并向各大中国社交媒体申诉反映，但称隔了好几个星期却还没有回应，因此她决定自行拍片在其YouTube上公开拆穿此事。奥尔嘉在影片中表情严肃指出，自己乌克兰的家人跟同胞，正因俄罗斯饱受战乱之苦，她却被AI盗图宣扬俄罗斯的好处，其AI分身甚至在卖俄罗斯食品带货。据了解，名为“娜塔莎”的帐号目前有超过14万名粉丝，比奥尔嘉本人的粉丝还多。该账号也顺势带货，卖俄国的东西给中国人。不少网民在影片下留言，表示害怕，并称“真的是看不出来”，还有网民分析，从假帐号假主播的数量和多样化来看，应该是成产业了。有专门的技术公司在盗用真人素材和整合，推出用户模板，让一般人能轻松上手造假影片和运营。有自称是中国的网民对奥尔嘉的遭遇表示“抱歉”，“感到震惊并谴责这种无耻的商业行为”，并称已帮助向中国相关平台举报。 2024年2月20日 12:35 PM 来源：联合早报

俄罗斯美女直播带货称恨嫁中国人乌克兰网红揭被AI换脸

俄罗斯美女直播带货称恨嫁中国人乌克兰网红揭被AI换脸一名自称来自俄罗斯的“网红”在中国社交平台带货，她在平台中频频“感谢中国”、并称“想嫁中国男人”，收获不少中国粉丝。但近日这名“网红”被揭发是“AI换脸”，其盗用的正是拥有精致面孔的乌克兰美女网红奥尔嘉（Olga Loiek）。奥尔嘉1月29日在自己的YouTube频道发布题为“有人在中国复制了我”的视频控诉，有人在小红书、B站等中国社交媒体创造了一个不存在的俄国女子“娜塔莎”，自称在中国生活了八年，并在中国各社交媒体广发“中俄友谊长存”、“感谢中国”、“想嫁中国男人”、“深深爱中国”等中文口号，但这个人实际是用AI复制了奥尔嘉的面孔和声音所伪造。奥尔嘉说，“她（娜塔莎）有我的脸、她有我的声音，且说得一口流利的中文”。奥尔嘉对此感到愤怒，并向各大中国社交媒体申诉反映，但称隔了好几个星期却还没有回应，因此她决定自行拍片在其YouTube上公开拆穿此事。奥尔嘉在影片中表情严肃指出，自己乌克兰的家人跟同胞，正因俄罗斯饱受战乱之苦，她却被AI盗图宣扬俄罗斯的好处，其AI分身甚至在卖俄罗斯食品带货。据了解，名为“娜塔莎”的帐号目前有超过14万名粉丝，比奥尔嘉本人的粉丝还多。该账号也顺势带货，卖俄国的东西给中国人。不少网民在影片下留言，表示害怕，并称“真的是看不出来”，还有网民分析，从假帐号假主播的数量和多样化来看，应该是成产业了。有专门的技术公司在盗用真人素材和整合，推出用户模板，让一般人能轻松上手造假影片和运营。有自称是中国的网民对奥尔嘉的遭遇表示“抱歉”，“感到震惊并谴责这种无耻的商业行为”，并称已帮助向中国相关平台举报。 2024年2月20日 12:35 PM

换脸乌克兰美女在中国赚钱 AI已经开始跨国犯罪了

换脸乌克兰美女在中国赚钱 AI已经开始跨国犯罪了下面的数据可能更加直观：小红书一个名为“娜塔莎进口食品”的博主，在视频中的人设是一位定居在中国的俄罗斯人，并通过这一身份发布各种关于俄罗斯与中国生活的短视频，和大家科普各种俄罗斯知识，仅小红书平台粉丝量就在短短数月内突破了 20 万。但现实是，这个账号的各种视频内容完全是由 AI 生成，甚至这个肖像的真人还是一位乌克兰人，她的真名叫 Olga Loiek。从这个账号发布的各种视频中，不难看出背后的运营团队深谙短视频平台的流量密码：时不时抛出“喜欢中国，想买房子定居”“女性搬到中国是否要务农”这种极富争议的社会话题，显然很清楚如何利用好 Olga 的“流量密码”，但这些也只会加重受害者的痛苦。在抖音等平台，利用 Olga 肖像权制作虚假视频的内容，往往是关于战争中俄罗斯一方的言论：例如“俄罗斯会感激中国朋友的支持”等在短视频平台反响热烈的话题。讽刺的是，抖音的老用户可能会觉得这一刻似曾相识：去年六月，一位自称“保尔柯察铁”的“俄罗斯车臣人”在抖音走红，依靠分享在战争前线的最新动态，迅速积攒了超过三十万粉丝，并顺势开启了带货：当然也是包括伏特加糖果在内的各种俄罗斯特色食物。但在后续他发布的各种“作战”视频中，被不少网友认出了拍摄视频的实际地点经常是河南洛阳某处的发电厂，最终被进一步扒出这位中文过于流利的车臣人，其实只是特效滤镜的效果。被揭开谜底之后的账号不再被网友关注，最终无人问津。虽然彼时诸如“柯察铁”这样的案例并不少，这些视频尚且需要真人出镜，即使漏洞百出，也吸引了众多没有足够辨认能力的观众，而到了 Olga 的例子中，这些视频产业链已经完全不需要一个漏洞百出的真人出镜，取而代之的是一个完全由视频素材训练出的“克隆人”。事实上，使用真人肖像打造出克隆人短视频的工具已经相当成熟：克隆 Olga 的运营团队使用的是一款名为 HeyGen 的 AI 肖像克隆软件：这是一款已经非常成熟 AI 应用，网络上能找到众多面向初学者的 HeyGen 上手教程。使用价格上，即使是最贵的商用版本也只需 72 美元/月。在这些工具之前， AI 视频基本还遵循着输入足够多相关肖像视频素材，根据口型/表情对应生成相应的素材，生产对应的短视频内容，即创作者口中嘲讽 AI 生成视频的“拼尸块”模式，但现在随着 HeyGen 这样的 AI 工具越来越多，生成一条高度逼真的短视频所需要的素材，可能仅仅是原作者的几张照片。每月仅 500 人民币的投入，创作克隆视频换来的收益却相当可观：这些克隆账号不仅能通过挑动流量话题赚钱，通过带货收入也是另一种主要方式：小红书账号下的清单中充斥着各种“俄罗斯特产食品”的链接，并且随着克隆短视频的带动，给观众灌输“俄罗斯经济需要你们的支持”的思想，促使观众购买这些商品：截至2 月 19 日，其中一些单品销量已经超过一万。Olga 也在自己上传的视频中提到，她和她的家人曾多次就这个问题尝试向小红书、抖音等申诉，即使她们都很难理解复杂的中文条款所包含的意思，但这些申诉都没有获得正面的结果，无奈之下，才选择自己真人发布视频，将整件事和盘托出。在 Olga 发布视频揭开这个问题，并引起全球网友热议的两周内，这个账号仍然在小红书等平台正常存活：账号简介中，最新的一条视频的主题甚至是庆祝中国新年，同时仍然有很多不明真相的网友，在评论区中回复账号运营者刻意煽动起的各种问题。给 Olga 关于“买房”“找中国人当老公”等建议。与此同时，Olga 的家人所能做的，也只有在社交媒体上呼吁 HeyGen 的开发者采取行动，避免这种被 AI 换脸的事件发生在更多人身上。2 月 20 日，这个账号才被“封禁”：没有任何常规账号封禁的相关提示，消失在平台中。看起来这起事件告一段落，但在过去的数月中，黑产团队赚到了带货收入与流量分成所得，平台坐享其成收获流量，观众收获了心理满足感与“俄罗斯特产”，只有 Olga 本人和家人承受了痛苦。按照 Olga 本人在 YouTube 发布的视频中所言：“我们的家人在战争中不得不在不断的空袭和轰炸中东躲西藏。在这段时间里，看到自己的脸被用来向数十万人宣传俄罗斯，这并不有趣”。苹果公司联合创始人史蒂夫·沃兹尼亚克近期也警告称，AI 视频内容行业需要强监管。同时监管机构应该也应该追究大型科技公司在其中疏于监管乃至纵容的责任。中国在 2020 年五月发布的《民法典》中第 1019 条，其实已经有相关的条文：任何组合或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或公开肖像权人的肖像。此前颁布的《互联网信息服务深度合成管理规定》中，也明确规定内容提供者需要按照对生成的图片、视频等内容进行标识，但目前主流短视频平台也没有足够有效的方式来应对：在类似没有明确标注的 AI 生成视频下，小红书会对疑似 AI 内容自动生成的内容自动打上标识，但除此之外并没有更多有效的应对方式。在小红书社区公约中，也明确表示冒充他人等行为属于侵权，抖音也专门设置了关于人工智能生成内容的平台规范暨行业倡议、人工智能生成内容标识的水印与元数据规范，并推出了虚拟形象账号备案指引。抖音安全中心相关负责人对电厂表示，抖音安全中心针对技术手段仿冒虚假人设、不当获取粉丝的账号，持续进行专项治理。对于违规账号，平台采取了包括全面禁言和粉丝清零在内的处罚措施，近期已处罚账号67个。下一步平台将加大治理力度，也欢迎用户在发现违规账号时点击举报，平台将在第一时间核实处理。此前，抖音官方信息发布账号“抖音黑板报”曾发布打击黑灰产违规“涨粉养号”行为的公告，其中涉及多项违规行为，就包括利用人工智能技术（AIGC）创建虚拟人物仿冒真人或批量发布低俗低质内容。不过，对于Olga这种已经涉及到明确侵犯肖像权的事件，如果内容平台的“正义执行”在两周乃至更长时间之后才姗姗来迟，这不仅是给黑产团队可乘之机，甚至在很大程度上已经纵容了更多类似事件的发生。远在 Sora 之前，从 deepfake 震惊世界的那一天起，AI 换脸就已经开始快速发展，并随着各种越来越易用的工具被开发出来，黑产产业链也如同影子般迅速成长：从一开始的换脸到变声，直到如今以假乱真的 AI 短视频泛滥，内容监督的技术与管理已经远无法跟上现实的需求。如果没有行之有效的监管与审核，下一个伴随着流量密码诞生的 Olga，只会更具煽动性且更难以辨别，且近在眼前。远在 Sora 之前，从 deepfake 震惊世界的那一天起，AI 换脸就已经开始快速发展，并随着各种越来越易用的工具被开发出来，黑产产业链也如同影子般迅速成长：从一开始的换脸到变声，直到如今以假乱真的 AI 短视频泛滥，内容监督的技术与管理已经远无法跟上现实的需求。如果没有行之有效的监管与审核，下一个伴随着流量密码诞生的 Olga，只会更具煽动性且更难以辨别，且近在眼前。（记者何畅对本文亦有贡献） ... PC版：手机版：

下午察：乌克兰美女被AI成俄罗斯人走红中国？

下午察：乌克兰美女被AI成俄罗斯人走红中国？在美国AI巨头OpenAI发布视频生成模型Sora引起全球惊呼之际，乌克兰美女网红奥尔嘉（Olga Loiek）发布了一则题为“有人在中国复制了我”的控诉视频，引起不小的惊恐。奥尔嘉1月29日在自己的YouTube频道发布视频控诉，有人在小红书、B站等中国社交媒体创造了一个不存在的俄国金发美女“娜塔莎”，其盗用的面孔和声音正是来自奥尔嘉。这个叫“娜塔莎”的AI女子说着一口流利的中文，自称在中国定居八年，常常发布关于俄罗斯与中国生活的短视频，科普俄罗斯的知识，然后顺势为各类俄罗斯产品带货。 2024年2月21日 7:59 PM

乌克兰网红遭遇 AI 克隆在中国社交媒体上广泛传播

乌克兰网红遭遇 AI 克隆在中国社交媒体上广泛传播今年早些时候，20岁的乌克兰网红奥尔加•洛伊克 (Olga Loiek) 在网上遭遇了一群由人工智能生成的自己的克隆体而且他们都在说中文。她向英国金融时报透露：“我真的被吓到了。我看到我的脸在说一种我不懂的语言。当我翻译它时，发现这些都是我一生中绝不会说出的话”，并补充说这个深度伪造的角色谈论的是“加强俄罗斯和中国之间的关系”。洛伊克在 YouTube 和 Instagram 上有2万名粉丝，其中一些人向她报告了这些视频。她表示，她对克隆背后的动机一无所知，但怀疑自己的形象可能被用作一场虚假信息宣传活动的一部分。这些视频在中国社交媒体网站小红书和哔哩哔哩上广泛传播，其中一个假账号吸引了30万名粉丝。她补充说：“这听起来像是宣传，试图让人们相信俄罗斯是一个伟大的国家，然而乌克兰的战争却是我一生中最糟糕的事情”。

HayoAI应用推荐〓【AI工具】简单好用装13？这些AI工具值得一试！〓

HayoAI应用推荐〓【AI工具】简单好用装13？这些AI工具值得一试！〓 1.Midjourney Midjourney是一款基于AI技术的图片生成工具。用户只需输入关键词，Midjouney就可以生成一张与关键词相关的高质量图片。这个功能可以极大地帮助用户快速生成宣传海报、社交媒体图片等。 2.Fliki 这是一款基于AI技术的视频生成工具。用户只需输入文案和图片素材，Fliki就能够自动合成一个视频。这个功能可以帮助用户快速制作各种宣传视频和短视频内容。 3.AutoDraw AutoDraw是一款基于AI技术的图案生成工具。用户只需涂鸦，AutoDraw就会自动识别涂鸦内容并生成一个美观的图案。这个功能可以帮助用户快速制作简单的设计图案。 4.Looka 它是一款基于AI技术的图标生成工具。用户只需输入关键词，Looka就会自动生成一个与关键词相关的图标。这个功能可以帮助用户快速制作个性化的图标。 5.Descript Descript是一款基于AI技术的视频音频编辑器。用户可以在Descript中进行剪辑、转录、合成等各种操作。这个功能可以帮助用户快速制作高质量的视频和音频内容。 6.Murf AI 它是一款基于AI技术的演讲生成工具。用户只需输入演讲稿，Murf就可以根据用户的语音特征生成一个真人演讲。这个功能可以帮助用户快速制作演讲内容。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人