AI乔任梁、李玟“复活”背后成本不足百元 律师：或构成违法行为

AI乔任梁、李玟“复活”背后成本不足百元 律师：或构成违法行为 但此类AI视频很快引起逝者家属意见反弹，乔任梁父亲3月16日公开称，“不能接受，感到不舒适，希望对方下架”，并表示“他们未征求我们同意，是我侄女刷到视频发给我的，这是在揭伤疤” 。记者3月17日在视频平台看到，一些此前流传的AI乔任梁视频已搜索不到，但仍有不少AI李玟、AI科比、AI姚贝娜、AI高以翔等已逝明星的AI视频存在。第一财经记者以AI视频潜在购买者或合作者身份咨询制作者，了解到目前制作一条30秒~1分钟时长的视频价格80~600元，拿到视频后可自行在视频平台发布。不少发布视频的创作者对外接单，有的在招收学徒和代理。电商平台上也出现了低价的明星模型，这些“免训练、可直接合成”的女明星“万能模型”售价几乎都在8元-25元以下。AI合成明星正形成一个灰色产业，律师提醒，合成明星视频后发布有违法违规的风险。AI“复活”成生意不久前，商汤创始人汤晓鸥以AI数字人的方式出现在商汤线上年会，商汤技术团队征得家属同意，使用商汤如影技术高度还原了汤晓鸥的神态等细节。AI技术“复活”，成为亲人朋友追思逝者的新方式。但随着越来越多AI“复活”明星的视频出现在视频平台，引起的争论开始发酵。在一些视频平台上，已逝明星在AI视频中表达着他们的“想法”。AI高以翔称“听说我离开的这段时间里，有人开始健身，有人学会了做饭……我不在你们身边，但我一直在另一个世界陪伴着你们”。AI姚贝娜称“我去的地方还是能尽情歌唱”。AI科比用英语表示“很高兴以这样的方式再次和你们相见”。视频平台上AI“复活”明星的视频相比汤晓鸥演讲视频的高还原度，这些AI明星视频在细节处显得粗糙，脸部表情、嘴巴和眼睛的动作有不流畅之处，但若不仔细看，仍像是真人在说话。评论区中，有粉丝希望视频制作者能继续发布其喜欢的明星的AI视频，也有人认为AI视频应由逝者家属发布更合适。发布AI“复活”明星的视频，是短视频平台上这些制作者招揽客户的一种方式，一些制作者的主页显示承接数字人制作、“复活”亲人等业务。记者以AI视频潜在购买者或合作者身份咨询了这些制作者。一名制作者表示可以制作一名已逝明星的AI视频，“只需提供已逝亲人的照片及想表达的话即可定制，30秒内89元”。AI视频制作完成后，付费购买者可以发布在视频平台上，视频制作者征求同意后也会发布在其账号上。另一名制作者表示，只要提供素材便可复活已逝明星，包括1分钟清晰讲话声音素材和正脸视频画面。生成1分钟讲话画面收费200元，后续每分钟收费20元，若除了讲话画面还需加入其他画面剪辑，每分钟需加收50元剪辑费，下单要转至电商平台。记者看到，其店铺销售AI数字人制作、AI视频制作、AI音频处理，相关产品售出30余份。此外，有AI明星视频制作者发出了价格单，显示提供逝者照片后生成1分钟内说话视频，若选择AI配音收费198元，若选择逝者声音则收费398元。除普通话外，视频还能以逝者的音色生成方言，根据声音的生成方式和还原度，收费398~598元。后续，制作团队还计划推出语音及文字实时互动聊天、实时视频通话聊天产品。AI视频制作者发来的价格表该团队还在招学徒和代理，要成为代理，需向其交980元，由该团队提供视频并制作，代理在外接单，该团队向代理的报价是价格表的6折，差价是代理的收益。该制作者称，学徒的收费更高，但并未透露收费价格。目前已有多种AI工具可用于制作AI数字人。此前，有B站UP主制作了已逝亲人的AI视频，并介绍了AI“复活”的过程。包括将照片上传至Midjourney并优化、录音导入音频编辑软件并切割成短音频、将语音上传到百度飞桨AI Studio语音合成项目训练模型、输入文本尝试语音合成、将合成的语音包下载到本地。还可以让ChatGPT角色扮演进行对话，再用D-ID数字人AI视频平台网站，上传头像生成模型、上传文字和音频，进行合成。普通人要使用AI工具制作视频，收费门槛不算太高。其中，记者从AI视频创作者了解到，Midjourney fast快速出图模式每月时长15小时，收费约300元，在非专业影视制作者使用且非大量出图的情况下基本够用。D-ID试用前两周免费，按年收费不同模式下价格为56~1293美元。电商平台9.9元可“合成”明星要合成明星视频，还有一种“自己动手”收费更低的方式。在淘宝上，“9.9元生成杨幂”已不是梦。3月17日，记者查看淘宝发现，搜索“AI女明星”等关键词，一些女明星的形象正被制作成人物模型素材包，以方便购买者实现AI换脸女明星。这些“免训练、可直接合成”的女明星“万能模型”售价几乎都在8元-25元以下，消费者下单后，后台立刻发货。记者尝试拍下了一件标价为9元的杨幂万能模型，后台立刻自动回复了一个网盘链接，网盘中有一个可供下载的压缩文件，包含1.4G的杨幂相关素材，商家表示，通过DeepFaceLab软件，配合该杨幂模型，用户可以将导入的视频中的人全部换成杨幂。同时，记者还注意到了一件名为“SRC高质量稀有明星人脸素材”的商品标价23.8元，涉及唐嫣、杨紫、倪妮等众多明星，商品详情页面显示，该人物模型合集包括10万张明星图片，包含众多影片截图、剧照等。电商平台上的明星人脸素材商品介绍DeepFaceLab是一款用于AI换脸的开源软件。而对于难以自行下载或对官方版本存在使用困难的用户，淘宝商家还推出了DeepFaceLab的新版本，表示“全部汉化，修复了很多BUG，新增很多功能，可以查看角度”，售价为10元。“生成女明星”似乎正在变成一件低成本、低门槛的事，但实际上，许多风险暗藏其中。记者注意到，该类产品几乎都不支持7天无理由退货，且均在详情页面或自动回复中表示产品为虚拟产品，一经发货、概不退换，这也意味着，若消费者购买的产品与预期不符或“换脸”效果不佳时，可能存在维权困难。私下向视频制作者付费而不通过平台，以制作喜爱明星或已逝亲人的AI视频，也有一定潜在风险。一名视频制作者表示，下单方式是直接向其支付宝转账，但其对于私下交易是否安全的问题并未回应。另一名视频制作者表示，直接下单或要成为代理需私下加其社交账号沟通，关于私下交易的安全性，该制作者则称可用人格担保。记者从律师了解到，不论是生成已逝明星AI视频并发布在视频平台，还是在电商平台上销售明星模型，都可能是违法违规的行为。广东国鼎律师事务所律师廖建勋告诉记者，未经去世明星家属同意发布AI“复活”视频甚至用于商业牟利是侵权行为，侵犯了肖像权。据《民法典》规定，死者姓名、肖像等受到侵害，亲属有权请求行为人承担民事责任，要求消除不良影响、支付精神损害抚慰金等，且可要求平台删除侵权视频。相对粉丝制作视频不用于商业牟利，商业牟利者需承担的责任更重。河南泽槿律师事务所主任付建则提醒，由于商家售卖的明星模型是在没有授权的情况下提供给消费者使用，可能会侵犯明星的肖像权、名誉权或者隐私权。这些商品还可能为不法分子实施违法犯罪提供便利，造成不良社会影响。付建认为，消费者在购买这些服务时，应该注意是否违反法律法规的规定，是否侵犯他人合法权益，是否在法律所允许的范围内进行使用服务。例如，当消费者在未经允许的情况下擅自生成他人的AI视频，并在互联网传播时，便有可能侵犯他人的肖像权和名誉权。根据《民法典》的规定，被侵权人可以... PC版： 手机版：

下午察：李玟被AI复活了

下午察：李玟被AI复活了 人工智能（AI）的进步，让去年过世的华语流行乐坛天后李玟“复活”了。 最近，一部有关李玟的AI生成视频在微博疯传。视频中，李玟妆发完整，脸部表情也相当自然，她开口第一句话就说：“嘿你们好吗？我是CoCo李玟。我知道你们可能会感到惊讶，甚至有些不真实，但请相信我，这是一个充满着爱和感激的时刻，因为我有机会通过这段视频与你们相聚……”字里行间充满着对粉丝的疼惜。 李玟去年7月因抑郁症轻生离世，终年48岁。 2024年3月20日 8:41 PM

称已取回李玟遗物##李玟姐姐回应AI李玟# 据港媒，李玟李思林27日出席活动，被问及AI“复活”李玟事件，直言“想

#李玟姐姐称已取回李玟遗物##李玟姐姐回应AI李玟# 据港媒，李玟姐姐李思林27日出席活动，被问及AI“复活”李玟事件，直言“想怀念没问题，但如果作为商业招揽或骗人，是对去世之人的不尊重，如果妈咪看到会吓死她。”此外，她透露李玟遗物已拿回七七八八，须整理一下。 via 新浪娱乐的微博

李玟母亲委托律师声明：“AI复活”给家人带来二次伤害 要求7日内下架

李玟母亲委托律师声明：“AI复活”给家人带来二次伤害 要求7日内下架 据广东梦海律师事务所网站，该所接受李玟母亲的委托，指派何栋民律师、胡可言律师、杨帆律师就部分网络用户制作、传播“AI复活李玟”相关短视频发布本律师声明。具体内容如下：根据已掌握的证据资料显示，近期部分网络用户未经李玟女士近亲属同意，利用李玟肖像制作、发布“AI复活李玟”系列短视频，以温情之名非法牟利，借机售卖AI服务、恶意转评引流推广个人业务。此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰，同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。根据《中华人民共和国民法典》等相关法律规定，死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。基于以上情况，广东梦海律师事务所接受李玟母亲的委托，声明如下：1、严正警告涉嫌侵权责任人，于本声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章，立即停止实施相应侵权行为；2、本所已受托对涉嫌侵权行为持续取证，并将根据具体情况对相关侵权人采取民事诉讼、刑事报案等法律手段，追究涉嫌侵权人的法律责任；3、相关网络平台作为网络服务提供者，应当积极履行监管义务，及时屏蔽、删除有关侵权内容，防止损害后果进一步扩大；4、互联网并非法外之地，网络用户在享受互联网便利的同时，应严守法律底线，尊重他人合法权益。委托人再次呼吁广大网络用户及喜爱李玟的粉丝朋友们理性消费，切勿被不良商家混淆视听。希望每一位爱李玟的朋友们都能同她的家人一样，接受离别、不打扰她的安宁，同时对逝者家人的尊重和保护，也是对逝者最好的追忆。近日，有网友用AI生成视频和声音“复活”李玟，相关话题引发网友关注。网友们议论纷纷，态度不一。有媒体调查显示，不少人觉得这是对逝者的不尊重，面临诸多法律风险。据报道，近年来，人工智能技术发展迅速，生成式AI兴起以来，“AI复活亲人”已成产业链，甚至每个人都可以实现“数字永生”。法治日报此前发文称，有专业律师表示，法律除保护生者的人格权外，对死者的人格权益亦加以保护。对此，民法典第九百九十四条明确规定了死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。故未经逝者亲属等同意的情况下，用AI“复活”李玟等行为涉嫌侵权，逝者配偶、子女、父母有权依法请求行为人承担民事责任；若逝者没有配偶、子女且父母已经死亡的，其他近亲属有权依法请求行为人承担民事责任。律师介绍，打着温情的名义，趁机推广制作收费AI“复活”视频的行为，实质是属于利用逝去明星的强大社会影响力给自己引流，并借机推广其业务的行为，该行为很大可能涉嫌侵权，需要承担侵权民事责任，严重者可能还会涉嫌刑事责任。 ... PC版： 手机版：

中国AI复活亲人初成产业链 收费上百至数万人民币

中国AI复活亲人初成产业链 收费上百至数万人民币 中国媒体报道，目前“AI复活亲人”在中国需求量巨大，已经初步形成产业链，收费从一百到数万人民币不等。 据红星新闻星期一（3月18日）报道，目前人工智能（AI）复活亲人”在中国已经成为一门盈利的生意，并初步形成产业链。 据记者调查，李玟、乔任梁等明星的AI“复活”视频近期频繁出现，正是为了引流推广，吸引目标客户。之后会有专门人员进行视频制作，并用专门话术沟通成单，甚至还有明确的价目表。 以198元（人民币，下同，约37新元）的基础款为例，客户提供逝者照片即可，AI生成视频后，声音由AI进行配音，时长为1分钟以内；598元的视频客户需要提供照片、逝者的声音，以及一段方言念出的逝者要说的话。根据宣传，后者还原度为90%左右。 有代理称，一星期完成了20多单，还有人专门成立公司承接“AI复活亲人”项目，成立不到一个月已经接数百单，目前需求量巨大。 据报道，如果有人想成为代理，需要一次性缴纳980元。上线会提供话术，代理负责接单，视频制作则由上线完成。如果想自行接单，则须缴纳近两万元的学费，公司会教学员如何用AI制作视频，在购买相关硬件和软件后，可以独立接单。 另据《扬子晚报》上月报道，自2019年开始从事“AI复活”事业的业者孙凯说，他的公司创立至今已服务了超过7万人，目前其“数码永生”产品对外统一标价为9800元。 红星新闻引述律师说，如果是依近亲属请求，通过AI技术加持，满足亲属寄托哀思需求，无可厚非；但如果“未经亲属准许”，这种采取AI技术“还魂”的做法，面临着侵犯逝者的肖像、名誉、隐私等人格权益的法律风险。 2024年3月19日 5:33 PM

消失十年的舒马赫 给AI造假定了“起步价”

消失十年的舒马赫 给AI造假定了“起步价” 事出一年前。2023年4月15日，《Die Aktuelle》刊登了一张舒马赫微笑的照片，并在旁边配上“Welt-Sensation”“Michael Schumacher Das erste Interview”两个放大的标题，翻译成中文就是“轰动世界”、“迈克尔·舒马赫的首次采访”，以吸引读者的眼球。舒马赫于2013年底在一次滑雪事故中头部受重伤，几乎丧命，自此再未在公众场合露面。十多年间，有关他的健康状况及隐私都被家人严格保密，且一直保护得很好。在舒马赫16年的F1职业生涯中，他总共拿下91场比赛的胜利，并7次获得年度车手总冠军，被业界和车迷冠以“车王”称号。即便从公众视野消失十多年，但他在F1车迷和来自世界各地粉丝心中的分量不减分毫，自舒马赫受伤以来，他的粉丝通过后援会、社交媒体、线下活动等多种途径和方式表达对“车王”的支持。▲德国科朋迈克尔-舒马赫赛车中心，车王的支持者在围栏上挂满了帽子和T恤表达支持在X平台上，舒马赫的专属标签#KeepFightingMichael#至今每天都有诸多参与者。不过，除了向外界展现舒马赫在当下仍具备世界级的影响力和号召力的同时，也让其仍然可以成为一个顶级流量来源，是传统媒体和社交平台们都趋之若鹜的潜在话题。全民社交时代，流量即利益，这也是《Die Aktuelle》制造“AI舒马赫”的推手。近年来以AI形式扮演名人制造“对话”案例实际上并不少。但这篇有关报道最为人诟病的是，它极其误导性地暗示了舒马赫披露的是关于全世界最关注的有关他身体健康的细节，文中引用了“舒马赫”的话，还讨论了他在滑雪事故后的身体状况以及近十年来的生活。人们也很快发现《Die Aktuelle》的这篇报道是利用人工智能伪造的，虽然该杂志事前为自己留了两手：一是在杂志封面的最下方用小了好几号的字体写着，“Es klingt täuchend echt（这听起来让人难以置信）”；二是在文章末尾承认采访中的舒马赫“引语”全是由人工智能生成的。但该事件一出，全世界舆论哗然。外界最大的批评正是认为该杂志严重侵犯了病人的隐私、突破了人类道德底线和新闻伦理标准。舒马赫家人在新闻出来6天后发表公开声明，“计划对Funke旗下的这家杂志采取法律行动。”Funke媒体集团在舒马赫家人称要对其提起法律诉讼后做出回应，“《Die Aktuelle》杂志总编即日起被解雇，”后者从2009年以来一直任该杂志总编，此外在道歉声明中，Funke解释称，“这一既没品位、又具误导性的文章本应不该出现，它绝对不符合我们及读者对Funke这样的出版商所期待的新闻标准。”《Die Aktuell》杂志向来专报德国名流花边新闻，与舒马赫家族渊源颇深。早在2014年，即车王受伤的第二年，该杂志还刊登了一张舒马赫和妻子的照片，标题是“醒来”，2015年还捏造过舒马赫妻子的“私生活”。“Funke媒体集团向舒马赫家人赔偿20万欧元”这一结果不仅是舒马赫及家人的胜利，也是新闻领域的重要时刻，这应该是法律层面第一次对新闻行业滥用生成式AI表明了立场，也是法律上首次给借AI捏造违反新闻伦理和人类道德的造假行为做了一次“定价”。这次判决再次引发了全世界对AI捏造新闻报道的反思。自2022年底，ChatGPT的走红引爆了全球对生成式AI技术的应用和投资浪潮，生成式AI技术在不同场景中被不断解锁。虽然为人们的衣食住行，以及体育、娱乐等内容生产带来诸多便利，但其中暗藏的利益空间也对人类道德、伦理底线提出了挑战。人工智能的普及，生成式AI技术的飞速发展给造假和伪造提供了肥沃的土壤，“每当有新技术出现时，人类都希望将其推向极限”，The Ohio State University传播学副教授Nicole Kraft对AI的快速发展忧心道。轰动全球的AI“造假”事件早已有之，其中一些事件引发的恐慌和导致的结果比“造假”舒马赫更甚：2017年以来，借AI算法制造假新闻频繁发生在政界以及选举中。2019年，据韩国MBC报道，一款名为“Lee Luda”的AI语音软件可以模仿任何人的声音，甚至可以让他们说出未曾说过的话，此新闻一出，引起全球对此类技术是否会导致虚假和误导性信息传播的激烈讨论。2022年，Podcast.ai利用生成式人工智能技术，通过Play.ht的语言模型大量训练，模拟出了已故的乔布斯，并做成了一期20分钟时长的播客节目，音频中，主持人与“复活”的乔布斯探讨了对计算机、个人信仰以及AI等多个话题。外界对“复活”已故科技人士的做法的看法多是“毛骨悚然”，不少网友在社交平台表示，“说到底这是利用AI在全世界面前的一次公开造假。”2023年11月，ESPN用AI给密尔沃基雄鹿队的利拉德玩“换装”，身穿雄鹿队球衣在接受采访的他，原视频却是此前在效力开拓者队时的采访，ESPN用AI移花接木，在利拉德声音上做了处理上，制作了与原始声音源吻合的口型，“又是一次公开造假”。在中文社交网络上，外界对生成式AI也有批评声，一个重要起因正是由于一些个人或团体借生成式AI技术做起了去世之人的生意。网友用AI生成视频和声音“复活”了CoCo李玟、张国荣、乔任梁、高以翔等已故公众人物，制作者称去世公众人物的虚拟视频不做商用，但在视频下方评论区类似“咨询制作逝者视频怎么收费”评论不断，制作者更是给出了明码标价，借AI“造假”引流和卖产品的行径引发舆论哗然和外界质疑。目前，CoCo李玟的家人已采取了与舒马赫家人相同的做法，为保护个人权利，对这类滥用AI技术的“牟利”行为提起了法律诉讼。不少网友对此表示，“打着温情和怀念故人的幌子，说到底还是生意”，其中潜在的风险不言而喻。“造假”舒马赫在法律上有了结果，给后续想要再借AI和生成式技术做突破人类道德底线和新闻伦理行径的人发出了警告，即便利益在前，他们也必须更加谨慎行事，在AI造假史上极具里程碑意义。但在新技术的发展演进过程中，不同国家和地区制定并完善相关监管政策和法律法规的速度不一，惩处标准也不一。所以国内对类似“造假”舒马赫事件在法律层面会给出一个怎样的判罚结果，目前还不得而知。国家网信办等七部门去年联合发布了《生成式人工智能服务管理暂行办法》，以促进生成式AI健康发展和规范应用，算是国内对生成式AI的首个监管文件。每逢新技术的出现和发展，对人类都是机遇但也是挑战。在拥抱未来的时候，如何辅以严格监管和出台对应的法律法规，以使其中的风险真正转化为可能的机会，想必将会萦绕在接下来很长一段时间的AI狂潮中。 ... PC版： 手机版：