AI乔任梁、李玟“复活”背后成本不足百元 律师:或构成违法行为

AI乔任梁、李玟“复活”背后成本不足百元 律师:或构成违法行为 但此类AI视频很快引起逝者家属意见反弹,乔任梁父亲3月16日公开称,“不能接受,感到不舒适,希望对方下架”,并表示“他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤” 。记者3月17日在视频平台看到,一些此前流传的AI乔任梁视频已搜索不到,但仍有不少AI李玟、AI科比、AI姚贝娜、AI高以翔等已逝明星的AI视频存在。第一财经记者以AI视频潜在购买者或合作者身份咨询制作者,了解到目前制作一条30秒~1分钟时长的视频价格80~600元,拿到视频后可自行在视频平台发布。不少发布视频的创作者对外接单,有的在招收学徒和代理。电商平台上也出现了低价的明星模型,这些“免训练、可直接合成”的女明星“万能模型”售价几乎都在8元-25元以下。AI合成明星正形成一个灰色产业,律师提醒,合成明星视频后发布有违法违规的风险。AI“复活”成生意不久前,商汤创始人汤晓鸥以AI数字人的方式出现在商汤线上年会,商汤技术团队征得家属同意,使用商汤如影技术高度还原了汤晓鸥的神态等细节。AI技术“复活”,成为亲人朋友追思逝者的新方式。但随着越来越多AI“复活”明星的视频出现在视频平台,引起的争论开始发酵。在一些视频平台上,已逝明星在AI视频中表达着他们的“想法”。AI高以翔称“听说我离开的这段时间里,有人开始健身,有人学会了做饭……我不在你们身边,但我一直在另一个世界陪伴着你们”。AI姚贝娜称“我去的地方还是能尽情歌唱”。AI科比用英语表示“很高兴以这样的方式再次和你们相见”。视频平台上AI“复活”明星的视频相比汤晓鸥演讲视频的高还原度,这些AI明星视频在细节处显得粗糙,脸部表情、嘴巴和眼睛的动作有不流畅之处,但若不仔细看,仍像是真人在说话。评论区中,有粉丝希望视频制作者能继续发布其喜欢的明星的AI视频,也有人认为AI视频应由逝者家属发布更合适。发布AI“复活”明星的视频,是短视频平台上这些制作者招揽客户的一种方式,一些制作者的主页显示承接数字人制作、“复活”亲人等业务。记者以AI视频潜在购买者或合作者身份咨询了这些制作者。一名制作者表示可以制作一名已逝明星的AI视频,“只需提供已逝亲人的照片及想表达的话即可定制,30秒内89元”。AI视频制作完成后,付费购买者可以发布在视频平台上,视频制作者征求同意后也会发布在其账号上。另一名制作者表示,只要提供素材便可复活已逝明星,包括1分钟清晰讲话声音素材和正脸视频画面。生成1分钟讲话画面收费200元,后续每分钟收费20元,若除了讲话画面还需加入其他画面剪辑,每分钟需加收50元剪辑费,下单要转至电商平台。记者看到,其店铺销售AI数字人制作、AI视频制作、AI音频处理,相关产品售出30余份。此外,有AI明星视频制作者发出了价格单,显示提供逝者照片后生成1分钟内说话视频,若选择AI配音收费198元,若选择逝者声音则收费398元。除普通话外,视频还能以逝者的音色生成方言,根据声音的生成方式和还原度,收费398~598元。后续,制作团队还计划推出语音及文字实时互动聊天、实时视频通话聊天产品。AI视频制作者发来的价格表该团队还在招学徒和代理,要成为代理,需向其交980元,由该团队提供视频并制作,代理在外接单,该团队向代理的报价是价格表的6折,差价是代理的收益。该制作者称,学徒的收费更高,但并未透露收费价格。目前已有多种AI工具可用于制作AI数字人。此前,有B站UP主制作了已逝亲人的AI视频,并介绍了AI“复活”的过程。包括将照片上传至Midjourney并优化、录音导入音频编辑软件并切割成短音频、将语音上传到百度飞桨AI Studio语音合成项目训练模型、输入文本尝试语音合成、将合成的语音包下载到本地。还可以让ChatGPT角色扮演进行对话,再用D-ID数字人AI视频平台网站,上传头像生成模型、上传文字和音频,进行合成。普通人要使用AI工具制作视频,收费门槛不算太高。其中,记者从AI视频创作者了解到,Midjourney fast快速出图模式每月时长15小时,收费约300元,在非专业影视制作者使用且非大量出图的情况下基本够用。D-ID试用前两周免费,按年收费不同模式下价格为56~1293美元。电商平台9.9元可“合成”明星要合成明星视频,还有一种“自己动手”收费更低的方式。在淘宝上,“9.9元生成杨幂”已不是梦。3月17日,记者查看淘宝发现,搜索“AI女明星”等关键词,一些女明星的形象正被制作成人物模型素材包,以方便购买者实现AI换脸女明星。这些“免训练、可直接合成”的女明星“万能模型”售价几乎都在8元-25元以下,消费者下单后,后台立刻发货。记者尝试拍下了一件标价为9元的杨幂万能模型,后台立刻自动回复了一个网盘链接,网盘中有一个可供下载的压缩文件,包含1.4G的杨幂相关素材,商家表示,通过DeepFaceLab软件,配合该杨幂模型,用户可以将导入的视频中的人全部换成杨幂。同时,记者还注意到了一件名为“SRC高质量稀有明星人脸素材”的商品标价23.8元,涉及唐嫣、杨紫、倪妮等众多明星,商品详情页面显示,该人物模型合集包括10万张明星图片,包含众多影片截图、剧照等。电商平台上的明星人脸素材商品介绍DeepFaceLab是一款用于AI换脸的开源软件。而对于难以自行下载或对官方版本存在使用困难的用户,淘宝商家还推出了DeepFaceLab的新版本,表示“全部汉化,修复了很多BUG,新增很多功能,可以查看角度”,售价为10元。“生成女明星”似乎正在变成一件低成本、低门槛的事,但实际上,许多风险暗藏其中。记者注意到,该类产品几乎都不支持7天无理由退货,且均在详情页面或自动回复中表示产品为虚拟产品,一经发货、概不退换,这也意味着,若消费者购买的产品与预期不符或“换脸”效果不佳时,可能存在维权困难。私下向视频制作者付费而不通过平台,以制作喜爱明星或已逝亲人的AI视频,也有一定潜在风险。一名视频制作者表示,下单方式是直接向其支付宝转账,但其对于私下交易是否安全的问题并未回应。另一名视频制作者表示,直接下单或要成为代理需私下加其社交账号沟通,关于私下交易的安全性,该制作者则称可用人格担保。记者从律师了解到,不论是生成已逝明星AI视频并发布在视频平台,还是在电商平台上销售明星模型,都可能是违法违规的行为。广东国鼎律师事务所律师廖建勋告诉记者,未经去世明星家属同意发布AI“复活”视频甚至用于商业牟利是侵权行为,侵犯了肖像权。据《民法典》规定,死者姓名、肖像等受到侵害,亲属有权请求行为人承担民事责任,要求消除不良影响、支付精神损害抚慰金等,且可要求平台删除侵权视频。相对粉丝制作视频不用于商业牟利,商业牟利者需承担的责任更重。河南泽槿律师事务所主任付建则提醒,由于商家售卖的明星模型是在没有授权的情况下提供给消费者使用,可能会侵犯明星的肖像权、名誉权或者隐私权。这些商品还可能为不法分子实施违法犯罪提供便利,造成不良社会影响。付建认为,消费者在购买这些服务时,应该注意是否违反法律法规的规定,是否侵犯他人合法权益,是否在法律所允许的范围内进行使用服务。例如,当消费者在未经允许的情况下擅自生成他人的AI视频,并在互联网传播时,便有可能侵犯他人的肖像权和名誉权。根据《民法典》的规定,被侵权人可以... PC版: 手机版:

相关推荐

封面图片

AI“复活”逝世明星成引流手段,背后成本不足百元,律师:或构成违法行为

封面图片

李玟母亲委托律师声明:“AI复活”给家人带来二次伤害 要求7日内下架

李玟母亲委托律师声明:“AI复活”给家人带来二次伤害 要求7日内下架 据广东梦海律师事务所网站,该所接受李玟母亲的委托,指派何栋民律师、胡可言律师、杨帆律师就部分网络用户制作、传播“AI复活李玟”相关短视频发布本律师声明。具体内容如下:根据已掌握的证据资料显示,近期部分网络用户未经李玟女士近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,以温情之名非法牟利,借机售卖AI服务、恶意转评引流推广个人业务。此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰,同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。根据《中华人民共和国民法典》等相关法律规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。基于以上情况,广东梦海律师事务所接受李玟母亲的委托,声明如下:1、严正警告涉嫌侵权责任人,于本声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为;2、本所已受托对涉嫌侵权行为持续取证,并将根据具体情况对相关侵权人采取民事诉讼、刑事报案等法律手段,追究涉嫌侵权人的法律责任;3、相关网络平台作为网络服务提供者,应当积极履行监管义务,及时屏蔽、删除有关侵权内容,防止损害后果进一步扩大;4、互联网并非法外之地,网络用户在享受互联网便利的同时,应严守法律底线,尊重他人合法权益。委托人再次呼吁广大网络用户及喜爱李玟的粉丝朋友们理性消费,切勿被不良商家混淆视听。希望每一位爱李玟的朋友们都能同她的家人一样,接受离别、不打扰她的安宁,同时对逝者家人的尊重和保护,也是对逝者最好的追忆。近日,有网友用AI生成视频和声音“复活”李玟,相关话题引发网友关注。网友们议论纷纷,态度不一。有媒体调查显示,不少人觉得这是对逝者的不尊重,面临诸多法律风险。据报道,近年来,人工智能技术发展迅速,生成式AI兴起以来,“AI复活亲人”已成产业链,甚至每个人都可以实现“数字永生”。法治日报此前发文称,有专业律师表示,法律除保护生者的人格权外,对死者的人格权益亦加以保护。对此,民法典第九百九十四条明确规定了死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。故未经逝者亲属等同意的情况下,用AI“复活”李玟等行为涉嫌侵权,逝者配偶、子女、父母有权依法请求行为人承担民事责任;若逝者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。律师介绍,打着温情的名义,趁机推广制作收费AI“复活”视频的行为,实质是属于利用逝去明星的强大社会影响力给自己引流,并借机推广其业务的行为,该行为很大可能涉嫌侵权,需要承担侵权民事责任,严重者可能还会涉嫌刑事责任。 ... PC版: 手机版:

封面图片

只需几十元用AI“复活”亲人 是慰藉还是自欺欺人?

只需几十元用AI“复活”亲人 是慰藉还是自欺欺人? 与此同时,在商汤2024年年会上,商汤科技创始人,刚去世不久的汤晓鸥以数字人的形式现身,还来了一场演讲。并且,汤晓鸥数字人的演讲风格,与汤晓鸥生前的演讲风格非常像。事实上,不论是包小柏的女儿还是数字人汤晓鸥,他们都并非是首个被AI“复活”的人。自生成式AI技术兴起以来,一直都有人在探索用AI“复活”逝去的人。不仅如此,用AI来“复活”逝去的人,已经发展成了一门生意。90后小伙一年做了600多单多家媒体曾报道过,来自江苏的90后小伙张泽伟利用AI帮助600多个家庭“复活”亲人的事。只要拥有逝者生前的视频、音频数据,张泽伟团队就可以用AI技术让逝者再现于亲人眼前。据悉,张泽伟团队的主要业务有两个,分别是“数字遗照”和“AI治愈”。“数字遗照”是收集逝者的形象、声音等数据,然后用AI技术制作出虚拟的数字人形象,可以拥有简单的动作和表情,也可以进行一些简单的对话。“AI治愈”则是用AI技术给真人换上逝者的形象和声音,让其扮演逝者与人交流,可以在线上实时互动。此外,张泽伟团队还在探索一种“3D超写实仿生数字人”,就是让数字人以3D全息的方式呈现出来,用立体形象与别人进行互动。据了解,从2022年开始,张泽伟就做起了这门生意。因需求火爆,他在一年内完成600多个订单,平均一单几千到1万元不等。其中,有年轻人希望拥有偶像的数字分身,也有母亲找他“复活”癌症去世的孩子。而张泽伟在做了600多单后,又提出了关于“数字永生”的设想:无论生者还是逝者,每个人都可以用AI创造一个“数字分身”,用这种形式留存在亲人身边。电商平台标价几元到几千有商家称可以软件自动生成有商家称需要AI训练一些电商平台上,也有不少在做AI“复活”生意的商家。在某电商平台,这些AI“复活”的商品,标价从几元、几十元,到上百元,乃至数千元的都有。笔者咨询了几位商家,其中一位商家的店铺中共有三个商品,分别是创意AI修复亲人复活照相、AI配音仿真模拟定制专属、AI代唱翻唱歌手声音克隆。三款商品标价均为10元。其中,销量最多的是“创意AI修复亲人复活照相”,销量为21。但笔者跟该商家沟通时对方表示,他的商品是根据照片难易程度定价的,没有10元的。当笔者想要咨询更多信息时,却被对方给拉黑了。另一位商家的店铺里商品比较多,标价基本都是几十块。这些商品的销量有的为几十,也有100多和200多的。笔者从标价40元的商品点击联系客服后,对话框里弹出一个40元-8888元的链接。该商家表示,具体价格要根据照片和要求来定,前提是不做人脸识别,不做违法的,只做怀念。如果只是让照片动起来,只需要提供正面照片就可以,成片是13秒。如果想要让照片说话,需要提供正面照片与配音,价格是根据视频时长来。如果没有配音,则提供文字内容,商家给配普通话。至于可以实时互动的那种,该商家表示自己做不了。该商家还表示,可以出售教程,售价1500元。可以用软件自动生成,也可以手动做。还有一位商家的店铺中有两个产品,分别是“AI复活亲人”和“明星AI祝福视频”,标价均为10元,销量均为个位数。该商家提供的价目表显示,其部分商品可以实现实时互动。具体内容和价格,如下图:该商家表示,要实现实时互动是需要用AI训练的,不是一个软件就能做到的。除此之外,还有一些店铺的商品比较简单,只是单纯的让照片动起来。有商品页面显示,其销量已超过1000。不过,有很多买家评论称,该产品没用,是骗人的。事实上,这种只是让照片动起来的技术已存在多年了。笔者印象中,在网贷正盛行的那几年,就有很多做贷款的中介能做到让照片动起来,来通过人脸识别。从这些商品的销量和高达数千元的售价来看,AI“复活”逝者的确是有市场的。但一直以来,AI“复活”都是一个备受争议的话题。让逝者通过AI“复活”有没有意义?这是个问题有观点认为,在生成式AI技术的加持下,和逝去的亲人“再见一面”成为可能。通过AI来实现和逝者相聚,不仅能得到一丝慰藉,还能在难过的时候和已故亲人倾诉。也有观点认为,这样的做法没有意义,人没了就是没了,自欺欺人的做法只会让自己陷入虚无,更难走出失去亲人的痛苦。也有人质疑,用逝者生前影像样本“克隆”出来的“亲人”,还是我们认识的那个人吗?其实这种AI“复活”逝者的做法,跟电影《流浪地球2》中的“数字声明”有些相似之处。在《流浪地球2》中,刘德华饰演的图恒宇因为女儿丫丫意外身故,思女心切,将女儿的精神转化成数字生命。但图桓宇的同事马兆对此持反对意见。他认为人死了就是死了,离开人类的文明没有意义。早在去年年初,三言就在《行星发动机、太空电梯、数字生命,〈流浪地球2〉中的科幻产品能实现吗?》一文中,对所谓的“数字生命”进行过分析。包括人类在内的所有“肉身”生命,都有自我意识,是具备无限可能性的,有真正意义上的随机性,而数字生命很难完全代替“意识”。如果精神、思想能够被数字化,意味着一切事情都是能够被电脑计算出来的,是否能够通过计算实现真正随机存在很大不确定性。生成式AI技术还有法律风险除了伦理上的争论之外,生成式AI技术在法律层面上也有着侵犯肖像权、AI诈骗等风险。日前,刘德华电影公司映艺娱乐还连发2条声明,提醒警惕AI语音合成骗局以及盗版网站骗演唱会订金。去年,福州一老板10分钟被骗走430万的事情也曾轰动一时。骗子就是通过AI换脸技术,佯装成受骗者的好友,对其实施诈骗。生成式AI才兴起不久,它象征了科技进步的同时,也衍生出一些灰黑产业。对于这项技术,目前既无专门的监管条例,也没有自发形成的行业标准。因此,AI“复活”这门生意的未来走向如何,还不得而知。你支持AI“复活”逝者的做法吗?欢迎留言。 ... PC版: 手机版:

封面图片

商汤用AI复活了汤晓鸥老师

商汤用AI复活了汤晓鸥老师 除了被他的幽默感染,不少人还被逼真的效果所惊艳,堪称“年会最佳彩蛋”。并由此引发大家对汤教授的怀念。汤晓鸥数字人现身商汤年会不讲企业经营,也不讲公司管理。还是老规矩,唠两句嗑。每年汤晓鸥演讲的开场都是“我们先来复习一下去年的演讲”,今年数字人也不例外。按照商汤CEO徐立的话说,这是特有的汤氏套娃演讲风格。复习之前,他被cue到“弹钢琴”,结果他说:今年没接到通知啊。到了正儿八经的复习环节,结果已经有人会抢答了。(Doge)首先他说道:自己的推荐是有一点前瞻性的。嗯,确实是这样的。比如《波西米亚狂想曲》第二年就斩获奥斯卡;还有“人类文明的起点是一根愈合的大腿骨”结果被引用到《流浪地球2》中李雪健老师拯救地球去了;最后还是聊到了他多次提及的“大兄弟”宫崎骏,重出江湖拍了部《苍鹭与少年》……他感叹像宫崎骏这样的大师创作并不容易,“人生中最重要的事就是很麻烦的”,对此他也深有体会。比如徐立每次深夜找他要聊聊的时候,他都有这样的感觉。对此他的解决方案是:既然解决不了麻烦的问题,那就要解决麻烦的人。所以索性不接他的电话。后来麻烦的人越来越多,他就直接选择关机。之后,他提及了最近上映的《热辣滚烫》、东北取材电视剧《漫长的季节》,并借着《漫长的季节》结尾桥段“火车在天地里往前开”,谈到商汤也坐着新洲楼下小火车,在AI这条路上往前开。你看要不说咱们有前瞻性呢,小火车在2021年就备好了,就等着《漫长的季节》火一把呢。谈到今年春晚最幽默的新疆人小尼,他作为东北人不服气,于是推荐了一部小品《吃面条》。并介绍了这背后的花絮,正是因为编导最后开播前确定让演员上场,才有了春节第一部小品。借此就来到了他以往多次提及“原创”这件事。不得不说,这很汤式风格。坚持原创这件事,是留给有勇气的人做的;而真正支持创新的人,是有勇气担责的。也因为这样的坚持,才有了喜剧事业蓬勃发展,才有了很多优秀的喜剧工作者。赵本山、赵丽蓉、冯巩和我。(传下去,这是四大喜剧天王)最后他谈到以前的喜剧之所以那么好看,是因为时间的沉淀才成为经典。也许前路一片迷雾,而他们只是一群选择出发,并坚信赶路的人。还是一样的引经据典,还是一样的汤式风格,这样一段不足十分钟的数字人演讲已经让人感怀。AI的高级意义。动容的同时,也着实被技术细节惊艳到了。比如中场汤老师还喝了一次水。效果这么逆天吗?其他家都是正脸,这个低头和手部动作都挺自然的。打破次元的如影数字人技术真实世界的汤晓鸥老师已经与我们告别。这一次特殊演讲的开篇,就提到让汤老师“跨越次元”的,是商汤如影数字人技术。最早在去年四月,商汤发布“日日新”大模型体系,如影(SenseAvatar)首次亮相。据了解,仅需要5分钟真人视频素材,如影就可以生成出动作声音自然、口型准确、多语种精通的数字人分身。3个月后,商汤“日日新”大模型体系全面升级,如影也进化到了2.0版本。语言方面,如影2.0打造的数字人将英语、日语、西班牙、阿拉伯语等多语种的精准度提升30%以上,而且口型和语音匹配得更加自然。生成效果方面,如影2.0支持实现影级4K高清视频的输出,成片质感再度提升。同时也带来了新玩法,用户可通过输入提示词自动生成与描述匹配的专属数字人形象,还是可以实现数字人歌唱功能的那种。当汤晓鸥数字人现身为大家表演脱口秀的那一刻,其自然逼真的表现效果让不少网友为之震惊,直呼这就是《流浪地球2》照进现实。这一场景,就如电影中,科学家图恒宇通过量子计算机“复活”了其因车祸去世的女儿:其实,类似案例如今正在更为频繁地照进现实。比如,音乐人包小柏同样依靠AI技术,“复活”了女儿。2021年包小柏的女儿因罕见疾病去世,年仅22岁。经历失去爱女的悲痛后,包小柏决心攻读博士开始钻研AI技术,期望能在虚拟世界中保存女儿的存在。经过反复探索,包小柏如愿复刻出了“数字女儿”,在包小柏妻子生日当天,“女儿”还为妈妈唱了一首生日歌,为这个家庭带来了些许慰藉。B站up主吴伍六,前段时间用AI工具生成了奶奶的虚拟数字人,也引起了不小关注。只见视频中,数字人“奶奶”讲着流利的湖北的方言与up主对话。如奶奶生前一样,嘱托其父亲“别喝酒,要节约,别打牌”:事实上,自生成式AI技术兴起以来,一直有人在探索用AI“复活”亲人这种方式来寄托思念。比如在三年前,当时最先进的对话系统,还是由GPT-3驱动。一位因未婚妻离世而备受折磨的青年约书亚,就决定用技术“复活”亡妻。根据程序设定, “她”和人类一样有着生老病死,每说一句话,寿命就减少一点。当“她”只剩20%寿命后,会开始胡言乱语。当系统寿命耗尽到0%,虚拟人的生命也走向终结。如今,随着技术发展逐渐成熟,远去之人的身影已经可以做到具象化。说话风格、语音语调、还有外在形象也都能完整地保留。这段时间,视频生成的进展如火如荼。像阿里就发布了个由音频驱动的肖像视频生成框架EMO。输入单张参考图像,以及一段音频(说话、唱歌、rap均可),就能生成表情生动的AI视频。于是就有人生成哥哥张国荣,为大家带来一首陈奕迅粤语版的《无条件》。或许之后随着技术逐渐进化,人类的思念也将有实实在在的归处。最后,没想到还能再以这种方式见到汤晓鸥教授。感念! ... PC版: 手机版:

封面图片

TikTok将自动标记人工智能生成的内容

TikTok将自动标记人工智能生成的内容 访问:Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN 该社交视频平台正在通过实施内容凭证(Content Credentials)来实现这一目标,内容凭证是内容出处和真实性联盟(C2PA)的一项技术,该联盟由微软和 Adobe 共同创立。内容凭证将特定的元数据附加到内容上,TikTok 可以利用这些元数据即时识别和标记人工智能生成的内容。因此,TikTok 将开始自动标注上传到平台并附加内容证书的人工智能生成内容。这一变更将于本周四推出,并将在未来几周内适用于全球所有用户。虽然 TikTok 已经对使用 TikTok AI 特效制作的 内容进行了标注,但现在它也将对在其他已实施内容证书的平台上制作的内容进行标注,如 OpenAI 的 DALL-E 3 和微软的必应图像创建器。 微软、Adobe 和 OpenAI 已经开始使用内容证书,Google也承诺支持内容证书。尽管 TikTok 已经要求创作者在发布使用人工智能创建或增强的内容时进行披露,但该公司表示,新的变化是确保人工智能生成的内容被标注的另一种方式,同时也减轻了创作者的压力。在未来几个月中,TikTok 还将开始为平台上使用 TikTok 人工智能特效创建的人工智能生成内容附加内容证书。内容证书元数据将包括人工智能生成内容的制作或编辑地点和方式的详细信息,下载后仍将附加在内容上。采用内容凭证的其他平台将能自动将内容标记为人工智能生成的内容。因此,虽然 TikTok 承诺在自己的服务中标注人工智能内容,但它也在努力帮助确保在 TikTok 中制作的人工智能内容在发布到其他平台时也能准确标注。TikTok 运营及信任与安全主管 Adam Presser 在一份新闻稿中表示:"人工智能生成的内容是一个令人难以置信的创意出口,但对观众而言,透明度至关重要。通过与同行合作跨平台标注内容,我们让创作者更容易负责任地探索人工智能生成的内容,同时继续阻止 TikTok 上禁止的有害或误导性 AIGC。"TikTok 宣称自己是第一个采用内容凭证技术的视频分享平台。值得一提的是,Meta早在今年二月就宣布,计划在 C2PA 的解决方案基础上为内容添加出处。作为周四公告的一部分,TikTok 表示将致力于打击在选举中使用欺骗性人工智能的行为,其政策坚决禁止人工智能生成的有害误导性内容无论是否贴有标签。 ... PC版: 手机版:

封面图片

消失十年的舒马赫 给AI造假定了“起步价”

消失十年的舒马赫 给AI造假定了“起步价” 事出一年前。2023年4月15日,《Die Aktuelle》刊登了一张舒马赫微笑的照片,并在旁边配上“Welt-Sensation”“Michael Schumacher Das erste Interview”两个放大的标题,翻译成中文就是“轰动世界”、“迈克尔·舒马赫的首次采访”,以吸引读者的眼球。舒马赫于2013年底在一次滑雪事故中头部受重伤,几乎丧命,自此再未在公众场合露面。十多年间,有关他的健康状况及隐私都被家人严格保密,且一直保护得很好。在舒马赫16年的F1职业生涯中,他总共拿下91场比赛的胜利,并7次获得年度车手总冠军,被业界和车迷冠以“车王”称号。即便从公众视野消失十多年,但他在F1车迷和来自世界各地粉丝心中的分量不减分毫,自舒马赫受伤以来,他的粉丝通过后援会、社交媒体、线下活动等多种途径和方式表达对“车王”的支持。▲德国科朋迈克尔-舒马赫赛车中心,车王的支持者在围栏上挂满了帽子和T恤表达支持在X平台上,舒马赫的专属标签#KeepFightingMichael#至今每天都有诸多参与者。不过,除了向外界展现舒马赫在当下仍具备世界级的影响力和号召力的同时,也让其仍然可以成为一个顶级流量来源,是传统媒体和社交平台们都趋之若鹜的潜在话题。全民社交时代,流量即利益,这也是《Die Aktuelle》制造“AI舒马赫”的推手。近年来以AI形式扮演名人制造“对话”案例实际上并不少。但这篇有关报道最为人诟病的是,它极其误导性地暗示了舒马赫披露的是关于全世界最关注的有关他身体健康的细节,文中引用了“舒马赫”的话,还讨论了他在滑雪事故后的身体状况以及近十年来的生活。人们也很快发现《Die Aktuelle》的这篇报道是利用人工智能伪造的,虽然该杂志事前为自己留了两手:一是在杂志封面的最下方用小了好几号的字体写着,“Es klingt täuchend echt(这听起来让人难以置信)”;二是在文章末尾承认采访中的舒马赫“引语”全是由人工智能生成的。但该事件一出,全世界舆论哗然。外界最大的批评正是认为该杂志严重侵犯了病人的隐私、突破了人类道德底线和新闻伦理标准。舒马赫家人在新闻出来6天后发表公开声明,“计划对Funke旗下的这家杂志采取法律行动。”Funke媒体集团在舒马赫家人称要对其提起法律诉讼后做出回应,“《Die Aktuelle》杂志总编即日起被解雇,”后者从2009年以来一直任该杂志总编,此外在道歉声明中,Funke解释称,“这一既没品位、又具误导性的文章本应不该出现,它绝对不符合我们及读者对Funke这样的出版商所期待的新闻标准。”《Die Aktuell》杂志向来专报德国名流花边新闻,与舒马赫家族渊源颇深。早在2014年,即车王受伤的第二年,该杂志还刊登了一张舒马赫和妻子的照片,标题是“醒来”,2015年还捏造过舒马赫妻子的“私生活”。“Funke媒体集团向舒马赫家人赔偿20万欧元”这一结果不仅是舒马赫及家人的胜利,也是新闻领域的重要时刻,这应该是法律层面第一次对新闻行业滥用生成式AI表明了立场,也是法律上首次给借AI捏造违反新闻伦理和人类道德的造假行为做了一次“定价”。这次判决再次引发了全世界对AI捏造新闻报道的反思。自2022年底,ChatGPT的走红引爆了全球对生成式AI技术的应用和投资浪潮,生成式AI技术在不同场景中被不断解锁。虽然为人们的衣食住行,以及体育、娱乐等内容生产带来诸多便利,但其中暗藏的利益空间也对人类道德、伦理底线提出了挑战。人工智能的普及,生成式AI技术的飞速发展给造假和伪造提供了肥沃的土壤,“每当有新技术出现时,人类都希望将其推向极限”,The Ohio State University传播学副教授Nicole Kraft对AI的快速发展忧心道。轰动全球的AI“造假”事件早已有之,其中一些事件引发的恐慌和导致的结果比“造假”舒马赫更甚:2017年以来,借AI算法制造假新闻频繁发生在政界以及选举中。2019年,据韩国MBC报道,一款名为“Lee Luda”的AI语音软件可以模仿任何人的声音,甚至可以让他们说出未曾说过的话,此新闻一出,引起全球对此类技术是否会导致虚假和误导性信息传播的激烈讨论。2022年,Podcast.ai利用生成式人工智能技术,通过Play.ht的语言模型大量训练,模拟出了已故的乔布斯,并做成了一期20分钟时长的播客节目,音频中,主持人与“复活”的乔布斯探讨了对计算机、个人信仰以及AI等多个话题。外界对“复活”已故科技人士的做法的看法多是“毛骨悚然”,不少网友在社交平台表示,“说到底这是利用AI在全世界面前的一次公开造假。”2023年11月,ESPN用AI给密尔沃基雄鹿队的利拉德玩“换装”,身穿雄鹿队球衣在接受采访的他,原视频却是此前在效力开拓者队时的采访,ESPN用AI移花接木,在利拉德声音上做了处理上,制作了与原始声音源吻合的口型,“又是一次公开造假”。在中文社交网络上,外界对生成式AI也有批评声,一个重要起因正是由于一些个人或团体借生成式AI技术做起了去世之人的生意。网友用AI生成视频和声音“复活”了CoCo李玟、张国荣、乔任梁、高以翔等已故公众人物,制作者称去世公众人物的虚拟视频不做商用,但在视频下方评论区类似“咨询制作逝者视频怎么收费”评论不断,制作者更是给出了明码标价,借AI“造假”引流和卖产品的行径引发舆论哗然和外界质疑。目前,CoCo李玟的家人已采取了与舒马赫家人相同的做法,为保护个人权利,对这类滥用AI技术的“牟利”行为提起了法律诉讼。不少网友对此表示,“打着温情和怀念故人的幌子,说到底还是生意”,其中潜在的风险不言而喻。“造假”舒马赫在法律上有了结果,给后续想要再借AI和生成式技术做突破人类道德底线和新闻伦理行径的人发出了警告,即便利益在前,他们也必须更加谨慎行事,在AI造假史上极具里程碑意义。但在新技术的发展演进过程中,不同国家和地区制定并完善相关监管政策和法律法规的速度不一,惩处标准也不一。所以国内对类似“造假”舒马赫事件在法律层面会给出一个怎样的判罚结果,目前还不得而知。国家网信办等七部门去年联合发布了《生成式人工智能服务管理暂行办法》,以促进生成式AI健康发展和规范应用,算是国内对生成式AI的首个监管文件。每逢新技术的出现和发展,对人类都是机遇但也是挑战。在拥抱未来的时候,如何辅以严格监管和出台对应的法律法规,以使其中的风险真正转化为可能的机会,想必将会萦绕在接下来很长一段时间的AI狂潮中。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人