新的数据污染工具让艺术家有了防止自己作品被用于AI训练的能力

新的数据污染工具让艺术家有了防止自己作品被用于AI训练的能力 一种新工具可以让艺术家在将作品上传到网上之前对其艺术作品中的像素添加不可见的更改,这样,如果它被用于构建AI训练数据集,可能会导致生成的模型以混乱且不可预测的方式崩溃。 该工具名为 Nightshade,旨在反击人工智能公司在未经创作者许可的情况下使用艺术家的作品来训练模型的行为。使用它来“毒害”这些训练数据可能会损害图像生成人工智能模型的未来迭代,例如 DALL-E、Midjourney 和 Stable Diffusion,因为它们的一些输出变得无用狗变成了猫,汽车变成了牛等等。《麻省理工科技评论》独家预览了该研究,该研究已提交计算机安全会议 Usenix 进行同行评审。 OpenAI、Meta、Google 和 Stability AI 等人工智能公司面临着来自艺术家的一系列诉讼,这些艺术家声称他们的受版权保护的材料和个人信息在未经同意或补偿的情况下被窃取。

相关推荐

封面图片

担忧生计被剥夺 上万名艺术家对AI公司发起集体诉讼

担忧生计被剥夺 上万名艺术家对AI公司发起集体诉讼 近日,1.6万名英国艺术家联名,计划对生成式AI软件Midjourney和其他人工智能公司发起集体诉讼。一场持久战预计将在艺术家和AI公司之间打响。英国创意产业的规模超过千亿英镑。这些艺术家当中包括布里奇特·莱利(Bridget Riley)、达米恩·赫斯特(Damien Hirst)、雷切尔·怀特雷德(Rachel Whiteread)、特蕾西·艾敏(Tracey Emin)、大卫·霍克尼(David Hockney)和安尼什·卡普尔(Anish Kapoor)等知名人士,他们指责Midjourney、Stability AI等公司曾用他们的作品来训练人工智能。科技公司必须在2月8日之前对这一指控作出回应。“人工智能图像生成产品实际为清洗版权的工具,这些AI公司向人们兜售艺术的好处,却不需要支付艺术家的成本。”这些艺术家在联名起诉中写道。他们认为,Midjourney等工具在艺术家本人不知情的情况下,使用他们的作品对大模型进行训练,并生成与艺术家的原始作品非常相似的图像,这相当于“抄袭”。AI生成艺术品几乎无需成本输入几个关键词,再选择风格与视角,AI就能自动生成美轮美奂的画作。近年来,随着AI绘画走红,各大互联网公司纷纷推出自己的AI绘画大模型。生成式AI的出现一大好处是能够将原本高昂的艺术品价格降到几乎不需要成本。以知名摄影师蒂姆·弗拉赫(Tim Flach)的风格化动物肖像为例,他的摄影项目耗资往往在数万美元,但人工智能生成器可以在几秒钟内生成风格相似的照片。要训练这样的大模型,需要收集大量的图像数据作为训练材料,供机器深度学习。而在这一过程中,AI公司“投喂”给大模型的图像资料是否获得原作者授权备受争议,其中也可能涉及著作权侵权问题。在弗拉赫看来,如果AI采用艺术家的风格,那么实际上就是在剥夺艺术家们的“生计”。此前,著名图片公司Getty Images已经开始对Stability AI发起挑战,称其侵犯了Getty Images的版权。根据英国设计与艺术家版权协会(DACS)针对1000名艺术家和经纪人进行的一项调查,近九成(89%)的艺术家希望政府通过监管生成式人工智能来保护他们在创意产业中的地位,并且已经有超过20%(22%)的艺术家发现他们的作品被用来训练人工智能。在国内,生成式AI版权问题也引发关注。去年12月,小红书的AI大模型被绘画师起诉侵权。四位绘画创作者将社交平台小红书的主体公司及小红书Trik软件主体公司诉至法院,理由是Trik未经授权使用了画师的原创作品作为训练数据,从而生成了与原作高度相似的图片,侵犯了创作者的合法权益。这也是AI大模型在中国首次站上被告席。这一案件的核心争议同样在于,小红书旗下的AI绘画产品Trik是否未经授权使用了画师的原创作品作为训练数据,从而生成了与原作高度相似的图片。艺术家举证维权难在哪?相关律师表示,生成式AI大模型未经授权使用画师作品的行为是否构成侵权,目前在司法实践中尚无定论,现行知识产权保护相关法律制定时还没有AI的存在,同时,艺术家在举证维权方面也面临挑战。上海大邦律师事务所高级合伙人游云庭对第一财经记者表示:“艺术家起诉生成式人工智能,通常有两个方面,第一方面是用他们的内容进行了训练,第二方面是人工智能生成的作品和艺术家的作品,具有高度的相似性或者相同。”他认为,这两个问题的核心都是艺术家需要用提示词向人工智能提问,促使人工智能输出具有艺术家作品特征的作品文件,以此来证明人工智能使用了艺术家的作品进行训练。“事实上如果人工智能真的使用了艺术家的作品进行训练,如果多次使用提示词,进行不断推演,艺术家是有可能证明人工智能使用了其作品进行训练的。”游云庭表示。他还称,目前的著作权法上的规则是在没有人工智能时代确立的。而就人工智能的训练素材是否需要经过版权人许可,在这个问题上各国的法律也都有不同的规定。比如OpenAI发布的博客中就提出,日本、新加坡、欧盟、以色列的法律就规定,使用版权素材训练人工智能构成合理使用。在这种情况下,艺术家只有证明人工智能输出的文件和艺术家的作品相同或者相似,才能证明侵权。游云庭认为,这在法律上难度就比较高,对艺术家来说,举证成本高,维权也会比较困难。也有相关律师告诉第一财经记者,人工智能飞速发展的时代,各国都有必要起草相应的法规来保护创作者的权益,否则就会变成新兴的产业借助了艺术家的作品进行训练,却抢走了他们的饭碗,对艺术家这个职业而言很不公平。游云庭提出,制定知识产权保护法规的难点在于如何平衡原有版权人的利益以及保护新生事物。“近期全球范围的一系列诉讼就会变得非常关键,通过立法阶段的博弈,在全球范围内都达成一个共识之后,国内也会逐渐确立相应的立法内容。”游云庭对第一财经记者表示。 ... PC版: 手机版:

封面图片

Adobe推出自家的 AI 图像生成器,并表示它没有窃取艺术家的作品

Adobe推出自家的 AI 图像生成器,并表示它没有窃取艺术家的作品 Adobe终于推出了自己的人工智能图像生成器。该公司今天宣布了一个名为 Adobe Firefly 的“创造性生成人工智能模型家族”,并发布了前两个利用这些模型的工具。其中一个工具就像DALL-E或Midjourney一样,允许用户输入提示,并创建一张图像作为回应。另一个生成程式化的文本,有点像人工智能驱动的WordArt。 标签: #Adobe #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

爱笔思画推出 AI 干扰工具 让机器更难复制您的作品

爱笔思画推出 AI 干扰工具 让机器更难复制您的作品 保护艺术家的作品不被未经他们同意的情况下用于人工智能训练的斗争仍在继续。最新的反击来自「爱笔思画 (IbisPaint)」,该公司宣布了一款人工智能干扰工具,可干扰人工智能图像生成。该功能将噪声应用于插图,从而阻止人工智能正确解释或复制艺术作品。当用户在爱笔思画中打开人工智能干扰时,他们创建的图像看起来几乎更有颗粒感。但是,艺术家可以确定他们想要的人工智能干扰程度并进行相应的调整。爱笔思画在其公告中显示,噪声强度越高,人工智能创建的图像与原始图像的相似度就越低。 、

封面图片

ℹAI 人工智能 vs. 艺术家的归属之争,韩国漫画家将作品作为素材交给 AI 再创作#

ℹAI 人工智能 vs. 艺术家的归属之争,韩国漫画家将作品作为素材交给 AI 再创作# 韩国漫画家李贤世 이현세(中文名字为音译) 的作品「孤独喜鹊」( 떠돌이 까치 )作为  AI 人工智慧的素材进行训练学习,让 AI 以自...

封面图片

数百名顶级音乐家发公开信要求不要用AI取代人类艺术家

数百名顶级音乐家发公开信要求不要用AI取代人类艺术家 在人工智能时代,这是音乐行业集体为艺人代言所采取的最强硬立场之一。字里行间与其他创作者围绕人工智能所做的宣传不同,这封信专门针对科技公司对音乐艺术家的担忧,如复制艺术家的声音、无偿使用他们的作品来训练人工智能模型,以及稀释支付给艺术家的版税。艺术家权利联盟(ARA)是代表签署这封信的艺术家的行业组织,其执行董事珍-雅各布森(Jen Jacobsen)对 Axios 说:"我们在这里考虑的不是立法。我们呼吁我们的技术和数字合作伙伴与我们合作,使这成为一个负责任的市场,并保持音乐的质量,而不是取代人类艺术家。"这封信由 ARA 内部数十位知名音乐人撰写,特别呼吁科技公司和人工智能开发商停止 "掠夺性地使用人工智能窃取专业艺术家的声音和肖像,侵犯创作者的权利,破坏音乐生态系统"。包括Elvis Costello、诺拉-琼斯、妮姬-米娜、卡米拉-卡贝罗、凯西-马斯格雷夫斯、乔恩-巴蒂斯特、Ja Rule、杰森-伊斯贝尔、Pearl Jam、山姆-史密斯等数十位各音乐流派的音乐家。信中写道:"我们呼吁所有人工智能开发商、技术公司、平台和数字音乐服务承诺,他们不会开发或部署有损或取代词曲作者和艺术家的人类艺术创作,或剥夺我们的公平报酬的人工智能音乐生成技术、内容或工具。"信中还承认,人工智能在负责任地使用时,有一些方法可以促进人类的创造力。但该信认为,一些平台和人工智能开发商正在广泛地使用这项技术,"破坏创造力,损害艺术家、词曲作者、音乐家和权利人的利益"。音乐产业开始支持保护其作品免受人工智能版权问题影响的法案,但这些努力主要针对立法者。今年早些时候,数百名艺术家签署了人类艺术运动(Human Artistry Campaign)的一封信,敦促国会签署《禁止人工智能欺诈法案》(The No AI FRAUD Act),这是一项旨在防止人工智能生成假货和伪造品的更广泛的法案。许多艺术家提交了个人证词,支持田纳西州的《猫王法案》,该法案是田纳西州第一个针对人工智能为居民提供声音、形象和肖像保护的法案。代表大型唱片公司的美国唱片业协会(RIAA)也支持该法案。 ... PC版: 手机版:

封面图片

艺术家批评苹果公司在Apple Intelligence数据方面缺乏透明度

艺术家批评苹果公司在Apple Intelligence数据方面缺乏透明度 由于 Apple Intelligence 要到今年晚些时候才会公开亮相,因此到目前为止,我们还没有对该功能进行过公正的评估。我们只看到了苹果在 WWDC 上向我们展示的内容,这并不是一个公正的评估。与其他公司一样,苹果只会展示它所能提供的最好的东西。它可以稍后再讨论细节问题。然而,随着商业人工智能的快速发展,这还远远不够。该公司本可以轻而易举地发布一些信息或常见问题解答页面,说明它是如何训练其人工智能生成模型的,但迄今为止,它仍像正式宣布其人工智能技术之前一样保持沉默。该公司在这个问题上的唯一报道是,它和其他人一样,使用一种被称为 AppleBot 的工具来收集数据,这种工具应该对隐私更加友好。然而,关注隐私和关注知识产权是两码事。现在,苹果公司一些最热情的支持者指责苹果公司在Apple Intelligence数据收集的方式和内容上缺乏透明度。视频游戏艺术家和创作者权利活动家乔恩-林(Jon Lam)说:"我希望苹果能以更加透明的方式向公众解释他们是如何收集培训数据的。我认为他们的声明来得太不是时候了"。人们会认为,随着苹果公司在人工智能领域的缓慢发展,它应该已经意识到,为生成模型训练而收集信息的环境已经并将继续寒冷。据统计,已经有十多位艺术家对人工智能开发商未经许可或付费使用其作品提起了知识产权侵权诉讼。从《纽约时报》和环球公司等业界知名企业到最不起眼的独立艺术家,都曾对人工智能提供商提起过侵权诉讼。"这就是为什么我想给他们一点好处,"林说。"我以为他们会以不同的方式对待道德问题"。考虑到苹果公司对隐私的态度,以及苹果长期以来将自己定位为艺术家的最佳工具,这更是一种公关违规行为。该公司为其高端制作平台收取高额费用,数以百万计的创意用户对其信誓旦旦。肆无忌惮地收集数据玷污其声誉是苹果公司最不愿意看到的。苹果公司负责机器学习和人工智能战略的高级副总裁约翰-吉安南德雷亚(John Giannandrea)淡化了公司的样本收集工作,称苹果公司主要通过内部数据训练模型。不过,Giannandrea 并没有透露具体细节,比如"大部分"是多少,以及苹果从哪里获得了其余的训练样本。苹果公司已与 Shutterstock 和 Photobucket 等大型图片数据库达成许可协议,但该公司并未公开证实这些报道。维持现状从来都不是苹果公司的业务支柱。虽然这家库大公司尚未对负面反馈发表评论,但如果它在今年秋季推出 Apple Intelligence 之前不解决这个问题,那才是令人惊讶的。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人