艺术家使用图像投毒工具反击生成式人工智能

艺术家使用图像投毒工具反击生成式人工智能一种名为“Nightshade”的新工具可以让艺术家们在将作品上传到网络之前，对作品中的像素点进行不可见的修改，这样一来，如果作品被抓取到人工智能训练集中，就会导致生成的模型以混乱和不可预测的方式崩溃，使它们的一些输出结果变得毫无用处，比如狗变成猫，汽车变成牛等等。开发此工具的团队还开发了一个名为“Glaze”的工具，允许艺术家“屏蔽”自己的个人风格，过微妙的方式改变图像的像素，这种改变人眼看不见，但却能操纵机器学习模型，将图像解释为与实际显示不同的东西。来源，频道：@kejiqu群组：@kejiquchat

Nightshade用向图像“投毒”的方法以阻止AI训练并帮助保护艺术家

Nightshade用向图像“投毒”的方法以阻止AI训练并帮助保护艺术家《麻省理工科技评论》重点介绍了由芝加哥大学研究人员创建的名为Nightshade的新工具。它的工作原理是在上传图像之前对图像像素进行非常小的更改，这些更改是肉眼无法看到的。这会毒害DALL-E、StableDiffusion和Midjourney等工具使用的训练数据，导致模型以不可预测的方式崩溃。生成式人工智能如何错误地解释被茄属植物毒害的图像的一些例子包括将狗变成猫，将汽车变成牛，将帽子变成蛋糕，将手提包变成烤面包机。它也适用于提示不同的艺术风格：立体派变成动漫，卡通变成印象派，概念艺术变成抽象派。研究人员最近在arXiv上发表的论文将Nightshade描述为一种特定提示的中毒攻击。Nightshade不需要毒害数百万张图像，而是可以用大约50个样本破坏稳定扩散提示，如下图所示。研究人员写道，该工具不仅可以毒害“狗”等特定提示术语，还可以“渗透”到“小狗”、“猎犬”和“哈士奇”等相关概念。它甚至会影响间接相关的图像；例如，中毒“幻想艺术”会将“一条龙”、“指环王中的一座城堡”和“迈克尔·惠兰的一幅画”的提示变成不同的东西。领导了Nightshade创建团队的芝加哥大学教授赵本表示，他希望该工具能够对不尊重艺术家版权和知识产权的人工智能公司起到威慑作用。他承认存在恶意使用的可能性，但要对更大、更强大的模型造成真正的损害，攻击者需要毒害数千张图像，因为这些系统是在数十亿数据样本上进行训练的。生成式人工智能模型训练者还可以使用针对这种做法的防御措施，例如过滤高损失数据、频率分析和其他检测/删除方法，但赵本说它们不是很稳健。一些大型人工智能公司让艺术家可以选择不将他们的作品用于人工智能训练数据集，但这可能是一个艰巨的过程，并且无法解决任何可能已经被废弃的作品。许多人认为艺术家应该可以选择加入而不是必须选择退出。...PC版：https://www.cnbeta.com.tw/articles/soft/1392263.htm手机版：https://m.cnbeta.com.tw/view/1392263.htm

三家AI公司要求美国法院驳回版权诉讼：AI生成图像与艺术家作品不相似

三家AI公司要求美国法院驳回版权诉讼：AI生成图像与艺术家作品不相似这些公司要求美国旧金山联邦法院驳回艺术家提起的集体诉讼。这些企业认为，人工智能生成的图像与艺术家的作品不相似，而且该诉讼没有指出涉嫌侵犯版权的具体图像。对此，Midjourney的一名律师拒绝置评。Stability、DeviantArt和艺术家的代表均没有立即回应置评请求。今年1月，SarahAndersen，KellyMcKernan和KarlaOrtiz三人起诉了这些公司。这些艺术家称，这些公司未经授权就复制他们的作品来训练系统，并以他们的风格创建人工智能生成的图像，这些行为侵犯了他们的权利。Stability在提交的文件中表示，这些艺术家“未能确认涉嫌侵权的任何一张输出图像，更不用说与他们受版权保护的任何作品本质上相似的图像了。”Midjourney提交的文件称，该诉讼也没有“确定任何原告的任何一部作品”“可能被用作训练数据”。DeviantArt允许用户通过Stability的StableDiffusion系统创作图像。该公司也回应了这些观点，并表示该公司对人工智能公司所谓的不当行为不承担责任。“即使从表面上看原告的主张，DeviantArt也没有做过任何可能引起原告主张的责任的事情，”该公司说。...PC版：https://www.cnbeta.com.tw/articles/soft/1355793.htm手机版：https://m.cnbeta.com.tw/view/1355793.htm

爱笔思画推出 AI 干扰工具 让机器更难复制您的作品

爱笔思画推出AI干扰工具让机器更难复制您的作品保护艺术家的作品不被未经他们同意的情况下用于人工智能训练的斗争仍在继续。最新的反击来自「爱笔思画(IbisPaint)」，该公司宣布了一款人工智能干扰工具，可干扰人工智能图像生成。该功能将噪声应用于插图，从而阻止人工智能正确解释或复制艺术作品。当用户在爱笔思画中打开人工智能干扰时，他们创建的图像看起来几乎更有颗粒感。但是，艺术家可以确定他们想要的人工智能干扰程度并进行相应的调整。爱笔思画在其公告中显示，噪声强度越高，人工智能创建的图像与原始图像的相似度就越低。——、

ArtStation正在隐藏艺术家发布的反对AI作品抗议图片

ArtStation正在隐藏艺术家发布的反对AI作品抗议图片这些抗议的艺术家论点大多为，AI生成工具在未经允许的情况下使用了大量受到版权保护的艺术图片来“训练”AI，而这些AI生成作品只是人类艺术家劳动产物的衍生物，在使用其劳动成果的同时，AI生成工具以及作品并未给这些艺术家署名或是提供补偿。在一份推特的删除声明中，ArtStation表示：“为了网站的可用性，我们正在审核违反我们服务条款的帖子。我们理解人们对AI及其对行业影响的担忧。我们将分享更多关于改进的信息，让用户在不久的将来更好地控制他们看到的内容以及他们如何使用ArtStation。”目前尚不清楚反人工智能图像违反了哪些平台的服务条款，但该文件赋予ArtStation广泛的权限，可以在一系列原因下删除内容，包括用户“发送垃圾邮件或其他群发消息”。目前ArtStation暂未回应媒体的置评请求。...PC版：https://www.cnbeta.com.tw/articles/soft/1336207.htm手机版：https://m.cnbeta.com.tw/view/1336207.htm

数百名顶级音乐家发公开信要求不要用AI取代人类艺术家

数百名顶级音乐家发公开信要求不要用AI取代人类艺术家在人工智能时代，这是音乐行业集体为艺人代言所采取的最强硬立场之一。字里行间与其他创作者围绕人工智能所做的宣传不同，这封信专门针对科技公司对音乐艺术家的担忧，如复制艺术家的声音、无偿使用他们的作品来训练人工智能模型，以及稀释支付给艺术家的版税。艺术家权利联盟（ARA）是代表签署这封信的艺术家的行业组织，其执行董事珍-雅各布森（JenJacobsen）对Axios说："我们在这里考虑的不是立法。我们呼吁我们的技术和数字合作伙伴与我们合作，使这成为一个负责任的市场，并保持音乐的质量，而不是取代人类艺术家。"这封信由ARA内部数十位知名音乐人撰写，特别呼吁科技公司和人工智能开发商停止"掠夺性地使用人工智能窃取专业艺术家的声音和肖像，侵犯创作者的权利，破坏音乐生态系统"。包括ElvisCostello、诺拉-琼斯、妮姬-米娜、卡米拉-卡贝罗、凯西-马斯格雷夫斯、乔恩-巴蒂斯特、JaRule、杰森-伊斯贝尔、PearlJam、山姆-史密斯等数十位各音乐流派的音乐家。信中写道："我们呼吁所有人工智能开发商、技术公司、平台和数字音乐服务承诺，他们不会开发或部署有损或取代词曲作者和艺术家的人类艺术创作，或剥夺我们的公平报酬的人工智能音乐生成技术、内容或工具。"信中还承认，人工智能在负责任地使用时，有一些方法可以促进人类的创造力。但该信认为，一些平台和人工智能开发商正在广泛地使用这项技术，"破坏创造力，损害艺术家、词曲作者、音乐家和权利人的利益"。音乐产业开始支持保护其作品免受人工智能版权问题影响的法案，但这些努力主要针对立法者。今年早些时候，数百名艺术家签署了人类艺术运动（HumanArtistryCampaign）的一封信，敦促国会签署《禁止人工智能欺诈法案》（TheNoAIFRAUDAct），这是一项旨在防止人工智能生成假货和伪造品的更广泛的法案。许多艺术家提交了个人证词，支持田纳西州的《猫王法案》，该法案是田纳西州第一个针对人工智能为居民提供声音、形象和肖像保护的法案。代表大型唱片公司的美国唱片业协会（RIAA）也支持该法案。...PC版：https://www.cnbeta.com.tw/articles/soft/1425968.htm手机版：https://m.cnbeta.com.tw/view/1425968.htm