人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源,如书籍、文章、照片等,这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容,一个明显的问题出现了:当人工智能生成的内容在互联网上扩散时,人工智能模型开始对其进行训练。研究人员发现,“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布,得出结论:“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程,并且随着时间的推移,模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快:模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移,表现越来越差,错误越来越多。来源,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

相关推荐

封面图片

研究发现:用人工智能生成的图像训练出的人工智能产生了糟糕的结果。

研究发现:用人工智能生成的图像训练出的人工智能产生了糟糕的结果。斯坦福大学和莱斯大学的研究人员发现,生成式人工智能模型需要“新鲜的真实数据”,否则输出的质量就会下降。这对摄影师和其他创作者来说是个好消息,因为研究人员发现,训练数据集中的合成图像会放大人工痕迹,使人工智能画出的人类看起来越来越不像真人。研究小组将这种状况命名为“模型自噬障碍”。如果自噬循环的每一代都没有足够的新鲜真实数据,未来的生成模型注定会逐渐降低其质量或多样性。如果该研究论文是正确的,那么这意味着人工智能将无法开发出无穷无尽的数据源。人工智能仍然需要真实、高质量的图像来不断进步,而不是依赖自己的输出。这意味着生成式人工智能将需要摄影师。——

封面图片

Getty开发的人工智能生成器只对拥有版权图片的进行训练

Getty开发的人工智能生成器只对拥有版权图片的进行训练GettyImages的GenerativeAI仅在庞大的GettyImages图库(包括高级内容)上进行训练,用户可获得完全的版权保护。盖蒂公司承诺,这意味着任何使用该工具并将其创建的图片进行商业发布的人都将受到法律保护。盖蒂公司与NVIDIA合作,使用NVIDIA的生成式人工智能模型库Picasso上的Edify模型。该公司表示,使用该工具创建的任何照片都不会被收录到GettyImages和iStock的内容库中。如果使用创作者的人工智能生成图像来训练当前和未来版本的模型,盖蒂公司将向创作者支付报酬。它将分享该工具产生的收入,"按比例分配每个文件的份额和基于传统许可收入的份额"。盖蒂图片公司首席产品官格兰特-法豪尔(GrantFarhall)在一份声明中说:"我们倾听了客户对生成式人工智能迅猛发展的意见--既有兴奋也有犹豫--并尝试有意识地开发我们自己的工具。"Getty工具限制了用户可以生成的图片类型。它不允许我创建一张乔-拜登在白宫前的照片,或者一只安迪-沃霍尔或杰夫-昆斯风格的猫。任何带有真实人名的提示都被禁止。在要求创建美国总统的图片时,我看到了美国国旗前的男女照片,其中一些还是有色人种。该模型"不知道谁是安迪-沃霍尔(AndyWarhol)、乔-拜登(JoeBiden)或任何其他现实世界中的人",因为它不想操纵或再现现实生活中的事件。用户可以通过GettyImages网站访问GettyImages的GenerativeAI。该公司表示,该工具将与标准的GettyImages订阅分开定价,定价基于提示量。不过,该公司没有具体说明价格。盖蒂图片公司表示,用户将获得他们所创作图片的永久、全球和无限版权。(尽管如此,人工智能生成的图片在技术上的版权地位仍然模糊不清)。盖蒂公司表示,这类似于客户从其资料库中获得内容授权,公司拥有文件所有权,但授权用户使用。用户可以编写自己的提示,也可以使用提示生成器来指导自己。用户还可以通过API将该工具集成到自己的工作流程中。按照惯例,盖蒂公司会在通过该工具创建的照片上打上水印,以识别照片是由人工智能生成的。盖蒂公司涉足人工智能图片领域并不奇怪,毕竟它拥有最大的图片库之一。但该公司曾与其他文本到图像的人工智能生成器开发商交过手,起诉StabilityAI侵犯版权,指控其图像生成器StableDiffusion未经许可使用了Getty的照片。通过建立自己的生成式人工智能图像平台,盖蒂公司可以压制其他希望使用其图像库来训练模型的公司。使用其授权数据建立人工智能图像平台的公司远不止盖蒂一家。Adobe在其创意套件和创意云服务中发布了萤火虫(Firefly)模型,该模型是在其稳定的授权图片上训练出来的。使用受版权保护的资料来训练大型语言模型和文本到图像系统一直是许多创意界人士非常关注的问题。三位艺术家曾起诉StabilityAI、Midjourney和艺术网站DeviantArt,指控它们未经许可使用他们的艺术作品来训练模型。盖蒂表示,客户最终可以添加自己的数据来训练模型,生成具有自己品牌风格的图片。这项功能和其他服务将于今年晚些时候推出。...PC版:https://www.cnbeta.com.tw/articles/soft/1386273.htm手机版:https://m.cnbeta.com.tw/view/1386273.htm

封面图片

Coinbase 公布人工智能内容生成流程架构

Coinbase公布人工智能内容生成流程架构Coinbase在官方博客公布其人工智能驱动的内容生成流程架构,主要包括:1、策展:数据驱动的精度,精心收集最新、最权威的数据,通过使用公共API获取关键元数据;2、摄取:细化和优化,完善和增强整理的数据;3、生成:与大语言模型一起制作内容;4、翻译:提升全球影响力和可及性;5、审查:确保人工智能生成材料符合质量标准;6、发布:将信息传递给用户。Coinbase表示,下一步将这项技术应用到更广泛的内容产品中,包括开发涵盖广泛链上主题的教育文章和全面的常见问题解答。

封面图片

【Coinbase公布人工智能内容生成流程架构】

【Coinbase公布人工智能内容生成流程架构】2024年03月29日11点12分老不正经报道,Coinbase在官方博客公布其人工智能驱动的内容生成流程架构,主要包括:1、策展:数据驱动的精度,精心收集最新、最权威的数据,通过使用公共API获取关键元数据;2、摄取:细化和优化,完善和增强整理的数据;3、生成:与大语言模型一起制作内容;4、翻译:提升全球影响力和可及性;5、审查:确保人工智能生成材料符合质量标准;6、发布:将信息传递给用户。Coinbase表示,下一步将这项技术应用到更广泛的内容产品中,包括开发涵盖广泛链上主题的教育文章和全面的常见问题解答。

封面图片

TikTok 将自动标记更多人工智能生成内容

TikTok将自动标记更多人工智能生成内容TikTok正在加大力度在其应用中自动标记人工智能生成的内容,即使这些内容是使用第三方工具创建的。该公司宣布计划支持「内容凭证(contentcredentials)」,这是一种表明使用了生成式人工智能的数字水印。TikTok的规则已经要求创作者披露“逼真的”人工智能生成内容。但这项政策可能很难执行,特别是当创作者使用其他公司的人工智能工具时。但由于内容凭证在整个人工智能行业中越来越多地使用,TikTok的新自动化标签应该能够弥补其中的一些差距。TikTok称,该公司将是第一个支持内容凭证的视频平台。谷歌、微软、OpenAI和Adobe都承诺支持内容凭证。——、

封面图片

TikTok将自动标记人工智能生成的内容

TikTok将自动标记人工智能生成的内容访问:Saily-使用eSIM实现手机全球数据漫游安全可靠源自NordVPN该社交视频平台正在通过实施内容凭证(ContentCredentials)来实现这一目标,内容凭证是内容出处和真实性联盟(C2PA)的一项技术,该联盟由微软和Adobe共同创立。内容凭证将特定的元数据附加到内容上,TikTok可以利用这些元数据即时识别和标记人工智能生成的内容。因此,TikTok将开始自动标注上传到平台并附加内容证书的人工智能生成内容。这一变更将于本周四推出,并将在未来几周内适用于全球所有用户。虽然TikTok已经对使用TikTokAI特效制作的内容进行了标注,但现在它也将对在其他已实施内容证书的平台上制作的内容进行标注,如OpenAI的DALL-E3和微软的必应图像创建器。微软、Adobe和OpenAI已经开始使用内容证书,Google也承诺支持内容证书。尽管TikTok已经要求创作者在发布使用人工智能创建或增强的内容时进行披露,但该公司表示,新的变化是确保人工智能生成的内容被标注的另一种方式,同时也减轻了创作者的压力。在未来几个月中,TikTok还将开始为平台上使用TikTok人工智能特效创建的人工智能生成内容附加内容证书。内容证书元数据将包括人工智能生成内容的制作或编辑地点和方式的详细信息,下载后仍将附加在内容上。采用内容凭证的其他平台将能自动将内容标记为人工智能生成的内容。因此,虽然TikTok承诺在自己的服务中标注人工智能内容,但它也在努力帮助确保在TikTok中制作的人工智能内容在发布到其他平台时也能准确标注。TikTok运营及信任与安全主管AdamPresser在一份新闻稿中表示:"人工智能生成的内容是一个令人难以置信的创意出口,但对观众而言,透明度至关重要。通过与同行合作跨平台标注内容,我们让创作者更容易负责任地探索人工智能生成的内容,同时继续阻止TikTok上禁止的有害或误导性AIGC。"TikTok宣称自己是第一个采用内容凭证技术的视频分享平台。值得一提的是,Meta早在今年二月就宣布,计划在C2PA的解决方案基础上为内容添加出处。作为周四公告的一部分,TikTok表示将致力于打击在选举中使用欺骗性人工智能的行为,其政策坚决禁止人工智能生成的有害误导性内容--无论是否贴有标签。...PC版:https://www.cnbeta.com.tw/articles/soft/1430275.htm手机版:https://m.cnbeta.com.tw/view/1430275.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人