人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃 用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃 这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

索尼音乐警告科技公司不要“未经授权”使用其内容来训练人工智能

索尼音乐警告科技公司不要“未经授权”使用其内容来训练人工智能 索尼音乐集团已向700多家科技公司和音乐流媒体服务发送信函，警告他们未经明确许可不得使用其音乐来训练人工智能。信函写到，索尼音乐“有理由相信”信函的收件人“可能已经未经授权使用”了其内容。索尼音乐表示，虽然他们认识到人工智能的“巨大潜力”，但“在人工智能系统的训练、开发或商业化中未经授权使用 SMG 内容”会剥夺该公司和艺术家对其内容的控制权和“合适的补偿”。索尼音乐正在寻求保护其知识产权，其中包括音频和视听录音、封面插图、元数据、歌词等。这封信要求收件人详细说明使用了索尼音乐的哪些歌曲来训练人工智能系统，歌曲是如何获取的，制作了多少副本，是否还存在副本，以及为什么起初会存在副本。索尼音乐已经给予信函收件人截止日期作出回应，并指出将在各个司法管辖区内“依据适用法律的最大允许范围”执行其版权。

2024 世界人工智能大会暨人工智能全球治理高级别会议发表《人工智能全球治理上海宣言》。其中提到，我们高度重视人工智能的安全问题

2024 世界人工智能大会暨人工智能全球治理高级别会议发表《人工智能全球治理上海宣言》。其中提到，我们高度重视人工智能的安全问题，特别是数据安全与隐私保护，愿推动制定数据保护规则，加强各国数据与信息保护政策的互操作性，确保个人信息的保护与合法使用。

美国新法案要求人工智能公司披露受版权保护的训练数据

美国新法案要求人工智能公司披露受版权保护的训练数据 美国新法案将迫使科技公司披露用于训练其人工智能模型的任何受版权保护的数据。美国众议员 Adam Schiff (D-CA) 提出的生成人工智能版权披露法案将要求任何为人工智能制作训练数据集的人向版权登记处提交有关其内容的报告。报告应包含数据集中受版权保护的材料的详细摘要以及数据集的 URL (如果可公开获取)。此要求将扩展到对数据集所做的任何更改。公司必须在使用训练数据集的人工智能模型向公众发布之前“不迟于30天”提交报告。该法案不会追溯到现有的人工智能平台，除非其成为法律后对其训练数据集进行更改。

TikTok 将自动标记更多人工智能生成内容

TikTok 将自动标记更多人工智能生成内容 TikTok 正在加大力度在其应用中自动标记人工智能生成的内容，即使这些内容是使用第三方工具创建的。该公司宣布计划支持「内容凭证(content credentials)」，这是一种表明使用了生成式人工智能的数字水印。TikTok 的规则已经要求创作者披露“逼真的”人工智能生成内容。但这项政策可能很难执行，特别是当创作者使用其他公司的人工智能工具时。但由于内容凭证在整个人工智能行业中越来越多地使用，TikTok 的新自动化标签应该能够弥补其中的一些差距。TikTok 称，该公司将是第一个支持内容凭证的视频平台。谷歌、微软、OpenAI 和 Adobe 都承诺支持内容凭证。 、

TikTok将自动标记人工智能生成的内容

TikTok将自动标记人工智能生成的内容 访问：Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN 该社交视频平台正在通过实施内容凭证（Content Credentials）来实现这一目标，内容凭证是内容出处和真实性联盟（C2PA）的一项技术，该联盟由微软和 Adobe 共同创立。内容凭证将特定的元数据附加到内容上，TikTok 可以利用这些元数据即时识别和标记人工智能生成的内容。因此，TikTok 将开始自动标注上传到平台并附加内容证书的人工智能生成内容。这一变更将于本周四推出，并将在未来几周内适用于全球所有用户。虽然 TikTok 已经对使用 TikTok AI 特效制作的 内容进行了标注，但现在它也将对在其他已实施内容证书的平台上制作的内容进行标注，如 OpenAI 的 DALL-E 3 和微软的必应图像创建器。 微软、Adobe 和 OpenAI 已经开始使用内容证书，Google也承诺支持内容证书。尽管 TikTok 已经要求创作者在发布使用人工智能创建或增强的内容时进行披露，但该公司表示，新的变化是确保人工智能生成的内容被标注的另一种方式，同时也减轻了创作者的压力。在未来几个月中，TikTok 还将开始为平台上使用 TikTok 人工智能特效创建的人工智能生成内容附加内容证书。内容证书元数据将包括人工智能生成内容的制作或编辑地点和方式的详细信息，下载后仍将附加在内容上。采用内容凭证的其他平台将能自动将内容标记为人工智能生成的内容。因此，虽然 TikTok 承诺在自己的服务中标注人工智能内容，但它也在努力帮助确保在 TikTok 中制作的人工智能内容在发布到其他平台时也能准确标注。TikTok 运营及信任与安全主管 Adam Presser 在一份新闻稿中表示："人工智能生成的内容是一个令人难以置信的创意出口，但对观众而言，透明度至关重要。通过与同行合作跨平台标注内容，我们让创作者更容易负责任地探索人工智能生成的内容，同时继续阻止 TikTok 上禁止的有害或误导性 AIGC。"TikTok 宣称自己是第一个采用内容凭证技术的视频分享平台。值得一提的是，Meta早在今年二月就宣布，计划在 C2PA 的解决方案基础上为内容添加出处。作为周四公告的一部分，TikTok 表示将致力于打击在选举中使用欺骗性人工智能的行为，其政策坚决禁止人工智能生成的有害误导性内容无论是否贴有标签。 ... PC版： 手机版：