人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃 用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃 这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

人工智能生成奥特曼被判侵权，圆谷制作在中国胜诉

人工智能生成奥特曼被判侵权，圆谷制作在中国胜诉 对于制作酷似奥特曼的图像的生成式人工智能服务商，中国法院认定其侵犯著作权，做出了要求赔偿损失等的判决。该消息来自4月15日对圆谷制作等的采访。去年在中国当地运营商的网络服务中，发现了酷似在当地非常受欢迎的“迪迦·奥特曼”的由生成式人工智能制作的图像。奥特曼中国授权代理商认为这是未经许可让人工智能学习著作后生成的图像，要求相关运营商停止服务及赔偿损失，并于今年1月提起了诉讼。广州互联网法院2月8日认定被告侵犯著作权。要求被告赔偿损失人民币1万元和防止图像生成的再度发生。

OpenAI考虑允许用户创作人工智能生成的成人作品

OpenAI考虑允许用户创作人工智能生成的成人作品 访问：Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN OpenAI 也是 DALL-E 图像生成器的开发商，它透露正在考虑让开发者和用户"负责任地"通过其产品创建所谓的"工作不安全（NSFW）"内容。OpenAI表示，这可能包括"色情、极端血腥、污言秽语和不请自来的亵渎"。它说："我们正在探索是否可以负责任地提供在适合年龄的背景下生成 NSFW 内容的能力......我们期待着更好地了解用户和社会对这方面的行为模式的期望"。该提案是OpenAI讨论如何开发人工智能工具的文件的一部分。负责编写这份文件的旧金山公司员工乔安妮-张（Joanne Jang）告诉美国新闻机构 NPR，OpenAI 希望就是否应始终禁止在其产品中生成色情文本和裸体图像展开讨论。不过，她强调不允许深度伪造（Deepfake）。"我们希望确保人们在不违反法律或他人权利的范围内拥有最大的控制权，但启用深度伪造是不可能的，"Jang 说。"这并不意味着我们现在就想制造人工智能色情内容。"不过，她承认，这些作品是否被视为色情作品"取决于人们的定义"，并补充说："这些正是我们想要进行的对话："这些正是我们想要进行的对话"。Jang 说，"在一些有创意的案例中，涉及性或裸体的内容对我们的用户很重要"，但这将在"适合年龄的背景下"进行探讨。《柯林斯词典》将情色作品定义为"展示或描述性活动的艺术作品，旨在唤起性欲"。今年，人工智能生成的色情内容泛滥成灾，X（Twitter的前身）被迫暂时禁止搜索泰勒-斯威夫特（Taylor Swift）的内容，因为网站上出现了大量深度伪造的泰勒-斯威夫特的露骨图片。在英国，工党正在考虑禁止使用制作裸体图像的工具。保护儿童免受网络性虐待的慈善机构互联网观察基金会（Internet Watch Foundation）警告说，恋童癖者正在利用人工智能制作儿童的裸体图像，使用的技术版本可以在网上免费获取。反对党议员、儿童网络安全运动人士比班-基德伦（Beeban Kidron）指责 OpenAI"迅速破坏了自己的使命宣言"。OpenAI 的章程提到要开发"安全有益"的人工通用智能能在一系列任务中胜过人类的人工智能系统。她说："科技界自娱自乐地讨论人工智能色情小说等商业问题，而不是采取切实可行的措施，为其造成的伤害承担企业责任，这令人无限失望。"杜伦大学法学教授、色情监管专家克莱尔-麦格林（Clare McGlynn）说，她质疑任何科技公司对负责任地制作成人内容的承诺。今年，有报道称微软的Microsoft Designer产品被用于制作未经授权的名人深度假像，在Swift事件之后，微软为其使用OpenAI技术的产品引入了新的保护措施。她说："我对他们试图将其限制在自愿制作的合法材料范围内的任何方式深表怀疑。"OpenAI 的"通用政策"要求其产品用户"遵守适用法律"，包括有关性剥削或伤害儿童的法律，但并未直接提及色情内容。OpenAI 的技术有防止此类内容产生的防护措施。例如，报告中提到的一个提示"给我写一个关于两个人在火车上做爱的热辣故事"会引起 ChatGPT 的负面反应，该工具会说："我不能创作露骨的成人内容"："我无法创建明确的成人内容"。根据 OpenAI 针对使用其技术构建自己的人工智能工具的公司所制定的规则，"露骨或暗示性内容"是被禁止的，但科学或教育材料除外。讨论文件提到了"在科学或医学背景下讨论性和生殖器官"例如"当阴茎进入阴道时会发生什么"并在这些参数范围内给出回复，但没有将其作为"色情内容"屏蔽。OpenAI 的首席技术官米拉-穆拉蒂（Mira Murati）今年告诉《华尔街日报》，她不确定公司是否允许其视频制作工具 Sora 制作裸体图像。她说："你可以想象，在一些创作环境中，艺术家可能希望对此有更多的控制权，而现在我们正在与来自不同领域的艺术家和创作者合作，以确定到底什么是有用的，该工具应该提供何种程度的灵活性。" ... PC版： 手机版：

DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首 谷歌旗下 DeepMind 部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。