研究发现：用人工智能生成的图像训练出的人工智能产生了糟糕的结果。

研究发现：用人工智能生成的图像训练出的人工智能产生了糟糕的结果。斯坦福大学和莱斯大学的研究人员发现，生成式人工智能模型需要“新鲜的真实数据”，否则输出的质量就会下降。这对摄影师和其他创作者来说是个好消息，因为研究人员发现，训练数据集中的合成图像会放大人工痕迹，使人工智能画出的人类看起来越来越不像真人。研究小组将这种状况命名为“模型自噬障碍”。如果自噬循环的每一代都没有足够的新鲜真实数据，未来的生成模型注定会逐渐降低其质量或多样性。如果该研究论文是正确的，那么这意味着人工智能将无法开发出无穷无尽的数据源。人工智能仍然需要真实、高质量的图像来不断进步，而不是依赖自己的输出。这意味着生成式人工智能将需要摄影师。——

澳大利亚新法规要求科技公司消除AI生成的虐待儿童图像

澳大利亚新法规要求科技公司消除AI生成的虐待儿童图像澳大利亚电子安全专员JulieInmanGrant表示，科技公司需要在减少其产品可能带来的危害方面发挥主导作用。她指出，目前已经出现了合成虐待儿童材料，并称恐怖组织正在使用生成式人工智能来制作宣传材料，这已经成为现实，不再是幻想。因此，有必要采取行动。图源备注：图片由AI生成，图片授权服务商Midjourney根据新的法规，搜索引擎公司将被要求定期审查和改进其人工智能工具，以确保不返回“1A类”材料，包括儿童性虐待、恐怖主义和极端暴力材料。此外，这些公司还必须研究技术，帮助用户检测和识别可从其服务访问的深度伪造图像。这一法规被认为是世界上第一批类似框架之一。JulieInmanGrant形容人工智能的迅猛发展为一场“军备竞赛”，并表示这一技术的演变“让大多数政策制定者、监管机构和国家措手不及”。她认为，对于生成式人工智能，监管工具的使用需要有不同的思考方式，并强调监管审查必须从设计和部署阶段开始，而不是问题出现后才采取应对措施。在这一背景下，新法规要求科技公司从一开始就将进一步监管这些工具的规定纳入其中，而不是在问题出现后进行应对，这种情况类似于汽车制造商被要求安装安全带。JulieInmanGrant表示，这种做法对科技行业是有商业意义的，现在科技行业需要类似于“安全带时刻”的规定。电子安全专员还表示，监管机构已经意识到一些不良分子正在利用新的人工智能工具进行非法活动，包括生成虐待儿童材料。新规则将迫使科技公司不仅要减少其平台上的危害，还要致力于构建工具，促进更高的在线安全，例如检测深度伪造图像。澳大利亚总检察长MarkDreyfus在议会上宣布，澳大利亚联邦警察正在使用人工智能来检测虐待儿童材料，而不再依赖手动审查照片。这一倡议的新工具呼吁成年人提交自己儿童时期的照片，以帮助训练人工智能模型，从而更好地应对虐待儿童材料问题。...PC版：https://www.cnbeta.com.tw/articles/soft/1382487.htm手机版：https://m.cnbeta.com.tw/view/1382487.htm

【Adobe发布名为“Firefly”的图像生成人工智能模型】

【Adobe发布名为“Firefly”的图像生成人工智能模型】2023年03月22日11点03分3月22日消息，Adobe公司发布名为“Firefly”的图像生成人工智能模型，目前主要专注于图像生成和文本效果，如文字生成矢量/笔刷/模板、根据自定义风格生成图像、指定纵横比扩展图像、据3D模型生成图像、为黑白图像上色、使用画笔修改图像并用文字描述的风格进行填充等。未来，Firefly将被实装在Adobe全家桶中。该模型的学习数据来源于Adobe旗下AdobeStock数据库、经授权的作品以及版权已过期的公共内容。据Adobe表示，用户的内容不会被用来训练Firefly。

FBI逮捕利用AI生成儿童性虐待图像的男子

FBI逮捕利用AI生成儿童性虐待图像的男子美国联邦调查局因涉嫌使用人工智能生成儿童性虐待图像并将其发送给未成年人而以刑事指控逮捕了一名男子。检察官在20日的声明中说，来自威斯康星州霍尔门的42岁男子史蒂文·安德雷格涉嫌使用文本到图像生成式人工智能模型StableDiffusion创建“数千张青春期前未成年人的逼真图像”。从安德雷格的电子设备中恢复的证据显示，他使用与未成年人相关的特定的、露骨的色情文本提示生成了这些图像，然后将其存储在计算机上。”他随后与一名15岁的男孩进行了交流，描述了他创建图像的过程，并通过Instagram私信向他发送了几张人工智能生成的未成年人图像。——（摘抄部分）

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

Google图像生成人工智能Imagen 3迎来升级

Google图像生成人工智能Imagen3迎来升级Google人工智能研究部门DeepMind负责人德米斯-哈萨比斯（DemisHassabis）说，与前代产品Imagen2相比，Imagen3能更准确地理解文字提示，并将其转化为图像，而且在生成图像方面更具"创造性和细节"。此外，该模型产生的"干扰人工智能"和错误也更少。哈萨比斯补充说："这也是我们目前渲染文本的最佳模型，而渲染文本一直是图像生成模型面临的挑战。"为了消除人们对深度伪造可能性的担忧，Google表示，Imagen3将使用DeepMind开发的SynthID方法，在媒体上应用隐形加密水印。在Google的ImageFX工具中可以注册Imagen3的私人预览版，Google表示，该模型将"很快"提供给使用Google企业生成式人工智能开发平台VertexAI的开发人员和企业客户。Google通常不会透露太多用于训练人工智能模型的数据来源，这次也不例外。这是有原因的。大部分训练数据来自网络上的公共网站、资源库和数据集。而其中的一些训练数据，特别是未经内容创作者许可的受版权保护的数据，是知识产权相关诉讼的源头。Google的网站发布者控制功能允许网站管理员阻止搜索引擎与AI爬虫从他们的网站上获取数据，包括照片和视频。但是，Google并没有提供"退出"工具，而且与某些竞争对手不同的是，Google并没有承诺对权利人（在某些情况下是在不知情的情况下）为训练数据集做出的贡献进行补偿。缺乏透明度并不令人惊讶，但令人失望的尤其是像Google这样拥有丰富资源的公司。...PC版：https://www.cnbeta.com.tw/articles/soft/1430907.htm手机版：https://m.cnbeta.com.tw/view/1430907.htm