OpenAI考虑允许人们通过AI生成色情图片 但不能伪造他人

OpenAI考虑允许人们通过AI生成色情图片但不能伪造他人OpenAI似乎已经了解到用户可能对通过人工智能生成色情图片有着期望，因此需要探索能否在负责任的前提下，在适合年龄的环境中生成NSFW内容。需要强调的是OpenAI考虑的不仅是文本生成图片，按照讨论诸如利用ChatGPT生成色情类的文本内容也是可以的，当然这都可能需要验证年龄确保用户在已经成年的情况下使用。对于生成图片类，尽管OpenAI考虑允许使用人工智能生成色情图片(甚至包括未来使用OpenAISora模型生成色情视频)，但前提是不得使用深度伪造(DeepFake)，即用户不得生成用来伪造他人色情内容的图片。现阶段这些还是讨论，该公司希望确保用户在不违反法律或他人权利的情况下，最大程度的拥有控制权、可以生成自己想要的任何内容而不会被限制。另外OpenAI强调讨论这些内容不代表该公司已经在尝试开发人工智能色情相关的内容，所以要等讨论结束后OpenAI才会做决定，即是否放开这类限制。来源，频道：@kejiqu群组：@kejiquchat

图库网站 Shutterstock 将扩大与 OpenAI 的合作

图库网站Shutterstock将扩大与OpenAI的合作Shutterstock是一家美国图片库、图片素材、图片音乐和编辑工具供应商，总部位于纽约。于2003年创立，Shutterstock拥有约2亿张免版税的图片、矢量图和插图库。Shutterstock今天宣布，计划扩大与OpenAI的现有合作，为这家初创公司提供人工智能模型的训练数据。在接下来的六年中，OpenAI将获得Shutterstock的数据许可，包括图像、视频和音乐，以及任何相关的元数据。反过来，Shutterstock将获得对OpenAI最新技术和新编辑功能的“优先访问权”，这将使Shutterstock客户能够转换Shutterstock库存内容库中的图像。Shutterstock表示，此外，OpenAI将与其合作，通过Giphy（Shutterstock最近收购的GIF库）为移动用户提供人工智能生成功能。——

AI图片引发混乱，欧盟将要求所有生成式AI内容必须注明来源

AI图片引发混乱，欧盟将要求所有生成式AI内容必须注明来源针对AI生成图片引发的混乱，欧盟内部市场专员、工业和信息化产业负责人蒂埃里·布雷顿公开表示，欧盟希望对AI生成的内容进行强制性的规定。布雷顿表示：“欧盟将是首个做出明确规定的政府，人工智能生成的一切，无论是文本还是图像，都有义务告知它们是由人工智能完成的。”欧盟人工智能法案将于本月起正式进行投票，生成式AI也将作为被监管的重点对象被纳入其中。“如果有人在社交网络上发布由AI生成的图像却不表明是由AI生成的，他们将面临法律诉讼。”布雷顿表示。来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容今年早些时候OpenAI已经在DALL-E3图像生成模型中接入了C2PA相关标准，即生成的图像会标记来自该模型，也就是证明这是由人工智能创作的图像。OpenAI称当Sora文本生成模型视频广泛推出时也会为Sora生成的视频内容添加C2PA元数据，可以识别视频来自Sora生成而不是真实拍摄等。值得注意的是C2PA标准元数据是可以删除的，一个简单的例子就是对于DALL-E3生成的图像只需要修改图片元数据甚至直接截图就可以抹掉C2PA信息，所以OpenAI还准备了不可见的水印。不可见水印俗称盲水印，这种水印肉眼无法识别，但一些特殊的工具对图片进行处理后是可以读取盲水印的，OpenAI的计划就是在后续实施盲水印，用难以删除的不可见信号标记音频等数字内容。既然添加盲水印那OpenAI也会提供对应的检测工具，OpenAI已经开发了用于检测AI模型生成内容的检测分类器，该分类器从今天开始向一些研究人员提供，该工具主要可以检测DALL-E3生成的图像，准确率为98%，大约会有不到0.5%的非AI生成的图像也会被标记为AI生成，这个后续OpenAI还会继续优化。...PC版：https://www.cnbeta.com.tw/articles/soft/1430006.htm手机版：https://m.cnbeta.com.tw/view/1430006.htm

OpenAI视频生成模型横空出世令Shutterstock市值暴跌

OpenAI视频生成模型横空出世令Shutterstock市值暴跌该公司每年销售价值约10亿美元的库存照片和视频。人们意识到人工智能生成的视频和图像可能会摧毁这个行业。”特斯拉CEO埃隆·马斯克回应称：“是的。”截至周五收盘，Shutterstock股价下跌了5.44%。      ...PC版：https://www.cnbeta.com.tw/articles/soft/1418811.htm手机版：https://m.cnbeta.com.tw/view/1418811.htm

OpenAI称正在开发可高精度检测AI生成图像工具

OpenAI称正在开发可高精度检测AI生成图像工具据了解，目前已经有少数工具声称可以检测人工智能生成的图像或其他内容，但这些工具的检测结果似乎仍不够准确。例如，OpenAI在1月份发布了一个类似的工具，旨在确定文本是否由人工智能生成的，但由于不可靠，该工具在7月份被搁置了。该公司表示，它正在努力改进该软件，并致力于开发识别音频或图像是否由人工智能生成的方法。由于人工智能工具可用于操纵或编造全球事件的新闻报道，对此类检测工具的需求越来越重要。Adobe（ADBE.US）的Firefly图像生成器通过承诺不创建侵犯创作者知识产权的内容，解决了这一挑战的另一个方面。周二，OpenAI高管还暗示了GPT-4之后的人工智能模型。虽然OpenAI尚未公开表示GPT-4的后续模型可能被称为什么，但这家初创公司在今年7月向美国专利商标局提交了“GPT-5”商标申请。当被问及GPT-5模型是否不再编造内容时，Murati表示：“也许吧。”“让我们看看。我们在GPT-4的‘幻觉’问题上取得了很大进展，但我们还没有达到我们需要的程度，”她表示。最后，OpenAI首席执行官SamAltman还谈到了OpenAI可以设计和制造自己的计算机芯片来训练和运行自己的人工智能模型的可能性，而不是使用目前被视为市场领导者的英伟达（NVDA.US）等公司提供的芯片。“默认的做法当然是不这么做，”他表示，“但我永远不会排除这种可能性。”...PC版：https://www.cnbeta.com.tw/articles/soft/1390783.htm手机版：https://m.cnbeta.com.tw/view/1390783.htm