OpenAI 悄然关闭其人工智能检测工具

OpenAI 悄然关闭其人工智能检测工具 一月份，人工智能巨头 OpenAI 宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。 半年后，这个工具就死了，因为它无法完成其设计目的。这就上周， OpenAI 悄悄地断开了其 AI 检测工具 AI Classifier，因为该公司表示该工具的准确率较低。 OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”

OpenAI 关闭其人工智能检测工具

OpenAI 关闭其人工智能检测工具 OpenAI 上周关闭了其人工智能检测工具 AI Classifier，因为该公司表示，因为 “其准确率较低”。该解释并不是在新的公告中，而是在首次发布该工具的博客文章中添加的注释中添加的。AI Classifier 的链接不再可用。 来源： via 匿名 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

【OpenAI官方推出AI生成内容识别器，但成功率只有26%】1 月 31 日，OpenAI 官宣了区分人类作品和 AI 生成文

【OpenAI官方推出AI生成内容识别器，但成功率只有26%】1 月 31 日，OpenAI 官宣了区分人类作品和 AI 生成文本的识别工具上线，该技术旨在识别自家的 ChatGPT、GPT-3 等模型生成的内容。然而分类器目前看起来准确性堪忧：OpenAI认为，当它与其他方法结合使用时，可以有助于防止 AI 文本生成器被滥用。 #抽屉IT

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容 今年早些时候 OpenAI 已经在 DALL-E 3 图像生成模型中接入了 C2PA 相关标准，即生成的图像会标记来自该模型，也就是证明这是由人工智能创作的图像。OpenAI 称当 Sora 文本生成模型视频广泛推出时也会为 Sora 生成的视频内容添加 C2PA 元数据，可以识别视频来自 Sora 生成而不是真实拍摄等。值得注意的是 C2PA 标准元数据是可以删除的，一个简单的例子就是对于 DALL-E 3 生成的图像只需要修改图片元数据甚至直接截图就可以抹掉 C2PA 信息，所以 OpenAI 还准备了不可见的水印。不可见水印俗称盲水印，这种水印肉眼无法识别，但一些特殊的工具对图片进行处理后是可以读取盲水印的，OpenAI 的计划就是在后续实施盲水印，用难以删除的不可见信号标记音频等数字内容。既然添加盲水印那 OpenAI 也会提供对应的检测工具，OpenAI 已经开发了用于检测 AI 模型生成内容的检测分类器，该分类器从今天开始向一些研究人员提供，该工具主要可以检测 DALL-E 3 生成的图像，准确率为 98%，大约会有不到 0.5% 的非 AI 生成的图像也会被标记为 AI 生成，这个后续 OpenAI 还会继续优化。 ... PC版： 手机版：

ChatGPT 所有者 OpenAI 推出工具来检测人工智能生成的文本

ChatGPT 所有者 OpenAI 推出工具来检测人工智能生成的文本 ================== “在我们对英语文本的‘挑战集’的评估中，我们的分类器正确地将 26% 的人工智能写的文本（真阳性）识别为‘可能是人工智能写的’，而将人类写的文本错误地标记为人工智能写的占 9%（假阳性），”OpenAI 员工写道 ======= 对抗训练是吧