OpenAI 发布产品AI classifier
OpenAI发布产品AIclassifierAIclassifier是一个用于区分AI文本和人类文本的分类器,使用了大量针对同一话题的AI文稿和人类文稿进行数据训练。https://platform.openai.com/ai-text-classifierOpenAI强调了他们的分类器不完全可靠并列举了目前AIclassifier的局限性:1.在低于1000个字符的短文本上非常不可靠。更长文本有时也会被错误标记。2.有时会自信地把人类文本标记为AI文本。3.在英文以外语言的文本上表现很差。4.无法可靠地识别非常可预测文本。(例:无法辨别“前1000个素数的列表”来自AI还是人类,因为答案总是相同)5.经人类编辑后的AI文本可以规避分类器。(分类器可在成功判断的基础上进行更新与再训练)6.基于神经网络的AI对其训练集之外的数据校准得不好,分类器有时会对与训练集非常不同的输入有着十分自信的错误判断。投稿:@ZaiHuabot频道:@TestFlightCN