人工智能不能说的小秘密：斯坦福大学研究人员揭露文本检测器的缺陷

人工智能不能说的小秘密：斯坦福大学研究人员揭露文本检测器的缺陷资深作者、斯坦福大学的詹姆斯-邹（JamesZou）说："我们目前的建议是，我们应该非常小心，也许应该尽量避免使用这些检测器。如果用这些检测器来审查求职申请、大学入学论文或高中作业等，可能会产生重大影响。"像OpenAI的ChatGPT聊天机器人这样的人工智能工具可以撰写论文、解决科学和数学问题，并生成计算机代码。美国各地的教育工作者越来越关注在学生作业中使用人工智能的问题，他们中的许多人已经开始使用GPT检测器来筛选学生的作业。这些检测器是声称能够识别文本是否由人工智能生成的平台，但其可靠性和有效性仍有待检验。邹和他的团队对七种流行的GPT检测器进行了测试。他们用这些检测器检测了91篇由非英语母语人士撰写的英语论文，这些文章是为了参加一个被广泛认可的英语水平测试--托福考试（TestofEnglishasaForeignLanguage）。这些平台错误地将一半以上的文章标记为人工智能生成，其中一个检测器将近98%的文章标记为人工智能所写。相比之下，这些检测器能将超过90%的美国八年级学生撰写的作文正确归类为人工生成。邹解释说，这些检测器的算法是通过评估文本的复杂性（perplexity）来工作的，而文本的复杂性是指文章中选词的出人意料程度。"如果你使用的是常见的英文单词，那么检测器就会给出较低的易混度分数，这意味着我的文章很可能会被标记为人工智能生成。如果你使用的是复杂的高级词汇，那么它就更有可能被算法归类为人类撰写的文章。这是因为像ChatGPT这样的大型语言模型经过训练，可以生成低复杂度的文本，从而更好地模拟普通人的说话方式。"因此，非英语母语写作者所采用的简单选词会使他们更容易被标记为使用了人工智能。然后，研究小组将人类撰写的托福作文放入ChatGPT，并提示它使用更复杂的语言编辑文本，包括用复杂词汇替换简单词汇。GPT检测器将这些人工智能编辑的文章标记为人类撰写的文章。邹说："在课堂环境中使用这些检测器时，我们应该非常谨慎，因为仍然存在很多偏差，而且它们很容易被愚弄，只需进行最低限度的提示设计即可。使用GPT检测器的影响还可能超出教育领域。例如，Google等搜索引擎会贬低人工智能生成的内容，这可能会无意中压制非英语母语写作者的声音。"虽然人工智能工具可以对学生的学习产生积极影响，但在投入使用之前，GPT检测器还需要进一步加强和评估，用更多样化的写作类型来训练这些算法可能是改进这些检测器的一种方法。...PC版：https://www.cnbeta.com.tw/articles/soft/1381495.htm手机版：https://m.cnbeta.com.tw/view/1381495.htm

OpenAI 悄然关闭其人工智能检测工具

OpenAI悄然关闭其人工智能检测工具一月份，人工智能巨头OpenAI宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。半年后，这个工具就死了，因为它无法完成其设计目的。这就上周，OpenAI悄悄地断开了其AI检测工具AIClassifier，因为该公司表示该工具的准确率较低。OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”——

ChatGPT 所有者 OpenAI 推出工具来检测人工智能生成的文本

ChatGPT所有者OpenAI推出工具来检测人工智能生成的文本==================“在我们对英语文本的‘挑战集’的评估中，我们的分类器正确地将26%的人工智能写的文本（真阳性）识别为‘可能是人工智能写的’，而将人类写的文本错误地标记为人工智能写的占9%（假阳性），”OpenAI员工写道=======对抗训练是吧https://finance.sina.com.cn/tech/mobile/n/n/2023-02-01/doc-imyectwx0070034.shtml

【Tezos基金会支持的画展将展出由人工智能生成的Allen Ginsberg诗集】

【Tezos基金会支持的画展将展出由人工智能生成的AllenGinsberg诗集】2023年08月02日06点48分老不正经报道，美国洛杉矶的Fahey/Klein画廊将展出由人工智能生成的诗集，这些诗集由人工智能使用著名诗人AllenGinsberg的文学作品进行训练，并得到了AllenGinsberg遗产的支持。Ginsberg于1997年去世，他因1955年创作的诗歌《嚎叫》而闻名。据悉，该展览将从8月10日开始持续至9月，是在Tezos基金会的支持下与NFT诗歌画廊和数字社区TheVERSEverse合作开发的，该系列利用人工智能摄像头将视觉图像转化为文本。

美国联邦法官在裁决中表示，由人工智能创作的艺术作品不受版权保护

美国联邦法官在裁决中表示，由人工智能创作的艺术作品不受版权保护美国一位联邦法官最近支持了美国版权局的立场，认为由人工智能创作的艺术作品不具备版权保护。这项裁决是对一位人工智能公司首席执行官提起的诉讼做出的回应，他主张由人工智能创作的作品应该受到版权保护。法官强调，版权法只保护人类创作，并强调人类创造力是版权保护的核心要素。她指出，人类的参与和创造控制是判断作品是否符合版权范围的关键。这个判决对于人工智能生成的作品是否受版权保护产生了重要的影响，确认了版权法仅适用于人类创作的作品。参考：；；来源：投稿：@ZaiHuaBot频道：@TestFlightCN

一款AI检测工具可轻易识别ChatGPT撰写的论文

一款AI检测工具可轻易识别ChatGPT撰写的论文该论文的合著者、美国堪萨斯大学的化学家HeatherDesaire指出，“大多数文本分析领域都想要推出一种真正通用的检测器，可以适用于任何东西”。但她表示她的团队正通过制作一种专注于特定类型论文的检测工具，旨在“追求准确性”。Desaire称，研究结果表明，开发人工智能（AI）检测器的努力可以通过定制软件来促进特定类型的论文写作，“如果你能快速而轻松地构建一项专门的工具，那么为不同的领域构建不同的工具就不是那么困难了。”从公布的数据来看，这种专门的检测器比市面上现有的两种人工智能检测器的性能都要好，可以帮助学术出版商识别出那些由人工智能文本生成器生成的论文。准确率惊人Desaire和她的同事在6月份首次描述了他们研发的ChatGPT探测器，当时他们将其应用于《科学》杂志上的Perspective文章。该团队使用人工智能检测器检查写作风格的20个特征，包括句子长度的变化、某些单词和标点符号的频率等，来确定文章是有人类科学家所作还是由ChatGPT所生成的。当时的研究结果表明，“你可以使用一小部分特征来获得高水平的准确性”。在最新的研究中，该团队将美国化学学会（ACS）出版的十本化学期刊的论文引言部分作为人工智能探测器的训练对象。研究人员将100篇已发表的人类撰写的引言作为比对材料，然后要求ChatGPT-3.5以ACS期刊的风格撰写200篇引言。其中100篇是研究人员向ChatGPT提供了论文标题后生成的，而另外100篇是研究人员向ChatGPT提供了论文摘要后生成的。研究结果显示，当把人类撰写的引言和和人工智能从同一期刊上生成的介绍进行测试时，该人工智能检测器能够100%识别出由ChatGPT-3.5编写的前100篇引言（基于论文标题生成的）；而对于后100篇ChatGPT-3.5生成的引言（基于论文摘要所生成的），检测的准确率略低，为98%。此外，该工具同样适用于ChatGPT-4编写的文本。相比之下，市场上的另两款人工智能检测器中，德国的ZeroGPT识别人工智能编写的介绍的准确率仅为35-65%，这取决于使用的ChatGPT版本以及介绍是由论文标题还是摘要生成的。而OpenAI自身的文本分类器工具也表现不佳——它能够识别人工智能编写的介绍，准确率约为10-55%。柏林应用科技大学研究学术剽窃的计算机科学家DeboraWeber-Wulff评价道，该篇论文的作者们所做的是一件“令人着迷的事情”。她表示，许多现有的工具试图通过搜索人工智能生成的文章的预测文本模式来确定作者的身份，而不是通过观察写作风格和文体的特征。Weber-Wulff称，“我从来没有想过在ChatGPT上使用文体计量学。”...PC版：https://www.cnbeta.com.tw/articles/soft/1395143.htm手机版：https://m.cnbeta.com.tw/view/1395143.htm