冒充人类作者,ChatGPT等滥用引担忧,一文综述AI生成文本检测方法 #抽屉IT

None

相关推荐

封面图片

:生成文本、XML、JSON 和 HTML 输出的简单方法。

封面图片

Kaggle AI生成文本检测竞赛第一名方案 |

封面图片

OpenAI在降低定价的同时推出了新的生成文本功能

OpenAI在降低定价的同时推出了新的生成文本功能 随着生成式人工智能领域的竞争日益激烈,OpenAI正在升级其文本生成模型,并同时降低价格。 今天,OpenAI宣布推出了GPT-3.5-turbo和GPT-4的新版本,后者是其最新的文本生成人工智能,具备称为函数调用的功能。正如OpenAI在一篇博文中解释的那样,函数调用允许开发者描述编程函数给GPT-3.5-turbo和GPT-4,并让这些模型创建代码来执行这些函数。 例如,函数调用可以帮助创建聊天机器人,通过调用外部工具来回答问题,将自然语言转换为数据库查询,并从文本中提取结构化数据。OpenAI写道:“这些模型经过精细调整,既能检测何时需要调用函数...,又能回复符合函数签名的JSON。函数调用使开发者能够更可靠地从模型中获得结构化数据。” 除了函数调用,OpenAI还推出了一个具有大大扩展上下文窗口的GPT-3.5-turbo版本。上下文窗口以标记或文本的原始位表示,指的是模型在生成任何其他文本之前考虑的文本范围。具有较小上下文窗口的模型往往会“忘记”甚至是最近的对话内容,导致它们偏离主题,通常是以问题方式偏离主题。

封面图片

一个集成ChatGPT的音频笔记软件,会录音,能转成文字,并且借助ChatGPT生成摘要。 | #工具

封面图片

OpenAI 发布产品 AI Classifier,能分辨人类与AI生成的文本

OpenAI 发布产品 AI Classifier,能分辨人类与AI生成的文本 AI Text Classifier 是一个用于区分AI文本和人类文本的分类器,使用了大量针对同一话题的AI文稿和人类文稿进行数据训练。 OpenAI 强调他们的分类器不完全可靠并列举出目前 AI Text Classifier 的局限性: 1. 在低于1000个字符的短文本上非常不可靠。更长文本有时也会被错误标记。 2. 有时会错把人类文本标记为AI文本。 3. 在英文以外语言的文本上表现很差。 4. 无法可靠地识别非常可预测文本。 (例:无法辨别“前1000个素数的列表”来自AI还是人类,因为答案总是相同) 5. 经人类编辑后的AI文本可以规避分类器。 (分类器可在成功判断的基础上进行更新与再训练) 6. 基于神经网络的AI对其训练集之外的数据校准得不好,分类器有时对与训练集差异较大的输入会得出十分确信但却错误的判断。 该产品主页

封面图片

#OpenAI封禁多批菲律宾账号:滥用ChatGPT批量生成挺马克斯言论被查

#OpenAI封禁多批菲律宾账号:滥用ChatGPT批量生成挺马克斯言论被查 美国人工智能公司 OpenAI 日前发布报告称,已对多个菲律宾境内用户账号实施封禁,原因是其滥用 ChatGPT 工具大规模生成带有政治倾向的社交媒体评论,用以宣传总统费迪南德·马克斯(Ferdinand Marcos Jr.)并攻击其副总统前盟友莎拉·杜特尔特(Sara Duterte)。 这项调查结果于2025年6月5日(周四)公开,引发外界对人工智能工具在菲律宾政治宣传活动中被系统性滥用的广泛关注。 三阶段信息操控  利用AI发动舆论操作 据OpenAI的披露,该宣传行动分为三大阶段: 话题分析与选题:涉事账号先使用 ChatGPT 分析与马克斯相关的政治动态与新闻事件,再要求AI生成一系列围绕这些话题的回应方向或评论主题。 批量生成评论:随后,用户利用ChatGPT批量生成成千上万条简短评论(通常不超过10个词),内容以歌颂总统马克斯为主,部分则批评副总统莎拉·杜特尔特。 包装传播:除了用于留言,部分生成内容还被整理为公关文案,用于推广至少5个TikTok频道,这些频道于2025年2月中旬起上线,发布内容高度重复,仅更换标题与留言。 社媒行为异常 无粉账号大量转发内容 这些操作还通过Facebook进一步扩散。OpenAI指出,多个无好友账号(多于2024年12月中旬新建)在主流新闻平台留言区反复贴出由ChatGPT生成的评论,疑似为假账号操作。 OpenAI将该系列信息操控行动与马卡蒂市一家名为 Comm&Sense Inc. 的公关公司关联。值得注意的是,Facebook与TikTok均明文禁止此类“非真实操控行为(inauthentic behavior)”,该行为构成对平台算法的操纵与舆论误导。 多国干预趋势浮现 中国操作亦遭揭露 除了菲律宾案件外,OpenAI此次报告还揭露了数起中国背景的信息操控行动,包括利用 ChatGPT 生成涉台海局势、美国国际开发署(USAID)等敏感议题的评论内容。这些行动涉及生成“政治宣传语”,并通过社群账号或匿名频道散布。 背景延伸 马克斯阵营曾多次卷入信息战争议 马克斯总统与其家族长期以来受益于社交媒体上的“洗白运动”,试图淡化其父亲前独裁者费迪南德·马克斯在戒严时期的暴政与人权侵害纪录。2022年总统大选前,马克斯二世是最大受益于社交媒体虚假信息的候选人之一。 但其本人在任内亦遭遇多起“反向造假”事件。2025年中期选举前,马克斯成为深度伪造视频(deepfake)攻击目标,同时也面临杜特尔特派系的社交舆论围攻。 菲律宾近年来AI工具被用于制造假新闻、操控舆论、生成伪造图像与视频的现象日益严重,信息战态势持续升级。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人