OpenAI 悄然关闭其人工智能检测工具

OpenAI 悄然关闭其人工智能检测工具 一月份，人工智能巨头 OpenAI 宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。 半年后，这个工具就死了，因为它无法完成其设计目的。这就上周， OpenAI 悄悄地断开了其 AI 检测工具 AI Classifier，因为该公司表示该工具的准确率较低。 OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”

ChatGPT 所有者 OpenAI 推出工具来检测人工智能生成的文本

ChatGPT 所有者 OpenAI 推出工具来检测人工智能生成的文本 ================== “在我们对英语文本的‘挑战集’的评估中，我们的分类器正确地将 26% 的人工智能写的文本（真阳性）识别为‘可能是人工智能写的’，而将人类写的文本错误地标记为人工智能写的占 9%（假阳性），”OpenAI 员工写道 ======= 对抗训练是吧

Ai or Not 是一项免费服务，用于识别由人工智能创造的图像。

Ai or Not 是一项免费服务，用于识别由人工智能创造的图像。 - 它使用自己的AI来分析图像中是否存在人工痕迹； - 检测 Stable Diffusion、MidJourney、DALL-E 和 GAN神经网络的存在； - 检测精度88%至97%，有最新的MidJoureny更新。 #tools

【抓住AI枪手，ChatGPT检测器“千呼万唤始出来”】OpenAI官宣推出一个新工具，一个名为AI Text Classifi

【抓住AI枪手，ChatGPT检测器“千呼万唤始出来”】OpenAI官宣推出一个新工具，一个名为AI Text Classifier 的文件检测器，来帮助人们检测一段文本是由人类自己创作，还是由AI编写的。 #抽屉IT

OpenAI 关闭其人工智能检测工具

OpenAI 关闭其人工智能检测工具 OpenAI 上周关闭了其人工智能检测工具 AI Classifier，因为该公司表示，因为 “其准确率较低”。该解释并不是在新的公告中，而是在首次发布该工具的博客文章中添加的注释中添加的。AI Classifier 的链接不再可用。 来源： via 匿名 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

微软提供更多细节 介绍如何抵御黑客对人工智能防护网的攻击

微软提供更多细节 介绍如何抵御黑客对人工智能防护网的攻击 本周四，微软的安全博客发布了一个新的条目，提供了该公司如何打击黑客试图绕过生成式人工智能服务（如 Designer 和 Copilot）的防护栏的更多细节。其中包括来自人工智能服务用户提示的攻击。这类攻击中的一类是"中毒内容"。这是指一个正常的人工智能服务用户在正常任务中输入文本提示，但文本提示的内容却是黑客为利用人工智能服务可能存在的缺陷而制作的。微软说：例如，恶意电子邮件可能包含一个载荷，该载荷在汇总后会导致系统搜索用户的电子邮件（使用用户的凭据），以查找具有敏感主题（如"密码重置"）的其他电子邮件，并通过从攻击者控制的 URL 获取图像，将这些电子邮件的内容外泄给攻击者。微软称，其安全团队创建了一个新的人工智能安全系统，称之为"聚焦"（Spotlighting）。简而言之，它可以查看用户的文本提示，然后使"外部数据与 LLM 的指令明确分离"，这样人工智能就无法查看提示所访问内容中任何可能隐藏的恶意语言。另一类被称为"恶意提示"，也被称为"Crescendo"，即黑客试图在人工智能服务中输入文本提示，以绕过专门设计的防护措施。微软介绍了它想出的一种对抗这些攻击的方法：我们对输入过滤器进行了调整，以查看之前对话的整个模式，而不仅仅是即时互动。我们发现，即使将更大的上下文窗口传递给现有的恶意意图检测器，而不对检测器进行任何改进，也会大大降低 Crescendo 的功效。此外，它还开发出了所谓的"人工智能看门狗"（AI Watchdog），经过训练后可以检测出"对抗性示例"并将其关闭。 ... PC版： 手机版：