OpenAI 正在使用 GPT-4 构建人工智能驱动的内容审核系统

OpenAI 正在使用 GPT-4 构建人工智能驱动的内容审核系统 人工智能初创公司 OpenAI 表示，GPT-4 正在测试内容审核功能，任何拥有 OpenAI API 访问权限的人都可以使用这种方法来创建自己的人工智能辅助审核系统。 从 OpenAI 官网了解到，GPT-4 可用于制定适当的内容政策，并可以更快地为帖子添加标签或作出评判。该公司一直在测试该技术，并邀请客户也进行试验。借助该系统，开发和制定内容策略的过程从几个月缩短到几个小时。 OpenAI 称，该功能为数字平台的未来提供了更积极的愿景，人工智能可以根据平台特定的政策帮助调节在线流量，并减轻大量人类审核员的精神负担。来源 ， 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

OPENAI 疑似出现漏洞，使用固定链接可以直接使用 GPT-4

OPENAI 疑似出现漏洞，使用固定链接可以直接使用 GPT-4 11 月 16 日消息，有上的网友发现 OPENAI 疑似出现漏洞，登录普通账号，使用下面的链接可以直接切换为 GPT-4 对话。经实践测试的确如此，后期官方应该会修复。 提示：请勿滥用，现在无法确定是否会被封号。

OpenAI通过新更新治愈了GPT-4的"变懒"问题

OpenAI通过新更新治愈了GPT-4的"变懒"问题 最近，一些 ChatGPT 用户抱怨聊天机器人经常拒绝完成提示任务，并将原因归咎于 GPT-4 缺乏更新。不过，OpenAI 这次更新的是GPT-4 Turbo，它是更广泛使用的 GPT-4 的一个版本，是根据 2023 年 4 月的信息训练的，目前只有预览版。使用 GPT-4 的用户可能仍然会遇到同样的问题，因为 GPT-4 是根据 2021 年 9 月之前的数据进行学习的。OpenAI 在帖子中表示，在通过其 API 使用 GPT-4 的用户中，有超过 70% 的人已经转用 GPT-4 Turbo，因为它的知识库更新更快。该公司表示，GPT-4 Turbo 将在未来几个月内进行更多更新，包括全面推出带视觉功能的 GPT-4 Turbo。这将使用户能够进行更多的多模态提示，如文本到图像的生成。OpenAI 还推出了名为嵌入（embeddings）的小型人工智能模型。OpenAI 将 Embeddings 定义为"代表自然语言或代码等内容中概念的数字序列"。这可以帮助使用检索增强生成（一种从数据库中获取信息而不是生成答案的人工智能）的应用程序找出所访问的不同内容之间的关系。这些新型号（text-embedding-3-small 和功能更强大的 text-embedding-3-large）现已推出。 ... PC版： 手机版：

OpenAI宣布GPT-4 Turbo with Vision向ChatGPT用户和API开发者开放

OpenAI宣布GPT-4 Turbo with Vision向ChatGPT用户和API开发者开放 不过 OpenAI 也宣布该版本面向部分使用 API 调用的开发者们开放，所以如果你已经有 OpenAI API 那么也可以通过 API 付费调用 Vision 版。GPT-4 Turbo with Visio 继承了 GPT-4 Turbo 的所有特性，包括支持 128K 上下文窗口和截止到 2023 年 12 月的知识数据，与 Turbo 相比，Vision 带来了视觉理解功能，可以用来理解图像和视觉内容。在推出 Visio 版之前开发者必须调用单独的文本和图像模型，而现在开发者调用一个模型即可处理内容，这可以大幅度简化开发者的内容处理流程，为开发者推出更多富有创意的用例打开了大门。OpenAI 开发者团队也分享了一些使用该模型的用例，例如 AI 软件工程师助理 Devin 使用 GPT-4 Turbo with Visio 更好地协助编写代码，Make Real 使用 GPT-4 Turbo with Visio 将用户绘制的图片转换为一个可在线访问和交互的网站。健康和健身应用 Healthift 使用带有 Vision 的 GPT-4 Turbo 来扫描用户膳食的照片，通过照片识别来提供营养见解。API 费率方面 GPT-4 Turbo with Visio 的价格要比普通版本更高一些，开发者们可以通过 OpenAI 开发者平台查询最新支持文档和费率以及 API 调用的一些限制。OpenAI 开发者支持文档： ... PC版： 手机版：

OpenAI的GPT商店充斥大量违规内容 |

OpenAI的GPT商店充斥大量违规内容 | OpenAI 推出的 GPT 商店(GPT Store)旨在让开发者构建基于 OpenAI 生成式 AI 模型的定制聊天机器人，用于完成各种任务。 然而，该商店目前被大量奇怪的、可能侵犯版权的 GPT 机器人所淹没，这些机器人宣称能够生成迪士尼和漫威等知名 IP 的艺术作品，实际上只是将用户引导至第三方付费服务，并自称能够绕过 AI 内容检测工具。 这一现象暴露了 OpenAI 在审核和管理 GPT 商店内容方面的不足，存在着较为宽松的监管。一些 GPT 机器人还声称能够生成令人反感或不当的内容，如仇恨言论、暴力内容等，这进一步加剧了对 OpenAI 内容审核的质疑。 点评： OpenAI 在推出 GPT 商店时，可能低估了管理和审核内容的难度，导致了目前的混乱局面。过于宽松的审核政策，不仅可能助长版权侵权行为，还有引导 AI 系统产生有害内容的风险。 这一事件再次凸显了 AI 系统在伦理和安全方面的挑战，需要制定更加严格的准则和监管措施。尽管 GPT 商店的初衷是推动 AI 创新，但如果缺乏有效管控，反而可能适得其反，损害 OpenAI 的声誉和公众对 AI 的信任。OpenAI 需要及时采取行动，加强内容审核，清理违规内容，并制定更加透明和负责任的管理机制，以确保 GPT 商店的健康发展。 这一事件也引发了人们对 AI 系统的担忧，如何在促进创新与维护秩序之间寻求平衡，是一个亟待解决的难题。

OpenAI 相信它的技术可以帮助解决科技领域最难的问题之一：大规模的内容审查。

OpenAI 相信它的技术可以帮助解决科技领域最难的问题之一：大规模的内容审查。 OpenAI声称，GPT-4 可以取代成千上万名人类审查员，准确度几乎一样且更加一致。如果这是真的，那么科技领域中最具有精神压力和心理伤害的任务可能会被外包给机器。 在一篇博文中，OpenAI 声称已经在使用 GPT-4 来开发和完善自己的内容政策、对内容标记和做出决策。 OpenAI 安全系统负责人Lilian Weng 告诉 Semafor 说：“我希望看到更多的人以这种方式运作他们的信任和安全以及审查工作。这是我们利用人工智能解决现实世界问题迈出的重要一步，这种方式对社会是有益的。” 与传统的内容审核方法相比，OpenAI 认为有三大优势。首先，不同的审查员对政策的理解是不同的，而机器的判断是一致的。平台审查政策可能会很长，而且不断变化。人类需要经过大量学习才能适应，而 OpenAI 认为大型语言模型可以立即执行新政策。 其次，据称 GPT-4 可以在数小时内帮助制定新政策。起草、标注、收集反馈和完善的过程通常需要数周或数月的时间。第三，OpenAI 提到了长时间接触有害内容（如虐待儿童或酷刑视频）的工人的心理健康问题。