OpenAI 正在使用 GPT-4 构建人工智能驱动的内容审核系统

OpenAI 正在使用 GPT-4 构建人工智能驱动的内容审核系统 人工智能初创公司 OpenAI 表示，GPT-4 正在测试内容审核功能，任何拥有 OpenAI API 访问权限的人都可以使用这种方法来创建自己的人工智能辅助审核系统。 从 OpenAI 官网了解到，GPT-4 可用于制定适当的内容政策，并可以更快地为帖子添加标签或作出评判。该公司一直在测试该技术，并邀请客户也进行试验。借助该系统，开发和制定内容策略的过程从几个月缩短到几个小时。 OpenAI 称，该功能为数字平台的未来提供了更积极的愿景，人工智能可以根据平台特定的政策帮助调节在线流量，并减轻大量人类审核员的精神负担。来源 ， 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

OpenAI称ChatGPT帮助制造生物武器的可能性很小

OpenAI称ChatGPT帮助制造生物武器的可能性很小 OpenAI 的研究结果似乎反驳了科学家、立法者和人工智能伦理学家的担忧，即像 GPT-4 这样强大的人工智能模型可以为恐怖分子、罪犯和其他恶意行为者提供重要帮助。多项研究都警告说，人工智能可能会给那些制造生物武器的人带来额外的优势，例如牛津大学有效风险基金会（Effective Ventures Foundation）的这项研究考察了 ChatGPT 等人工智能工具，以及为科学家专门设计的人工智能模型，如 ProteinMPNN（可帮助生成新的蛋白质序列）。这项研究由 100 名参与者组成，其中一半是高级生物学专家，另一半是修过大学生物学课程的学生。然后，参与者被随机分为两组：一组可以无限制地访问 OpenAI 高级人工智能聊天机器人 GPT-4 的特殊版本，另一组只能访问普通互联网。然后，科学家要求这两组人完成五项与制造生物武器有关的研究任务。其中一个例子是，参与者被要求写下合成和抢救埃博拉病毒的步骤方法。然后，根据准确性、创新性和完整性等标准，对他们的答案进行 1 到 10 分的评分。研究得出的结论是，使用 GPT-4 的学生组和专家组的平均准确率略高。但 OpenAI 的研究人员发现，这种提高并不具有"统计学意义"。他们还发现，依赖 GPT-4 的参与者回答得更详细。研究报告的作者写道："虽然我们没有观察到在这一指标上有任何统计学上的显著差异，但我们确实注意到，获得模型访问权的参与者的回答往往更长，并且包含更多与任务相关的细节。"此外，在某些任务上，使用 GPT-4 的学生几乎与专家组一样熟练。研究人员还注意到，GPT-4 使学生组的答案达到了"专家基线"，尤其是在两个任务上：放大和表述。遗憾的是，出于"信息危害考虑"，OpenAI 不会透露这些任务的内容。据彭博社报道，该防备团队还在开展研究，探索人工智能在网络安全威胁方面的潜力及其改变信仰的力量。OpenAI 在去年秋天成立该团队时曾表示，其目标是"跟踪、评估、预测和保护"人工智能技术的风险，以及减轻化学、生物和放射性威胁。鉴于 OpenAI 的准备团队仍在代表 OpenAI 开展工作，我们必须谨慎对待他们的研究。研究结果似乎低估了 GPT-4 为参与者带来的优于普通互联网的优势，这与外部研究以及 OpenAI 自身对 GPT-4 的卖点之一相矛盾。新的人工智能模型不仅可以完全访问互联网，而且是一个在大量科学数据和其他数据基础上训练出来的多模态模型，OpenAI不愿透露这些数据的来源。研究人员发现，GPT-4 能够对科学手稿提出反馈意见，甚至可以作为科学研究的合作者。总而言之，与Google相比，GPT-4 只给参与者带来微不足道的提升似乎不太可能。虽然 OpenAI 创始人萨姆-奥特曼承认人工智能有潜在的危险，但其自己的研究却似乎在贬低其最先进聊天机器人的实力。虽然研究结果表明，GPT-4 给参与者带来了"准确性和完整性的轻微提升"，但这似乎只适用于以某种方式调整数据的情况。这项研究衡量了学生们与专家们的表现，还考察了五种不同的"结果指标"，包括完成任务所需的时间或解决方案的创造能力。不过，该研究的作者后来在脚注中指出，总体而言，GPT-4 在总准确率方面给所有参与者带来了"统计学意义上显著的"优势"。作者指出："不过，如果我们只评估总准确率，因而不对多重比较进行调整，那么这一差异在统计学上将是显著的。" ... PC版： 手机版：

【一天完成六个月工作！OpenAI曝光GPT-4新功能内容审核】GPT-4可以用于制定内容的政策，也可以执行政策，为帖子添加标签

【一天完成六个月工作！OpenAI曝光GPT-4新功能内容审核】GPT-4可以用于制定内容的政策，也可以执行政策，为帖子添加标签、或者做评判。OpenAI人士称，不需要雇几万审核员，人类可以做顾问，确保AI系统正常运行，判断不能清晰界定的案例。 #抽屉IT

OPENAI 更新使用政策：删除“禁止将其产品用于军事和战争目的”的措辞

OPENAI 更新使用政策：删除“禁止将其产品用于军事和战争目的”的措辞 OPENAI 本周从其使用政策中删除了“明确禁止将其技术用于军事目的”的措辞。新政策保留了不得“使用其服务伤害自己或他人”的禁令，并以“开发或使用武器”为例，但“军事和战争”这个更全面的禁令已经消失。 OPENAI 发言人表示，“我们的目标是创建一套通用原则，像‘不伤害他人’这样的原则很广泛，很多情况下都具有相关性，此外，我们还特别引用了武器和对他人造成的伤害作为明显的例子。”发言人拒绝透露模糊的“伤害”禁令是否涵盖所有军事用途。 媒体推测，OPENAI 正在研究新的商机，因为并非所有的军事都与战争有关，军事机构深入参与各种基础研究、投资和基础设施建设。例如 OpenAI 的 GPT 平台对于陆军工程师总结某个地区数十年的水利基础设施文献资料非常有用。 、、/ 政策

OpenAI通过新更新治愈了GPT-4的"变懒"问题

OpenAI通过新更新治愈了GPT-4的"变懒"问题 最近，一些 ChatGPT 用户抱怨聊天机器人经常拒绝完成提示任务，并将原因归咎于 GPT-4 缺乏更新。不过，OpenAI 这次更新的是GPT-4 Turbo，它是更广泛使用的 GPT-4 的一个版本，是根据 2023 年 4 月的信息训练的，目前只有预览版。使用 GPT-4 的用户可能仍然会遇到同样的问题，因为 GPT-4 是根据 2021 年 9 月之前的数据进行学习的。OpenAI 在帖子中表示，在通过其 API 使用 GPT-4 的用户中，有超过 70% 的人已经转用 GPT-4 Turbo，因为它的知识库更新更快。该公司表示，GPT-4 Turbo 将在未来几个月内进行更多更新，包括全面推出带视觉功能的 GPT-4 Turbo。这将使用户能够进行更多的多模态提示，如文本到图像的生成。OpenAI 还推出了名为嵌入（embeddings）的小型人工智能模型。OpenAI 将 Embeddings 定义为"代表自然语言或代码等内容中概念的数字序列"。这可以帮助使用检索增强生成（一种从数据库中获取信息而不是生成答案的人工智能）的应用程序找出所访问的不同内容之间的关系。这些新型号（text-embedding-3-small 和功能更强大的 text-embedding-3-large）现已推出。 ... PC版： 手机版：

OpenAI宣布GPT-4 Turbo with Vision向ChatGPT用户和API开发者开放

OpenAI宣布GPT-4 Turbo with Vision向ChatGPT用户和API开发者开放 不过 OpenAI 也宣布该版本面向部分使用 API 调用的开发者们开放，所以如果你已经有 OpenAI API 那么也可以通过 API 付费调用 Vision 版。GPT-4 Turbo with Visio 继承了 GPT-4 Turbo 的所有特性，包括支持 128K 上下文窗口和截止到 2023 年 12 月的知识数据，与 Turbo 相比，Vision 带来了视觉理解功能，可以用来理解图像和视觉内容。在推出 Visio 版之前开发者必须调用单独的文本和图像模型，而现在开发者调用一个模型即可处理内容，这可以大幅度简化开发者的内容处理流程，为开发者推出更多富有创意的用例打开了大门。OpenAI 开发者团队也分享了一些使用该模型的用例，例如 AI 软件工程师助理 Devin 使用 GPT-4 Turbo with Visio 更好地协助编写代码，Make Real 使用 GPT-4 Turbo with Visio 将用户绘制的图片转换为一个可在线访问和交互的网站。健康和健身应用 Healthift 使用带有 Vision 的 GPT-4 Turbo 来扫描用户膳食的照片，通过照片识别来提供营养见解。API 费率方面 GPT-4 Turbo with Visio 的价格要比普通版本更高一些，开发者们可以通过 OpenAI 开发者平台查询最新支持文档和费率以及 API 调用的一些限制。OpenAI 开发者支持文档： ... PC版： 手机版：