OpenAI宣布与"常识媒体"（Common Sense Media）建立合作伙伴关系

OpenAI宣布与"常识媒体"（Common Sense Media）建立合作伙伴关系 OpenAI 首席执行官 Sam Altman 表示，作为合作关系的一部分，OpenAI 将与 Common Sense Media 合作，根据 Common Sense 的评级和评估标准，在 OpenAI 的 GPT 市场 GPT Store 上策划"家庭友好型"GPT（由 OpenAI 的 GenAI 模型驱动的聊天机器人应用程序）。"人工智能为家庭和青少年带来了难以置信的好处，我们与常识组织的合作将进一步加强我们的安全工作，确保家庭和青少年能够放心使用我们的工具，"Altman 在一份声明中补充道。此前，OpenAI 曾表示将参与 Common Sense 于 9 月推出的新框架，该框架旨在对人工智能产品的安全性、透明度、道德使用和影响进行评估，用于人工智能评级和审查。"常识"联合创始人兼首席执行官詹姆斯-斯蒂尔（James Steyer）表示，"常识"框架旨在为人工智能产品贴上"营养标签"，以揭示产品的使用环境，并根据一系列"常识"原则突出潜在的机遇和危害领域。斯泰尔在一份电子邮件声明中说："Common Sense 和 OpenAI 将共同努力，确保人工智能对所有青少年和家庭产生积极影响。我们的指南和策划将旨在教育家庭和教育工作者安全、负责任地使用[OpenAI 工具，如] ChatGPT，这样我们就能共同避免这一新兴技术带来任何意想不到的后果。" ... PC版： 手机版：

中美将在人工智能安全方面开展合作

中美将在人工智能安全方面开展合作 白宫首席科学顾问表示，未来几个月，美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。 白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》，尽管中美在人工智能领域存在贸易紧张，但两国将合作减轻人工智能的风险并评估其潜在能力。 “我们已经采取措施参与这一进程，”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明，即使在两国贸易紧张局势加剧之际，两国也计划合作保护快速发展的技术。

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

OpenAI 悄然关闭其人工智能检测工具

OpenAI 悄然关闭其人工智能检测工具 一月份，人工智能巨头 OpenAI 宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。 半年后，这个工具就死了，因为它无法完成其设计目的。这就上周， OpenAI 悄悄地断开了其 AI 检测工具 AI Classifier，因为该公司表示该工具的准确率较低。 OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”

OpenAI 首席执行官山姆奥特曼呼吁中国帮助制定人工智能安全指南

OpenAI 首席执行官山姆奥特曼呼吁中国帮助制定人工智能安全指南 OpenAI 首席执行官萨姆奥特曼表示，中国应该在塑造确保变革性新系统安全所需的人工智能护栏方面发挥关键作用。 “随着越来越强大的人工智能系统的出现，全球合作的风险从未如此高，”奥特曼周六通过视频连线在北京的一次会议上说。 在中国和硅谷，人才和投资都在流入人工智能，这是一个战略领域，将有助于确定世界两大经济体之间不断加深的技术竞争。 新兴技术的进步也凸显了政府如何寻求监管该行业的紧张局势，中国国家主席习近平曾表示需要加强国家监督以减轻国家安全风险。 “中国拥有世界上最优秀的人工智能人才，从根本上说，鉴于高级人工智能系统解决对接的困难，这需要全世界最优秀的人才，”奥特曼在北京人工智能学院主办的活动中告诉与会者。 奥特曼在北京会议上的讲话本身就很值得注意，因为该学院在中国的人工智能领域有着强烈的定位。这个由中国科技部和北京地方政府支持的中国非营利机构，已被微软公司总裁布拉德·史密斯点名为中国三大人工智能中心之一。总裁布拉德-史密斯(Brad Smith)指名道姓地称其为人工智能创新的三个领跑者之一。

OpenAI 签署协议以 Reddit 数据训练人工智能

OpenAI 签署协议以 Reddit 数据训练人工智能 人工智能公司 OpenAI 已与 Reddit 达成协议，使用该社交新闻网站的数据来训练人工智能模型。OpenAI 表示，与 Reddit 的合作将使其能够访问 Reddit 上的“实时、结构化和独特内容” (例如帖子和回复)，从而使其工具和模型能够“更好地理解和展示”这些内容。Reddit 的内容将被整合到 OpenAI 流行的对话式人工智能 ChatGPT 中，双方将合作为 Reddit 用户和版主带来未具体说明的新“人工智能功能”。OpenAI 也将成为 Reddit 的广告合作伙伴。