OpenAI宣布与"常识媒体"（Common Sense Media）建立合作伙伴关系

OpenAI宣布与"常识媒体"（Common Sense Media）建立合作伙伴关系 OpenAI 首席执行官 Sam Altman 表示，作为合作关系的一部分，OpenAI 将与 Common Sense Media 合作，根据 Common Sense 的评级和评估标准，在 OpenAI 的 GPT 市场 GPT Store 上策划"家庭友好型"GPT（由 OpenAI 的 GenAI 模型驱动的聊天机器人应用程序）。"人工智能为家庭和青少年带来了难以置信的好处，我们与常识组织的合作将进一步加强我们的安全工作，确保家庭和青少年能够放心使用我们的工具，"Altman 在一份声明中补充道。此前，OpenAI 曾表示将参与 Common Sense 于 9 月推出的新框架，该框架旨在对人工智能产品的安全性、透明度、道德使用和影响进行评估，用于人工智能评级和审查。"常识"联合创始人兼首席执行官詹姆斯-斯蒂尔（James Steyer）表示，"常识"框架旨在为人工智能产品贴上"营养标签"，以揭示产品的使用环境，并根据一系列"常识"原则突出潜在的机遇和危害领域。斯泰尔在一份电子邮件声明中说："Common Sense 和 OpenAI 将共同努力，确保人工智能对所有青少年和家庭产生积极影响。我们的指南和策划将旨在教育家庭和教育工作者安全、负责任地使用[OpenAI 工具，如] ChatGPT，这样我们就能共同避免这一新兴技术带来任何意想不到的后果。" ... PC版： 手机版：

中美将在人工智能安全方面开展合作

中美将在人工智能安全方面开展合作 白宫首席科学顾问表示，未来几个月，美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。 白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》，尽管中美在人工智能领域存在贸易紧张，但两国将合作减轻人工智能的风险并评估其潜在能力。 “我们已经采取措施参与这一进程，”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明，即使在两国贸易紧张局势加剧之际，两国也计划合作保护快速发展的技术。

【教育部：开展人工智能应用试点示范，建设国家教育数字化大数据中心】

【教育部：开展人工智能应用试点示范，建设国家教育数字化大数据中心】 AI 新智界讯，据教育部消息，教育部科学技术与信息化司司长周大旺 1 月 26 日在教育部新闻发布会上表示，下一步，将开展人工智能应用试点示范，推动智能化。建设国家教育数字化大数据中心，强化资源开发利用、公共服务提供、应用发展监测、综合研究分析和安全运维保障，建成数据治理平台、算法赋能平台、算力共享平台，构建标准规划体系和网络安全体系。实施高等学校生成式人工智能创新应用项目，推动生成式人工智能在相关专业领域的应用，以人工智能赋能国家智慧教育平台升级，实现资源个性推送和智能搜索。 快讯/广告 联系 @xingkong888885

【白宫科技政策办公室主任：中美将在人工智能安全方面开展合作】

【白宫科技政策办公室主任：中美将在人工智能安全方面开展合作】 据 1 月 25 日报道，美国白宫科技政策办公室主任 Arati Prabhakar 表示，美国将在未来几个月与中国就人工智能系统的安全进行合作。尽管中美在人工智能方面的贸易紧张，但两国将共同努力降低风险并进行评估。 快讯/广告 联系 @xingkong888885

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（Gina Raimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。 ... PC版： 手机版：

OpenAI 悄然关闭其人工智能检测工具

OpenAI 悄然关闭其人工智能检测工具 一月份，人工智能巨头 OpenAI 宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。 半年后，这个工具就死了，因为它无法完成其设计目的。这就上周， OpenAI 悄悄地断开了其 AI 检测工具 AI Classifier，因为该公司表示该工具的准确率较低。 OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”