OpenAI宣布与"常识媒体"（Common Sense Media）建立合作伙伴关系

OpenAI宣布与"常识媒体"（CommonSenseMedia）建立合作伙伴关系OpenAI首席执行官SamAltman表示，作为合作关系的一部分，OpenAI将与CommonSenseMedia合作，根据CommonSense的评级和评估标准，在OpenAI的GPT市场GPTStore上策划"家庭友好型"GPT（由OpenAI的GenAI模型驱动的聊天机器人应用程序）。"人工智能为家庭和青少年带来了难以置信的好处，我们与常识组织的合作将进一步加强我们的安全工作，确保家庭和青少年能够放心使用我们的工具，"Altman在一份声明中补充道。此前，OpenAI曾表示将参与CommonSense于9月推出的新框架，该框架旨在对人工智能产品的安全性、透明度、道德使用和影响进行评估，用于人工智能评级和审查。"常识"联合创始人兼首席执行官詹姆斯-斯蒂尔（JamesSteyer）表示，"常识"框架旨在为人工智能产品贴上"营养标签"，以揭示产品的使用环境，并根据一系列"常识"原则突出潜在的机遇和危害领域。斯泰尔在一份电子邮件声明中说："CommonSense和OpenAI将共同努力，确保人工智能对所有青少年和家庭产生积极影响。我们的指南和策划将旨在教育家庭和教育工作者安全、负责任地使用[OpenAI工具，如]ChatGPT，这样我们就能共同避免这一新兴技术带来任何意想不到的后果。"...PC版：https://www.cnbeta.com.tw/articles/soft/1414943.htm手机版：https://m.cnbeta.com.tw/view/1414943.htm

中美将在人工智能安全方面开展合作

中美将在人工智能安全方面开展合作白宫首席科学顾问表示，未来几个月，美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》，尽管中美在人工智能领域存在贸易紧张，但两国将合作减轻人工智能的风险并评估其潜在能力。“我们已经采取措施参与这一进程，”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明，即使在两国贸易紧张局势加剧之际，两国也计划合作保护快速发展的技术。——

前OPENAI研究员将创办人工智能教育公司

前OPENAI研究员将创办人工智能教育公司7月17日消息，OpenAI创始成员安德烈·卡帕蒂(AndrejKarpathy)周二宣布创办人工智能教育公司EurekaLabs。卡帕蒂称，公司将使用人工智能助教来支持和扩展由人类教师设计的教材。“这种教师与人工智能的结合，可以在一个通用平台上运行一整套课程，”卡帕蒂说。“如果我们取得成功，那么任何人学习任何东西都将很容易。”卡帕蒂还表示，该公司的第一个产品将是一个本科水平课程，教学生训练自己的人工智能系统模型。——、

OpenAI 称董事会可以否决 CEO 关于新人工智能产品安全性的意见

OpenAI称董事会可以否决CEO关于新人工智能产品安全性的意见OpenAI表示，即使公司领导层认为人工智能模型是安全的，其董事会也可以选择推迟发布，这是这家人工智能初创公司授权其董事加强人工智能开发保障措施的另一个迹象。周一发布的一套指导方针详细说明了这一安排，解释了该公司计划如何应对其最强大的人工智能系统可能带来的极端风险。该指导方针的发布是在OpenAI首席执行官萨姆・奥特曼(SamAltman)被董事会短暂罢免后，该公司经历了一段动荡时期，这使得董事和公司高管之间的权力平衡成为人们关注的焦点。

OpenAI希望与机构合作建立新的人工智能训练数据集

OpenAI希望与机构合作建立新的人工智能训练数据集模型会以有害的方式放大这些缺陷。现在，OpenAI表示希望通过与外部机构合作创建新的数据集来消除这些缺陷，并希望这些数据集能够得到改进。OpenAI今天宣布了"数据伙伴关系"（DataPartnerships）计划，该计划旨在与第三方机构合作，建立用于人工智能模型训练的公共和私有数据集。OpenAI在一篇博文中表示，数据合作伙伴关系旨在"让更多组织能够帮助引导人工智能的未来"，并"从更有用的模型中获益"。"为了最终制造出安全且有益于全人类的[人工智能]，我们希望人工智能模型能够深入理解所有主题、行业、文化和语言，这就需要尽可能广泛的训练数据集，"OpenAI写道。"将您的内容纳入其中可以增加人工智能模型对您所在领域的理解，从而对您更有帮助。"OpenAI表示，作为数据合作伙伴计划的一部分，它将收集"反映全人类社会"的"大规模"数据集，这些数据集目前还不容易在网上获取。该公司计划在包括图像、音频和视频在内的各种模式下开展工作，但它特别希望收集能"表达人类意图"的数据（如长篇写作或对话），这些数据将跨越不同的语言、主题和格式。OpenAI表示，如有必要，它将与企业合作，使用光学字符识别和自动语音识别工具对训练数据进行数字化处理，并在必要时删除敏感或个人信息。一开始，OpenAI希望创建两种类型的数据集：一种是公开的开源数据集，任何人都可以在人工智能模型训练中使用；另一种是私有数据集，用于训练专有的人工智能模型。OpenAI表示，私有数据集的对象是那些希望数据保密，但又希望OpenAI的模型能够更好地理解其领域的组织；到目前为止，OpenAI已经与冰岛政府和Miðeindehf合作，提高了GPT-4的冰岛语能力，并与自由法律项目合作，提高了模型对法律文件的理解能力。"总之，我们正在寻求合作伙伴，帮助我们教会人工智能理解我们的世界，以便最大限度地帮助每个人，"OpenAI写道。那么，OpenAI能比之前的许多数据集构建工作做得更好吗？暂时还不太确定--最大限度地减少数据集的偏差是困扰世界上许多专家的难题。至少，希望该公司能对整个过程保持透明--以及在创建这些数据集时不可避免地遇到的挑战。尽管这篇博文用词华丽，但其中似乎也有明显的商业动机，那就是以牺牲他人利益为代价来提高OpenAI模型的性能，而且还不给数据所有者任何补偿。这完全符合OpenAI的权利。但考虑到一些创作者的公开信和诉讼，称OpenAI在未经他们许可或支付报酬的情况下，用他们的作品训练了许多模型，这似乎有点听不进去。...PC版：https://www.cnbeta.com.tw/articles/soft/1395783.htm手机版：https://m.cnbeta.com.tw/view/1395783.htm