OpenAI今天宣布推出总额为1000万美元的“超对齐快速资助计划”，旨在支持针对超人工智能系统的对齐和安全性的技术研究。该计划

OpenAI今天宣布推出总额为1000万美元的“超对齐快速资助计划”，旨在支持针对超人工智能系统的对齐和安全性的技术研究。该计划将重点支持弱到强泛化、可解释性、可扩展监督等方面的研究。 OpenAI相信超级智能有可能在未来10年内诞生。这些人工智能系统将具有广泛的能力，可能带来巨大的益处，但也可能带来巨大的风险。目前，我们通过人类反馈的强化学习来确保AI系统的安全。然而，对齐未来的超人工智能系统将面临根本性的新挑战。超人工智能系统将能够展现出人类无法完全理解的复杂和创造性行为。例如，如果一个超人工智能模型生成了一百万行极其复杂的代码，人们将无法可靠地评估这些代码的安全性和危险性。依赖于人类监督的现有对齐技术，如强化学习，可能不再足够。这带来了一个基本性的挑战：人类如何引导和信任比他们聪明得多的AI系统？这是世界上最重要的尚未解决的技术问题之一。但我们认为，通过共同的努力，这个问题是可以解决的。目前有许多有希望的方法和令人兴奋的方向，以及许多唾手可得的成果。我们认为，今天机器学习研究社区和个人研究者在解决这个问题上有巨大的机会。 作为我们的“超对齐”项目的一部分，我们希望汇聚世界上最优秀的研究人员和工程师，迎接这一挑战，我们对能够吸引新的人才进入该领域尤为兴奋。 在与Eric Schmidt的合作下，我们推出了一个总额为1000万美元的资助计划，以支持针对确保超人工智能系统对齐和安全的技术研究。我们将向学术实验室、非营利组织和个人研究者提供10万美元至200万美元不等的资助。对于研究生学生，我们将提供为期一年的OpenAI超对齐奖学金，总额为15万美元，其中包括7.5万美元的生活津贴和7.5万美元的计算资源和研究经费。申请者不需要有对齐方面的先前经验，我们积极寻找首次从事对齐研究的研究者。我们的申请流程简单，并将在申请截止后的四个星期内回复申请者。请在2月18日前提交申请。 通过这些资助计划，我们特别关注以下研究方向： 从弱到强的概括：相对于超人工智能模型，人类将是弱监督者。我们能否理解和控制强模型如何从弱监督中的泛化能力？ 可解释性：我们如何理解模型的内部结构？我们可以用它来构建人工智能测谎仪吗？ 可扩展的监督：我们如何使用人工智能系统来帮助人类评估其他人工智能系统在复杂任务上的输出？ 许多其他研究方向，包括但不限于：诚实、思想链忠实性、对抗性鲁棒性、评估和测试平台等。 via 匿名 标签: #OpenAI #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

OpenAI宣布“漏洞赏金计划”：最高奖励2万美元

OpenAI宣布“漏洞赏金计划”：最高奖励2万美元 OpenAI旗下的生成式AI机器人ChatGPT正红得发紫，但其中不少漏洞也让监管部门、投资者和用户充满担忧。 为了解决其中的漏洞，4月11日周二，OpenAI宣布，将公开悬赏200至2万美元的赏金，以帮助该公司查找其人工智能系统中的错误，例如广受欢迎的ChatGPT聊天机器人。赏金的多少将按照用户发现的bug的重要性来决定，如果想要得到2万美元的赏金，那么必须是公司认定的“特殊发现”。 OpenAI的安全主管 Matthew Knight 说：这一举措是我们致力于开发安全和先进人工智能的重要组成部分。在我们创造安全、可靠和值得信赖的技术和服务时，我们需要您的帮助。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

微软和 OpenAI 推出200万美元基金以打击选举深度造假

微软和 OpenAI 推出200万美元基金以打击选举深度造假 微软和 OpenAI 宣布设立200万美元基金，以应对人工智能和深度造假被用来“欺骗选民和破坏民主”的日益增长的风险。根据博文，微软和 OpenAI 的新“Societal Resilience 基金”致力于“在选民和弱势社区中进一步开展人工智能教育和扫盲” 。这将涉及向少数组织发放赠款，包括老年人技术服务 (OATS)、内容来源和真实性联盟 (C2PA)、国际民主和选举援助研究所 (International IDEA) 和人工智能伙伴关系 (PAI)。据微软称，这些赠款旨在让全社会更好地了解人工智能及其能力。

贝佐斯和英伟达加入 OpenAI 资助人形机器人初创公司

贝佐斯和英伟达加入 OpenAI 资助人形机器人初创公司 据知情人士透露，亚马逊创始人贝佐斯、英伟达和其他大型科技公司正在投资一家类人机器人初创公司 Figure AI，这是寻找人工智能新应用的一部分。知情人士说，同样得到 OpenAI 和微软支持的该公司将在一轮融资中筹集约6.75亿美元，交易前估值约为20亿美元。贝佐斯通过他的公司 Explore Investments LLC 承诺投资1亿美元。微软将投资9,500万美元，英伟达和一个亚马逊附属的基金将各提供5,000万美元。机器人已成为人工智能产业的一个重要新领域，使其能够将尖端技术应用于现实世界的任务。

RWA 区块链 E Money Network 推出 200 万美元资助计划

RWA 区块链 E Money Network 推出 200 万美元资助计划 E Money Network 宣布启动总额为 200 万美元的 RWA 资助计划，以推动 RWA 生态系统的发展。E Money Network 是一个模块化的 RWA 区块链，提供开发者友好的 SDK 和标准化模块，如 KYC 验证、银行、质押和治理等，支持跨链通信和合规性。该计划邀请开发团队提交 RWA 应用的提案，合格项目将获得 5000 至 50000 美元不等的资助，并享受行业专家的指导、法律和合规支持以及市场推广等资源。

微软和OpenAI投入200万美元设立基金打击选举相关的内容造假

微软和OpenAI投入200万美元设立基金打击选举相关的内容造假 生成式人工智能（包括 ChatGPT 等大受欢迎的聊天机器人）的兴起导致了一种新的重大威胁，其中涉及人工智能生成的"深度伪造"，其目的是使虚假信息永久化。这些新工具可以广泛使用，任何人都可以制作假视频、照片或高知名度政治实体的音频，但这并没有什么帮助。就在本周一，印度选举委员会敦促各政党在围绕选举开展的网络宣传活动中避免使用深度伪造和类似的虚假信息。正是在这一背景下，包括微软和 OpenAI 在内的所有主要科技公司都签署了应对此类风险的自愿承诺，并计划建立一个共同框架，以应对专门为误导选民而制造的深度伪造。在其他地方，主要的人工智能公司已经开始通过在其软件中引入限制来应对这些风险。例如，Google表示不允许其 Gemini 人工智能聊天机器人回答有关选举的问题，而 Facebook 的母公司 Meta也限制通过其人工智能聊天机器人回答与选举有关的问题。今天早些时候，OpenAI 为虚假信息研究人员推出了一款新的深度虚假检测工具，旨在帮助识别由其自己的 DALL-E 图像生成器生成的虚假内容，同时它还加入了行业机构内容出处和真实性联盟（C2PA）的指导委员会，该联盟的成员包括 Adobe、微软、Google和英特尔。新的"社会复原力基金"是这一更广泛的"负责任"人工智能推动力的一部分，微软和 OpenAI 目前正致力于"在选民和弱势群体中进一步开展人工智能教育和扫盲活动"。这将涉及向一些组织发放补助金，其中包括老年人技术服务组织（OATS）、内容真实性联盟（C2PA）、国际民主与选举援助研究所（International IDEA）和人工智能合作伙伴关系（PAI）。根据微软的说法，这些资助旨在让全社会更好地了解人工智能及其能力。例如，OATS 显然将把赠款用于针对美国 50 岁及以上人群的培训项目，内容涵盖"人工智能的基础方面"。社会复原力基金的启动只是微软和 OpenAI 致力于应对人工智能扫盲和教育领域的挑战和需求的其中一步，"微软负责技术和企业责任的公司副总裁 Teresa Hutson 在博文中表示。"微软和 OpenAI 将一如既往地致力于这项工作，我们将继续与拥有共同目标和价值观的组织和倡议合作。" ... PC版： 手机版：