微软被曝解散整个AI风险评估团队

微软被曝解散整个AI风险评估团队多位微软离职和在职员工表示，此举导致微软将再也没有专门的团队来确保其AI原则与产品设计紧密结合，而目前该公司正在引领潮流，努力让AI工具成为主流。不过，微软仍然保留着名为负责任AI办公室（ORA）的团队，其任务是制定规则来管理公司的AI计划。微软表示，尽管最近进行了裁员，但其在责任工作方面的整体投资始终在增加。微软在一份声明中表示：“微软致力于以安全、负责任的态度开发AI产品和体验，并通过投资于优先考虑这些因素的人员、流程和合作伙伴来实现该目标。在过去的六年里，我们增加了产品团队和ORA的人员数量，他们与微软的所有人一起，负责确保我们将AI原则付诸实践。我们感谢道德与社会团队所做的开创性工作，帮助我们继续完成负责任AI之旅。”微软员工透露，在确保公司产品和服务符合负责任AI原则方面，道德和社会团队发挥了关键作用。一位离职员工表示：“人们看到ORA提出的原则却不知道如何运用，而我们的工作就是向他们展示，并在缺乏规则的领域制定规则。”近年来，该团队设计了名为《JudgmentCall》的角色扮演游戏，帮助设计师设想AI可能带来的潜在危害，并在产品开发过程中进行讨论。道德和社会团队在2020年达到了最大规模，当时有大约30名员工，包括工程师、设计师和哲学家。但在去年的重组过程中，该团队被削减至只剩7人。在重组后的一次团队会议上，微软AI业务副总裁约翰·蒙哥马利(JohnMontgomery)表示，公司管理层已经指示他们迅速行动。据悉，蒙哥马利当时说：“来自首席技术官凯文·斯科特(KevinScott)和首席执行官萨蒂亚·纳德拉(SatyaNaDELLa)的压力非常大，他们都要求加速将OpenAI模型和后续模型送到客户手中。”蒙哥马利说，由于这种压力，道德和社会团队中的许多人将被转移到公司的其他业务。当时，蒙哥马利称该团队不会被淘汰，而是需要将“更多精力放在构建服务和软件的单个产品团队上”。随后，该团队多数成员都被调到其他部门，剩余人员则因为人员不足，促使许多雄心勃勃的计划再也难以实施。大约五个月后，剩下的员工被告知整个团队最终被解散。一名员工表示，此举在AI产品的用户体验和整体设计方面留下了巨大漏洞。他们解释说：“最糟糕的是，我们这样做让企业面临风险，人类陷入风险之中。”道德与社会团队的成员表示，他们通常会努力支持产品开发。但随着微软开始专注于比竞争对手更快地推出AI工具，公司管理层对该团队所专注的那种长期考虑不再那么感兴趣。就在道德与社会团队被解散之际，其他人正将注意力放在预测微软向全球观众发布OpenAI支持的AI工具时产生的影响。在去年的备忘录中，道德与社会团队详细说明了与必应图像创建器相关的风险，该工具使用OpenAI的Dall-E系统根据文本提示创建图像。这款图像工具于10月份在几个国家推出，使其成为微软与OpenAI的首批公开合作之一。虽然文字转图像的技术已经被证明非常受欢迎，但微软的研究人员准确地预测到，它也可能威胁到艺术家的生计，因为它允许任何人轻松复制艺术家的创作风格。此外，OpenAI更新了其服务条款，赋予用户“使用Dall-E创建图像的完全所有权”，这让微软道德和社会团队感到担忧。（小小）...PC版：https://www.cnbeta.com.tw/articles/soft/1349299.htm手机版：https://m.cnbeta.com.tw/view/1349299.htm

公司内部疑生动荡 OpenAI 人工智能风险团队解散

公司内部疑生动荡OpenAI人工智能风险团队解散据美国杂志《WIRED》证实，专注于研究人工智能生存危险的OpenAI团队已经全部辞职或被其他小组吸收。OpenAI去年7月宣布成立一个新的研究团队，为能够智胜其创造者的超级AI的出现做准备，公司创始人之一IlyaSutskever被任命为团队共同负责人。团队解散是公司内部最近出现动荡的又一证据。据TheInformation上月报道，团队两名研究人员因泄露公司机密而被解雇，另一名成员也在2月离开。OpenAI章程规定，必须安全地开发人工通用智能，即可以与人类匹敌或超越人类的技术。公司最近发布了GPT-4o新模型，没有迹象表明最近的离职与公司在AI方面的努力有关，但最新进展确实引发了有关隐私、情感操纵和网络安全风险的问题。

穆迪与微软和OpenAI合作开发AI助手 帮助客户进行风险评估

穆迪与微软和OpenAI合作开发AI助手帮助客户进行风险评估穆迪CEO罗布·福伯（RobFauber）表示，MRA将面向分析师、银行家、顾问、研究人员和投资者等客户推出，今年晚些时候就会面向部分客户推出一个版本。福伯还表示，将来这款AI助手还可能用于借贷和承销等任务。穆迪今日还表示，已向其1.4万名员工推出了来自微软的AI助手技术，这些员工正在使用该技术来帮助搜索海量的内部信息，包括穆迪的Orbis数据库。微软是OpenAI的最大投资者。如今，越来越多的企业客户希望使用微软的AzureOpenAI服务，从云端访问OpenAI的AI模型。这些客户可以使用OpenAI的ChatGPT和GPT4语言生成和聊天机器人功能，为员工和客户编写自己的应用程序。微软表示，本季度的前一个半月，已有2000名新客户注册了这项服务。福伯说：“我们的客户必须应对一系列不同的风险，不仅仅是信用风险，还要了解与你做生意的人的声誉状况、网络风险、碳过渡、与气候变化相关的风险、金融犯罪和制裁等。而这项AI技术极具潜力，它能轻松地从这些不同的内容和数据集中提取信息，并将它们结合在一起，然后以一种非常自然、直观的方式提供见解。”微软全球金融服务副总裁BillBorden表示，穆迪一直在使用微软的Office和企业云工具，并将一些应用程序转移到Azure云中。福伯还称，穆迪也一直在与OpenAI直接合作，但这一次考虑到开发MAR助手的速度和规模，认为有必要同时与微软展开合作。...PC版：https://www.cnbeta.com.tw/articles/soft/1368117.htm手机版：https://m.cnbeta.com.tw/view/1368117.htm

据美国杂志WIRED：OpenAI的长期人工智能风险团队已经解散。

据美国杂志WIRED：OpenAI的长期人工智能风险团队已经解散。去年七月，OpenAI宣布成立一个研究团队，以应对超智能AI的潜在威胁。现在，这个团队已经解散，成员们要么离开公司，要么加入其他团队。团队的联合负责人IlyaSutskever离职引起了关注，他是OpenAI的联合创始人之一，也是之前解雇CEOSamAltman的四名董事之一。团队的解散显示了OpenAI在治理危机后的内部变化。关注频道@ZaiHuaPd频道投稿@ZaiHuabot

曝 OpenAI 超级对齐团队解散

曝OpenAI超级对齐团队解散OpenAI超级对齐团队正在分崩离析。团队负责人OpenAI联合创始人、首席科学家伊尔亚・苏茨克维（IlyaSutskever）与杨・莱克（JanLeike），本周双双离职。北京时间周五晚间，杨・莱克在社交平台X上公开解释了他为什么离职。他写到原因跟对核心优先事项以及团队分配资源的分歧有关，他更关注安全性、一致性等问题；超级对齐团队过去几个月一直在“逆风航行”，在计算上很吃力，完成研究越来越困难；过去几年，安全文化和流程已经让位于更耀眼的产品。这似乎是OpenAI高管第一次公开表示OpenAI将产品置于安全之上。

OpenAI 的长期人工智能风险团队已经解散

OpenAI的长期人工智能风险团队已经解散5月17日消息，据美国杂志WIRED报道，去年7月，OpenAI宣布成立一个新的研究团队，为超级智能的到来做准备，这种超级智能能够智胜和压倒其创造者。OpenAI的首席科学家、公司联合创始人之一IlyaSutskever被任命为这个新团队的联合领导人。OpenAI表示，该团队将获得其计算能力的20%。现在OpenAI的超级对齐团队已经解散，公司证实了这一消息。在此之前，已经有几名参与其中的研究人员离职，周二的消息称Sutskever将离开公司，而该团队的另一位联合领导人也辞职了。该团队的工作将被整合到OpenAI的其他研究工作中。来源：财经慢报频道