OpenAI CEO奥尔特曼称AGI会让全球GDP翻倍、理解前董事会的焦虑

OpenAI CEO奥尔特曼称AGI会让全球GDP翻倍、理解前董事会的焦虑 就GPT-5开发进展,奥尔特曼称,开发GPT-5还需一些时间,希望GPT-5取得重大飞跃,而GPT-4还会出现很多错误,犯一些6岁小孩都不会犯的错误。就人工智能的前景, 奥尔特曼表示,人工智能是巨大的生产力驱动力,AGI(通用人工智能)可以创造100万亿美元的财富,可以让全球的GDP翻倍,或许只需要10年完成翻倍。近期另有一些争议事件围绕着OpenAI,例如,OpenAI与苹果合作后,特斯拉CEO马斯克对苹果将用户数据交给外部公司的安全性问题表示质疑,称不允许苹果产品进入公司。就“不允许苹果产品进入公司”的言论,奥尔特曼表示“我怀疑这件事是否会发生,但我没有预料到(会如此)”,他认为这不代表其他科技公司的普遍反应,而更像是马斯克的反应。奥尔特曼也对去年底他被董事会解雇一事表达看法。“这是非常痛苦的经历,但我确实理解前董事会为何会如此焦虑,前董事会成员对人工智能的持续发展感到紧张,对我和我们所做的事有一些看法,尽管我非常强烈地反对他们的想法。他们是一些对未来感到紧张并试图弄清楚如何取得好结果的好人。事件发生后,我不得不在震惊的情绪下收拾残局。”奥尔特曼表示,现在新董事会成员经验丰富、(想法)富有建设性且乐于提供帮助。奥尔特曼谈及人们对人工智能安全的焦虑。“(人工智能)将导致社会发生巨大的变化,我认为它与其他技术趋势不同。有一种可以理解的焦虑感,来自人们对人工智能将走向何方的疑虑。即便我们解决了每一个有关滥用的问题、找到了完美的监管机制,当人工智能工具变得越来越强大,当计算机不仅能理解我们、帮助我们的时候,生活会是样子?”奥尔特曼表示,或许未来可以让计算机去运营一家企业。OpenAI做了很多工作来保障人工智能的安全性,后续还将继续争取人们对人工智能系统的信任。另一些与人工智能相关的争议事件引起广泛关注,例如,此前美国演员斯嘉丽·约翰逊指控ChatGPT使用类似她声音的AI语音,奥尔特曼此前曾回应称,他不认为那是约翰逊的声音。奥尔特曼此次表态,整个行业对于人工智能技术被用来伤害个人的事情,需要采取非常强硬的立场。“人工智能技术达到能‘换脸’的水平是不可避免的,但这是我们社会监督和政府监管可以发挥作用的地方。对于‘换脸’、虚假信息等不好的使用,我们需要划一条界线。”奥尔特曼称。越来越多由人类创造的数据被用于人工智能训练,为了让大模型变得更加智能,是否人工智能公司将对数据越来越“贪得无厌”,并持续引发关于合理使用的争议?奥尔特曼对此回应称,目前还不确定未来如何让大模型变得越来越聪明,包括是否永远需要越来越多的数据,需要找到新的模式来获得数据并训练模型。至于如何让计算机获得正确的价值观,奥尔特曼表示,虽然现在还不能说完全解决了人工智能对齐的问题,但在目前人工智能系统中,让系统学会如何按一套价值观行事的效果比他想象的更好。现在更难的问题是,谁来决定价值观,社会层面可以讨论人工智能的价值观应该是什么。奥尔特曼表示,GPT-4花了约8个月的时间进行红队测试和外部咨询,未来的大模型可能需要花更多时间。 ... PC版: 手机版:

相关推荐

封面图片

马斯克起诉 OpenAI 及其 CEO 山姆·奥尔特曼

马斯克起诉 OpenAI 及其 CEO 山姆·奥尔特曼 当地时间2月29日晚间,埃隆·马斯克向旧金山高等法院提起诉讼,以违反合同、违反信托义务和不公平商业行为等为由起诉 OpenAI 及其 CEO 山姆·奥尔特曼。埃隆·马斯克在诉讼中表示,奥尔特曼和 OpenAI 违背了这家人工智能研究公司成立时达成的一项协议,即开发技术的目的是造福人类而不是利润。埃隆·马斯克声称 OpenAI 最近与科技巨头微软公司的关系损害了该公司致力于公共开源通用人工智能的初衷。埃隆·马斯克说:“OpenAI, Inc. 已经转变为世界上最大的科技公司微软事实上的闭源子公司。在新董事会的领导下,它不仅是在开发而且实际上是在完善 AGI,以实现微软的利润最大化,而不是造福人类。”

封面图片

人工智能公司 OpenAI 宣布任命新董事会成员

人工智能公司 OpenAI 宣布任命新董事会成员 当地时间3月8日,人工智能公司 OpenAI 宣布任命三名新董事会成员,作为实现扩张承诺的第一步:苏珊∙德斯蒙德-赫尔曼 (比尔及梅琳达∙盖茨基金会前首席执行官)、妮科尔·塞利格曼 (索尼公司前执行副总裁兼总法律顾问) 以及 Instacart 首席执行官兼董事长 Fidji Simo。此外,首席执行官萨姆·奥尔特曼将重新加入 OpenAI 董事会。

封面图片

在解散安全团队后,OpenAI 成立了山姆·奥尔特曼参与的监督委员会

在解散安全团队后,OpenAI 成立了山姆·奥尔特曼参与的监督委员会 美国人工智能公司 OpenAI 成立了一个董事会委员会来评估其人工智能模型的安全性和保障措施,这是在其负责该领域的高管辞职以及公司解散其内部安全团队数周后做出的治理变革。新委员会将用90天时间评估 OpenAI 技术中的安全措施,然后提交报告。该公司28日在一篇博客文章中表示:“在全体董事会审查后,OpenAI 将以符合安全和保障的方式公开分享已采纳建议的更新情况。”OpenAI 还表示,最近已开始训练其最新的人工智能模型。

封面图片

马斯克发起诉讼 要求OpenAI前董事会成员提供罢免奥特曼文件

马斯克发起诉讼 要求OpenAI前董事会成员提供罢免奥特曼文件 周六,彭博社援引华盛顿特区高等法院提交的文件,要求 OpenAI 前董事海伦·托纳 (Helen Toner) 交出与将萨姆·奥尔特曼 (Sam Altman) 从 OpenAI 中除名并恢复其职务的决定相关的文件。该请求是向 OpenAI 和 Sam Altman 以及前董事 Helen Toner 提出的,目的是在法庭文件中获取有利的信息。在23日签署的一份文件中,埃隆·马斯克要求在5月21日之前交出相关信息。海伦·托纳担任乔治城大学安全与新兴技术中心主任,没有立即回应彭博社的置评请求。去年11月,在托纳和其他董事会的领导下,首席执行官萨姆·奥尔特曼(Sam Altman)被解除了首席执行官职务。然而,当 OpenAI 员工集体辞职、微软试图聘请 Sam Altman 时,Toner 和其他董事最终辞职。新成立的董事会组建了一个外部调查小组,对首席执行官萨姆·奥尔特曼进行调查,但最终决定首席执行官奥尔特曼没有做出任何可能被解雇的事情。托纳公开表示,人工智能公司应该与公众分享有关正在开发的技术风险的信息,并在这些工具出现问题时收集更多数据。4 月份在温哥华举行的 TED 会议演讲中,她表示人工智能公司应该分享有关他们正在构建的内容、系统可以做什么以及他们如何管理风险的信息。 ... PC版: 手机版:

封面图片

奥尔特曼公开回应AI语音争议 但回避关于OpenAI治理的问题

奥尔特曼公开回应AI语音争议 但回避关于OpenAI治理的问题 OpenAI CEO萨姆·奥尔特曼(Sam Altman)在日内瓦当地时间周四的国际电信联盟(ITU)AI for Good全球峰会上,回应了相关敏感话题。“那不是约翰逊的声音,不应该是这样的。对于声音的相似程度,人们会有不同的看法,但我们不认为那是她的声音。”奥尔特曼在与大西洋月刊CEO尼古拉斯·汤普森的现场对话中表示。根据斯嘉丽·约翰逊此前的说法,奥尔特曼在去年9月找到她,希望她为ChatGPT配音,她拒绝了,但近期她发现OpenAI Sky系统声音跟她很像。受质疑后,OpenAI同意删除相关语音。奥尔特曼对于公司治理的相关话题则有所回避。本月,OpenAI与安全相关的“超级智能对齐”团队两名负责人相继出走,其中一名负责人詹·莱克(Jan Leike)在社交媒体上表示,他与OpenAI高层在核心优先事项上存在分歧,到了不可弥合的临界点,在过去的几年间,公司安全文化和流程已被“闪亮的产品”取代。尼古拉斯·汤普森现场询问了关于OpenAI治理情况和成立新安全委员会的想法,奥尔特曼回应称“我们继续讨论如何实施治理,我现在可能不应该说太多”。但奥尔特曼也表示,成立新的安全委员会是为了帮助OpenAI为下一个模型做好准备。近日还有OpenAI前董事会成员质疑奥尔特曼不够诚实。在一档播客节目中,去年投票支持解雇奥尔特曼的OpenAI前董事会成员海伦·托纳(Helen Toner)表示,奥尔特曼多年来一直在隐瞒信息,ChatGPT于2022年11月推出时董事会未得到提前通知,而是在社交媒体上知晓此事。她还表示,奥尔特曼多次提供了关于公司少数安全流程的不准确信息,董事会基本不可能知道这些安全流程效果如何。关于上述说法,奥尔特曼现场表示,他不同意海伦·托纳对事件的回忆,并表示海伦·托纳关心AGI(通用人工智能)的结果,他很欣赏她,祝她一切顺利,而自己不想在此逐句反驳。OpenAI近日宣布公司开始训练下一个前沿模型,并预计该模型有望将人工智能技术能力提升到一个新层级。奥尔特曼现场还分享了关于AI运行机制的想法,他认为AI系统运行与人类大脑有相似性。“我们没有解决可解释性(解释AI系统如何作出决策)的问题。”奥尔特曼表示,但即使没有完全的认知,这些AI系统通常也被认为是安全和强健的,“我们不知道你的大脑在一个个神经元之间发生了什么,但我们知道你可以遵守一些规则,而且可以解释为什么会想一些事情。” ... PC版: 手机版:

封面图片

OpenAI的Altman重新加入公司董事会

OpenAI的Altman重新加入公司董事会 据the Information报道,近四个半月前突发高层人事动荡的OpenAI又有新变化,首席执行官Sam Altman重返这家人工智能公司的董事会。  该新闻网站3月8日称,他的回归是董事会一系列变动之一。比尔及梅琳达·盖茨基金会前负责人Sue Desmond-Hellmann、前索尼娱乐高管Nicole Seligman和Instacart首席执行官Fidji Simo也将进入董事会。 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人