奥尔特曼公开回应AI语音争议 但回避关于OpenAI治理的问题

奥尔特曼公开回应AI语音争议 但回避关于OpenAI治理的问题 OpenAI CEO萨姆·奥尔特曼（Sam Altman）在日内瓦当地时间周四的国际电信联盟（ITU）AI for Good全球峰会上，回应了相关敏感话题。“那不是约翰逊的声音，不应该是这样的。对于声音的相似程度，人们会有不同的看法，但我们不认为那是她的声音。”奥尔特曼在与大西洋月刊CEO尼古拉斯·汤普森的现场对话中表示。根据斯嘉丽·约翰逊此前的说法，奥尔特曼在去年9月找到她，希望她为ChatGPT配音，她拒绝了，但近期她发现OpenAI Sky系统声音跟她很像。受质疑后，OpenAI同意删除相关语音。奥尔特曼对于公司治理的相关话题则有所回避。本月，OpenAI与安全相关的“超级智能对齐”团队两名负责人相继出走，其中一名负责人詹·莱克（Jan Leike）在社交媒体上表示，他与OpenAI高层在核心优先事项上存在分歧，到了不可弥合的临界点，在过去的几年间，公司安全文化和流程已被“闪亮的产品”取代。尼古拉斯·汤普森现场询问了关于OpenAI治理情况和成立新安全委员会的想法，奥尔特曼回应称“我们继续讨论如何实施治理，我现在可能不应该说太多”。但奥尔特曼也表示，成立新的安全委员会是为了帮助OpenAI为下一个模型做好准备。近日还有OpenAI前董事会成员质疑奥尔特曼不够诚实。在一档播客节目中，去年投票支持解雇奥尔特曼的OpenAI前董事会成员海伦·托纳（Helen Toner）表示，奥尔特曼多年来一直在隐瞒信息，ChatGPT于2022年11月推出时董事会未得到提前通知，而是在社交媒体上知晓此事。她还表示，奥尔特曼多次提供了关于公司少数安全流程的不准确信息，董事会基本不可能知道这些安全流程效果如何。关于上述说法，奥尔特曼现场表示，他不同意海伦·托纳对事件的回忆，并表示海伦·托纳关心AGI（通用人工智能）的结果，他很欣赏她，祝她一切顺利，而自己不想在此逐句反驳。OpenAI近日宣布公司开始训练下一个前沿模型，并预计该模型有望将人工智能技术能力提升到一个新层级。奥尔特曼现场还分享了关于AI运行机制的想法，他认为AI系统运行与人类大脑有相似性。“我们没有解决可解释性（解释AI系统如何作出决策）的问题。”奥尔特曼表示，但即使没有完全的认知，这些AI系统通常也被认为是安全和强健的，“我们不知道你的大脑在一个个神经元之间发生了什么，但我们知道你可以遵守一些规则，而且可以解释为什么会想一些事情。” ... PC版： 手机版：

OpenAI CEO奥特曼回应马斯克对公司和他个人提起的诉讼

OpenAI CEO奥特曼回应马斯克对公司和他个人提起的诉讼 奥特曼在备忘录中回应称，马斯克是他的英雄，他怀念那个曾经通过开发更好的技术与他人竞争的人。奥特曼的后半句有讥讽之意，暗示马斯克不想着好好开发技术，而是通过诉讼阻止他的公司发展。马斯克的起诉书与此同时，OpenAI首席战略官杰森·权(Jason Kwon)也发布了一份备忘录，声称OpenAI“断然不同意”马斯克对公司提起的诉讼，并反驳了马斯克关于OpenAI实际上是其投资者微软的子公司的说法。他表示，马斯克的这个说法“可能源于他后悔如今无法参与到OpenAI运营中来”。杰森·权在备忘录中指出，OpenAI的使命是“确保通用人工智能(AGI)造福全人类”，公司是独立的，与微软直接竞争。他还表示，他希望向员工通报“政府机构调查”的最新情况，这显然是指美国证券交易委员会在去年底奥特曼被公司董事会短暂罢免后展开的一项调查。截至发稿，OpenAI拒绝就诉讼和两封内部备忘录置评。 ... PC版： 手机版：

“寡姐”斯嘉丽称OpenAI未经同意刻意模仿其声音

“寡姐”斯嘉丽称OpenAI未经同意刻意模仿其声音 约翰逊说，她当时拒绝了这个提议。这位影星表示：“当我听到发布的小样时，我感到震惊、愤怒，不敢相信奥特曼会追求一种听起来与我的声音如此相似的声音，我最亲密的朋友和新闻媒体都看不出有什么不同。”约翰逊说，在ChatGPT 4.0演示发布的前两天。奥特曼联系了她的经纪人，请她重新考虑。但在她与OpenAI方面联系之前，系统已经发布了。她说，OpenAI“不情愿”地同意删除Sky语音，因为她聘请了律师，这些律师写信给奥特曼，询问该公司制作这个语音的过程。             ... PC版： 手机版：

OpenAI罢免闹剧水落石出 奥特曼被驱逐原因公布

OpenAI罢免闹剧水落石出 奥特曼被驱逐原因公布 托纳近日接受了播客节目《The TED AI秀》的采访，对OpenAI驱逐奥特曼事件作出了迄今为止最全面的解释。据她透露，当奥特曼发布ChatGPT时，OpenAI董事会被蒙在鼓里，事后通过Twitter(现在的X)才知道这件事。“当ChatGPT在2022年11月推出时，董事会没有事先被告知这件事，”托纳表示，“我们是从Twitter上知道ChatGPT发布的。”OpenAI前董事托纳托纳表示，奥特曼没有披露他与OpenAI创业基金的关系。根据媒体此前报道，OpenAI创业基金在法律上由奥特曼拥有。今年4月，OpenAI创业基金改变了治理结构，不再由奥特曼拥有或控制。她还批评了奥特曼在安全问题上的领导能力。“他曾经在多个场合向我们提供了有关公司实际正式安全流程的不准确信息，”她说，“这意味着董事会基本上不可能知道这些安全流程的运作情况如何，或者可能需要改变什么。”托纳表示，在这样的事情发生多年后，奥特曼最终失去了董事会的信任。“我们四个人都得出了一个结论，那就是我们不能相信山姆告诉我们的事情。”她表示。于是，去年11月，OpenAI董事会宣布解雇奥特曼，原因是他在与董事们的互动中无法保持“始终坦诚”。截至发稿，OpenAI没有立即就此置评。OpenAI现任董事长布雷特·泰勒(Bret Taylor)在提供给TED播客的一份声明中表示，“我们对托纳女士旧事重提感到失望”。他还表示，对奥特曼被解雇一事进行的独立审查得出的结论是，“之前董事会的决定并非基于对产品安全或保障、开发速度、OpenAI财务状况或公司对投资者、客户或商业伙伴所发声明的担忧”。泰勒还表示，“超过95%的员工”要求奥特曼复职，公司仍然专注于“确保通用AI造福全人类的使命”。 ... PC版： 手机版：

奥特曼承认OpenAI名不符实：我们需要大量资金

奥特曼承认OpenAI名不符实：我们需要大量资金 奥特曼说：“我们一开始只是想成为一个研究实验室，对这项技术的发展方向一无所知。”他说：“这是在我们对API或出售聊天机器人的访问权限有任何想法之前，那时候我们还没有意识到要把它产品化。”OpenAI最初是作为一个非营利组织成立的，其使命是通过人工智能造福人类，但在2019年过渡到“上限盈利”模式时，它摆脱了这一地位。作为OpenAI的创始人之一，特斯拉CEO埃隆·马斯克对OpenAI不完全开源的事实持异议，他于上个月起诉了该公司，声称它违反了“创始协议”，违反了其最初的非营利使命。马斯克还在X平台上发帖称：“改改你们的名字……改成ClosedAI，我就会放弃诉讼。”但奥特曼告诉弗里德曼，他并不真正理解马斯克的“真正动机”是什么。他为OpenAI辩护说，公司经历了一个自然的过渡过程，因为“很明显，我们需要做不同的事情，也需要大量的资金。”“所以我们说，‘好吧，这个结构不太适用。我们如何修补结构？’”奥特曼补充道。“我认为，对于许多根本性的新事物，你开始在黑暗中摸索，做出一些假设，其中大多数被证明是错误的。”“如果能和一位先知回到过去，我会选一个不同的名字，”奥特曼说。他说，虽然OpenAI可能不是完全开源的，但它在其他方面是开放的，比如向公众开放其技术的免费版本。奥特曼对弗里德曼说：“因此，如果我们能够不断向世界推出免费或低成本的强大人工智能工具，我认为这对我们如何完成使命来说是一件大事。” ... PC版： 手机版：

OpenAI CEO奥特曼谈人工智能发展与社会

OpenAI CEO奥特曼谈人工智能发展与社会 22 年来，ETL 既是公共内容系列，又是 MS&E 472 课程。去年春天，MS&E 472是注册人数第五多的课程，有超过 400 名本科生和研究生。但即使对于大众阶层来说，这场拥挤的活动也是独一无二的。Altman 于 2005 年从斯坦福大学退学，因领导 OpenAI 而广为人知，OpenAI 是一家人工智能研究公司，开发了 ChatGPT 和 DALL-E。OpenAI最初成立于 2015 年，是一家非营利性研究实验室，其使命是确保通用人工智能造福全人类。Altman 告诉观众，多年来，OpenAI 的使命没有改变，但其结构已经并将继续进行调整。OpenAI 目前的结构包括一家营利性子公司，该子公司能够发行股权筹集资金，但仍受非营利组织使命的约束。“我认为赚钱是一件好事。我认为资本主义是一件好事，”奥特曼说。 “我的董事会联合创始人都有经济利益，我从未见过他们不认真对待使命的重要性。但我们已经建立了一个我们认为可以协调激励措施的结构。”由于 OpenAI 研究所需的计算能力和人才成本高昂，因此成立这家营利性子公司是因为除了捐款之外还需要资金。“无论我们每年燃烧 5 亿，还是 50 亿或 500 亿，我真的不在乎只要我们保持在最终为社会创造更多价值的轨道上，只要我们能够想办法支付账单。”奥特曼说。OpenAI的研究核心在于通用人工智能（AGI）的开发，OpenAI在公司网站上将其定义为一个高度自治的系统，在最具经济价值的工作上超越人类。ChatGPT 是 OpenAI 迈向 AGI 的一个例子。“ChatGPT 充其量只是有点令人尴尬，”Altman 说。 “GPT-4 是你们中任何人都必须再次使用的最愚蠢的模型。但是，尽早且频繁地交付非常重要，我们相信迭代部署。”Altman 相信社会要为技术进步做好准备，这依赖于负责任的迭代部署，即使模型不完美。 “如果我们在地下室建造通用人工智能，然后世界就蒙着眼睛幸福地行走，我不认为这使我们成为很好的邻居，”奥特曼说。 “让社会与技术共同发展。让社会告诉我们它作为集体以及人们个人想要从技术中得到什么。”尽管AGI的前景可能令人恐惧，但奥特曼相信它将成为社会达到更高高度的脚手架。 “实际上我根本不担心人类创新受到抑制，”奥特曼说。 “人们会用更好的工具给我们带来惊喜。我认为所有的历史都表明，当你给予人们更多的影响力时，他们会做出更令人惊奇的事情。”2023 年 11 月，OpenAI 董事会在审查确定奥特曼“在与董事会的沟通中始终不坦诚”后，解除了奥特曼首席执行官的职务。随后，超过 700 名 OpenAI 员工签署了一封致董事会的公开信，威胁要离开 OpenAI 并加入微软，除非 Altman 重新担任首席执行官。在回答有关 OpenAI 员工压倒性支持的问题时，Altman 表示，这是出于“强烈的使命感和对使命的忠诚”，他认为这是“成功的最强大力量，至少我认为是这样”。在初创公司中已经看到了。”ETL 活动结束后，Altman 加入了他的前教授 Mehran Sahami '92 博士。 99 年，计算机科学系系主任在盖茨计算机科学大楼进行了仅限回复的炉边聊天。演讲以奥特曼从斯坦福大学退学的笑话开始，随后萨马希提出了一系列关于人工智能发展、道德和安全以及通用人工智能前景等话题的问题。Altman 相信 AGI 能够为社会带来高质量的教育、疾病治疗、娱乐和太空探索。“我们应该为自己和未来的人们创造一个更美好的世界，”奥特曼说。他相信 AGI 可以取代律师和医生，让人们更容易获得法律和医疗服务，从而帮助“世界上最贫穷的一半人，而不是世界上最富裕的一半人”。奥特曼认为，尽管新技术最初可能会令人震惊，但社会很快就会适应。奥尔特曼说，一年前推出的 GPT-4 遭遇了“两周的恐慌”，人们相信这是“这件疯狂的事情，世界已经永远改变了”。 “现在人们会说，‘哦，这太可怕了。 GPT-5 在哪里？” ... PC版： 手机版：