OpenAI CTO深度访谈 剧透GPT-5发布时间
OpenAI CTO深度访谈 剧透GPT-5发布时间 OpenAI CTO 穆拉提分享OpenAI近况与AI行业动向。穆拉提在达特茅斯学院（图源：达特茅斯学院）在这场访谈中，穆拉提分享了自己从航天行业、汽车行业、VR/AR再到加入OpenAI的丰富职业生涯，并根据自己在行业最前沿的所见所闻，分析了AI治理、AI对教育的影响、AI对工作的影响等问题。她在访谈中透露，明年或后年就会出现博士水平的智能系统，这或许指的就是GPT-5。她更是抛出一个极具争议性的观点，有些创意工作本不该存在，而AI很快便会取代这些职位。这一观点在网上引发轩然大波，认为OpenAI吃了饭就砸锅，并不理解创造力意味着什么。穆拉提认为OpenAI的成就离不开深度神经网络、大量数据和大量算力这3个因素的叠加，虽然他们还在研究背后的原理，但实践证明深度学习真的行得通。她称AI安全和AI能力是一体两面的，聪明的模型才能理解我们给它设定的护栏。从工程的角度上来看，AI能力的提升并不会降低模型的安全性。OpenAI对模型的安全性负有很大责任，但要实现风险的有效管控，社会和政府的参与也是必不可少的。OpenAI正积极与政府和监管机构合作，共同解决AI安全问题。在场的观众也向穆拉提抛出了尖锐的问题。穆拉提在回应观众对于模型价值观的问题时提到，OpenAI目前已经通过人类反馈强化学习将人类价值观融入AI系统，但未来的重点会是在基础价值体系上，给客户提供高度定制化的模型价值体系。观众还就OpenAI最近的侵权疑云和内容创作者的许可和补偿问题询问穆拉提的看法。穆拉提再次强调OpenAI并未刻意模仿斯嘉丽的声音，她挑选声音的决策过程是完全独立的。至于版权内容，OpenAI目前在尝试以聚合数据池的形式，让创作者提供版权内容到数据池中，整体评估创意内容对模型表现的贡献，并给予相应的报酬。但这一技术颇具难度，实际落地还需要一段时间。与OpenAI CEO萨姆·阿尔特曼（Sam Altman）不同，穆拉提之前的公众认知度较低。她在1998年出生于阿尔巴尼亚，之后到加拿大和美国求学。她2018年便加入OpenAI，是OpenAI的早期成员之一。作为OpenAI的CTO，她领导了OpenAI在ChatGPT、DALL·E、Codex和Sora方面的工作，同时还监管公司的研究、产品和安全团队。微软首席执行官萨蒂亚·纳德拉（Satya Nadella）评价穆拉提时说到，她既具备技术专长，也颇有商业头脑，并对OpenAI的使命有深刻认识。以下是对穆拉提在达特茅斯学院深度访谈的完整编译（为提高可读性，智东西调整了部分问答的顺序，并在不违背原意的前提下进行了一定的增删修改）：01.干过航天、汽车、VR/AR等行业，发现自己对AI最感兴趣杰弗里·布莱克本：大家都想听听你的近况和你正在构建的东西，这真是太吸引人了。不过也许我们应该从你的故事开始。你毕业后去了特斯拉一段时间，然后是OpenAI。你能简短地和我们描述一下那个时期吗，还有你加入早期的OpenAI的故事。米拉·穆拉提：我大学毕业之后其实在航空领域短暂工作过，但之后我意识到航空领域的发展相当缓慢。我对特斯拉的使命非常感兴趣，也对构建可持续交通的未来需要面临的创新挑战感兴趣，因此我决定加入特斯拉。在参与Model S和Model X的工作后，我意识到自己也不想在汽车行业工作。我想要做一些能真正推动社会发展的事情，同时解决一些非常困难的工程挑战。我在特斯拉的时候对自动驾驶汽车、计算机视觉、AI这些技术和它们在自动驾驶汽车上的应用很感兴趣。我那时候想更深入地了解AI的其它领域。于是我加入了一家初创公司，在那里领导工程和产品团队，将AI和计算机视觉应用于空间计算领域，研究计算的下一个界面。当时我认为计算的交互界面会是VR和AR，但现在我的想法不一样了。那时候我认为，如果我们可以用手与非常复杂的信息交互，无论是公式、分子还是拓扑概念，我们便可以更直观地了解这些东西，扩展自己的学识。然而事实证明，当时谈VR还为时过早。但这给了我许多机会，能了解不同领域的AI技术。我想我的职业生涯一直都处于技术和应用的交叉点。这给了我一个不同的视角，能大致了解AI的发展程度以及它可以应用到什么领域。杰弗里·布莱克本：所以在特斯拉的自动驾驶研究中，你看到了机器学习、深度学习的可能性，看到了它的发展方向。米拉·穆拉提：是的。但我并没有看得很清楚。杰弗里·布莱克本：你给马斯克工作过吗？米拉·穆拉提：是的，特别是在最后一年。但那时我们还不太明确AI的发展方向。当时，我们仍然只是将AI应用于特定的应用场景里，而非通用的场景。VR和AR也是如此。而我不想只是将这些技术应用于具体问题。我想做更多的研究，了解背后的原理，然后开始将这些技术应用到其他事物上。我就在这个阶段加入了OpenAI，OpenAI的使命对我非常有吸引力。当时它是一个非营利组织。现在使命没有变，但结构变了。当我6年前加入时，它是一个致力于构建安全AGI（通用人工智能）的非营利组织。当时OpenAI是DeepMind之外唯一一个做相关研究的公司。这就是我在OpenAI旅程的开始。02.3大技术进步让ChatGPT成为可能，实践证明模型能深入理解数据杰弗里·布莱克本：明白了，所以你从那时起你就一直在构建很多东西。也许你可以为在场的观众提供一些AI的基础知识。从机器学习、深度学习到现在的AI，这些概念都是相互关联的，但也各有不同。这些转变是如何发生的呢，又是如何让ChatGPT、DALL·E或者Sora这样的产品成为可能的呢？米拉·穆拉提：其实我们的产品并不是全新的，在某种意义上我们的产品是建立在过去几十年人类共同的努力的基础上的。其实AI就开始于达特茅斯学院。在过去几十年中，神经网络、大量数据和大量算力的结合带来了真正具有变革性的AI系统或模型，它们能够执行一般性任务。尽管我们不清楚其为何成功，但是深度学习真的行得通。我们也试图通过研究和工具来理解这些系统的实际运作方式。不过根据我们过去几年研究AI技术时的经验，我们知道这条路行得通。我们也见证了它们逐渐进步的轨迹。以GPT-3为例，这是一个大约三年半前部署的大型语言模型。其目标是预测下一个token，基本上是下一个单词的预测。我们发现，如果我们给这个模型预测下一个token的任务，并用大量数据训练这个模型，给它大量计算资源时，我们还能获得一个真正理解语言的模型，而且其理解水平与人类相似。它通过阅读大量书籍和互联网的信息，形成了自己对这些数据的模式的理解，而不仅仅是简单地记忆。我们还发现，这种模型不仅可以处理语言，还可以处理不同类型的数据，如代码、图像、视频和声音。它并不在乎我们输入什么数据。我们发现，数据、计算和深度学习的结合运作得非常好，通过增加数据类型和计算量，这些AI系统的性能会不断提高。这便是所谓的扩展法则（Scaling Laws）。它不是实际的法则，而是模型能力提高的统计学预测。这就是推动今天AI进步的动力。杰弗里·布莱克本：你们为什么选择了聊天机器人作为第一款产品呢？米拉·穆拉提：就产品而言，我们其实是从API开始的，而不是聊天机器人。因为我们不知道如何将GPT-3商业化。商业化AI技术实际上非常困难。我们最初专注于技术的开发和研究，我们认为只要构建了一个优秀的模型，商业伙伴就会自然地拿它去构建产品。但后来我们发现这实际上非常困难，这也是为什么我们开始自己开发产品。于是我们开始自己构建一个聊天机器人，我们试图理解为... PC版： 手机版：
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人