“AI教父”杨立昆：辛顿错了，AI不是核弹
“AI教父”杨立昆：辛顿错了，AI不是核弹
北京时间5月23日凌晨，钛媒体App编辑在巴黎见到了杨立昆，针对相关问题，杨立昆对钛媒体App直接回应称，辛顿错了，AI 并不是“核弹”。“它（AI）不是炸弹，它不是用来杀人的，AI 是为了让他们（人类）更聪明。所以，我根本不明白这个类比。而且，AI 也没那么危险。我认为这些系统比实际情况要聪明得多。现在 AI 的问题是，未来的力量是否足够，你认为它是否也会破坏一些东西？我们可以触及到人类智能的系统，我们可以考虑如何让它更加安全。”杨立昆对钛媒体App表示。当钛媒体App问他当AI未来力量达到足够强大能影响人类时，还会坚持开源吗，杨立昆也非常坚定的回答是的。杨立昆强调，开源（AI 技术）很重要，是非常有意义的。5月23日上午，杨立昆在推文中再次强调，大型语言模型（LLMs）无法达到人类智能。如果你是一名对构建下一代 AI 系统感兴趣的学生，请不要攻读大模型相关专业。“我自己正在研究下一代 AI 系统，而不是LLM。 所以从技术上讲，我告诉你‘与我竞争’，或者更确切地说，‘与我做同样的事情，因为这是正确的做法，而且理论上更快乐’。”杨立昆称。公开信息显示，杨立昆出生于1960年，是一名法国计算机科学家，2018年图灵奖得主。他曾在巴黎电子工程师高等学校获得了工程师学位，1987年在巴黎第六大学获得计算机科学博士学位。博士就读期间，他提出了神经网络的反向传播算法学习算法的原型。随后到多伦多大学在杰弗里·辛顿的指导下完成了博士后工作。杨立昆在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络，他也被称为卷积网络之父。他共同创建了DjVu图像压缩技术，以及联合开发Lush语言。2019年，他同约书亚·本希奥、杰弗里·辛顿共同获得计算机学界最高奖项图灵奖。随着生成式 AI 的迅猛发展，杨立昆所在的Meta公司已经投入数十亿美元来开发Llama等多模态模型，旨在迎头赶上微软、OpenAI、Google等其他竞争对手。目前，杨立昆在Meta的基础人工智能研究(Fair)实验室管理着一个约500人的团队。致力于创造下一代 AI 技术，这种 AI 可以发展常识，并以与人类类似的方式学习世界是如何运作的，这种方法被称为“世界建模”（World Models）。一直以来，杨立昆与另一位“深度学习”教父 辛顿对于 AI 未来的看法恰恰相反。辛顿近日对外表示，尽管ChatGPT将使 AI 研究变得更加高效，影响 AI 研究过程，但长期来看，AI 发展太快了，容易超越人类，人类需要把控好 AI 技术带来的风险。而且他认为，模型实际上必须执行一定程度的推理，而不是像很多人所说的大模型并不具备推理能力。随着模型规模的增加，这种推理能力也将变得越来越强。这是一个值得全力以赴的方向。杨立昆却始终否定辛顿的这种看法。杨立昆认为，大模型不是 AI 技术真正的发展方向。ChatGPT等生成式 AI 产品永远无法实现像人类一样的推理和计划能力，而是认为在机器中创造“超级智能”，才是真正的通用人工智能（AGI）。但他也坦言，这一技术愿景可能需要十年的时间才能实现。杨立昆指出，他反对依靠提升大模型来制造人类水平的智能，因为这些模型只有在获得正确的训练数据后才能准确回答提示，因此“本质上是不安全的”。“不要学习大模型，这些技术掌握在大公司的手中，你没有什么可以做的。你应该研究下一代 AI 系统，以突破大模型的局限性。”杨立昆在对话中表示。杨立昆表示，大模型的这种进化是肤浅和有限的，只有当人类工程师介入并根据这些信息进行训练时，模型才会学习，而不是像人类那样自然地得出结论。杨立昆曾于2022年首次发表一篇关于他的“世界建模”愿景论文，此后，Meta基于该方法发布了两个研究模型。他称，实验室正在测试不同的想法，以实现人类级别的智能，因为“这其中有很多不确定性和探索，（所以）我们无法判断哪一个会成功或最终被采纳”。“我们正处于下一代 AI 系统的风口浪尖。”杨立昆指出。杨立昆认为，从长远来看，“世界建模”技术将为用户通过可穿戴技术、肌电“手环”等与之互动的AI Agent（代理）应用场景提供动力。“要想让 AI 真正有用，就需要具备类似人类水平的智能。”杨立昆表示。 ...
PC版：
手机版：
