Open AI首席科学家：ChatGPT可能已经有了意识 AI将万世不朽
OpenAI首席科学家：ChatGPT可能已经有了意识AI将万世不朽更多时候，是为（通用人工智能）AGI站台，正如他的X签名：“打造众多喜欢人类的AGI们”（towardsapluralityofhumanitylovingAGIs）。在现实生活里同样如此，他不热衷社交，很少在媒体前抛头露面。唯一能让他感到兴奋的东西，就是人工智能。近期，IlyaSutskever接受了《麻省理工科技评论》记者WillDouglasHeaven专访，他在采访中谈到了OpenAI早年的创业史、实现AGI的可能性，还介绍了OpenAI未来在管控“超级智能”方面的计划，他希望让未来的超级智能，可以像父母看待孩子那样看待人类。以下为正文：伊尔亚·苏茨克维（IlyaSutskever）低头沉思。他双臂张开，手指放在桌面上，就像音乐会上即将弹奏第一个音符的钢琴家。我们静静地坐着。我是来和OpenAI的联合创始人兼首席科学家Sutskever会面的，他的公司位于旧金山传教区一条不起眼的街道上，办公楼没有任何标志，我想听听他一手打造的这项颠覆世界的技术的下一步计划。我还想知道他的下一步计划，尤其是，为什么建立他公司的下一代旗舰生成模型不再是他的工作重点。Sutskever告诉我，他的新工作重点不是制造下一代GPT或图像制造机DALL·E，而是研究如何阻止人工超级智能（他认为这是一种假想的未来技术，具有先见之明）的失控。Sutskever还告诉了我很多其他事情。他认为ChatGPT可能有意识（如果你眯着眼睛看的话）。他认为，世界需要清醒地认识到他的公司和其他公司正在努力创造的技术的真正威力。他还认为，总有一天人类会选择与机器融合。Sutskever说的很多话都很疯狂。但不像一两年前听起来那么疯狂。正如他自己告诉我的那样，ChatGPT已经改写了很多人对未来的预期，把"永远不会发生"变成了"会比你想象的更快发生"。他说：“重要的是要讨论这一切的方向。”他在预测AGI（通用人工智能，像人类一样聪明的AI）的未来时，仿佛它就像另一部iPhone一样信心满满：“总有一天，AGI会实现。也许来自OpenA。也许来自别的公司。”自去年11月发布红极一时的新产品ChatGPT以来，围绕OpenAI的讨论一直令人印象深刻，即使在这个以炒作著称的行业也是如此。没有人不会对这家市值800亿美元的初创公司感到好奇。世界各国领导人寻求（且得到）和CEOSamAltman私人会面。ChatGPT这个笨拙的产品名称在闲聊中不时出现。今年夏天，OpenAI的首席执行官SamAltman花了大半个夏天的时间，进行了长达数周的外联之旅，与政客们亲切交谈，并在世界各地座无虚席的会场发表演讲。但Sutskever并不像他那样是个公众人物，他也不经常接受采访。他说话时深思熟虑，有条不紊。他会停顿很长时间，思考自己想说什么、怎么说，把问题像解谜一样反复推敲。他似乎对谈论自己不感兴趣。他说：“我的生活很简单。我去上班，然后回家。我不做其他事情。一个人可以有很多社交，可以参加很多活动，但我不会。”但当我们谈到人工智能，谈到他所看到的划时代的风险和回报时，他的眼睛亮了起来：“AI将万世不朽、震撼整个世界。它的诞生如同开天辟地。”越来越好，越来越好在一个没有OpenAI的世界里，Sutskever仍将载入人工智能史册。作为一名以色列裔加拿大人，他出生在前苏联，但从五岁起就在耶路撒冷长大（他至今仍能说俄语、希伯来语和英语）。之后，他移居加拿大，在多伦多大学师从人工智能先驱杰弗里·辛顿（GeoffreyHinton）。(Sutskever不想对辛顿的言论发表评论，但他对超级智能灾难的关注表明他们是同道中人）。辛顿后来与杨立昆（YannLeCun）和约书亚·本吉奥（YoshuaBengio）分享了图灵奖，以表彰他们在神经网络方面的研究成果。但当Sutskever在2000年代初加入他的团队时，大多数人工智能研究人员都认为神经网络是一条死胡同。辛顿是个例外。Sutskever说：“这就是生成式人工智能的开端。真的很酷，只是还不够好。”Sutskever对大脑非常着迷：它们是如何学习的？以及如何在机器中重新创建或至少模仿这一过程？和辛顿一样，他看到了神经网络的潜力，以及辛顿用来训练神经网络的试错技术，即深度学习。Sutskever说：“它变得越来越好，越来越棒。”2012年，Sutskever、Hinton和Hinton的另一名研究生AlexKrizhevsky建立了一个名为AlexNet的神经网络，经过训练，他们识别照片中物体的能力远远超过了当时的其他软件。这是深度学习的大爆炸时刻。在经历了多年的失败之后，他们终于证明了神经网络在模式识别方面的惊人功效。你只需要足够多的数据（他们使用的，是普林斯顿大学研究员李飞飞自2006年以来一直在维护的ImageNet数据集中的一百万张图片）和强到爆炸的算力。算力的提升来自于英伟达公司生产的一种名为图形处理器（GPU）的新型芯片。GPU的设计目的是以闪电般的速度将快速移动的视频游戏视觉效果投射到屏幕上。但GPU擅长的计算——大量数字网格的乘法——却与训练神经网络所需的计算十分相似。英伟达现在已经是一家市值上万亿美元的公司。当时，它正急于为其市场狭窄的新硬件寻找应用领域。“当你发明一项新技术时，你必须接受疯狂的想法，”英伟达首席执行官黄仁勋说。“我的思想状态总是在寻找一些古怪的东西，而神经网络将改变计算机科学的想法，就是一个非常古怪的想法。”黄仁勋说，在多伦多团队开发AlexNet时，英伟达给他们寄了几块GPU让他们试用。但他们想要的是最新版本，一种名为GTX580的芯片，这种芯片在门店里很快就卖光了。根据黄仁勋的说法，Sutskever从多伦多开车到纽约买到了GPU。“人们在街角排起了长队，”黄仁勋说。“我不知道他是怎么做到的——我很确定每个人只能买一个；我们有非常严格的政策，每个玩家只能买一个GPU，但他显然把它们装满了一个后备箱。满满一后备箱的GTX580改变了世界。”这是一个伟大的故事，只是可能不是真的。Sutskever坚称他的第一批GPU是在网上买的。但在这个热闹的行业里，这样的神话是司空见惯的。Sutskever本人则更为谦虚，他说：“我想，如果我能取得哪怕一丁点真正的进展，我都会认为这是一种成功。现实世界的影响感觉太遥远了，因为那时的计算机太弱小了。”AlexNet取得成功后，谷歌来敲门了。谷歌收购了辛顿的公司DNNresearch，并聘请了Sutskever。在谷歌，Sutskever展示了深度学习的模式识别能力可以应用于数据序列，如单词和句子，以及图像。Sutskever的前同事、现任谷歌首席科学家的杰夫·迪恩（JeffDean）说：“Ilya一直对语言很感兴趣，这些年来，我们进行了很好的讨论。Ilya对事物的发展方向有很强的直觉。”但Sutskever并没有在谷歌工作太久。2014年，他受聘成为OpenAI的联合创始人。这家新公司拥有10亿美元的资金支持（来自CEOAltman、马斯克、彼得·蒂尔、微软、YCombinator和其他公司），他们有那种硅谷式的雄心，从一开始就把目光投向了开发AGI，这一前景在当时很少有人认真对待。Sutskever是公司的幕后推手，他的雄心是可以理解的。在此之前，他已经在神经网络方面取得了越来越多的成果。YCombinator投资董事总经理DaltonCaldwell说，Sutskever当时已经声名在外，他是OpenAI吸引力的关键来源。Caldwell说：“我记得山姆（SamAltman）说伊利亚是世界上最受尊敬的研究人员之一。他认为Ilya能够吸引很多顶尖的人工智能人才。他甚至提到，世界顶级人工智能专家YoshuaBengio认为，不可能找到比Ilya更合适的人选来担任OpenAI的首席科学家。”然而，OpenAI一开始却举步维艰。Sutskever说：“在我们启...PC版：https://www.cnbeta.com.tw/articles/soft/1393629.htm手机版：https://m.cnbeta.com.tw/view/1393629.htm
