无声无光｜维舟：我们失控的生活

我们的生活其实已经失控了——“失控”的意思是说，对当代人来说，要作为一个独立的个体，自主掌控自己的生活，即便不是不可能，也已变得越来越困难。勉力掌控辛苦不堪，完全放弃则被动麻木，而鲜有人地平静地顺其自然——在有些人看来，那甚至可能是少数人才能享有的特权。

看完这场震惊所有人的“虚拟人”对话，我觉得元宇宙可能真要来了

看完这场震惊所有人的“虚拟人”对话，我觉得元宇宙可能真要来了扎克伯格曾遭到“群嘲”的著名HorizonWorlds虚拟形象自拍，图片来自Facebook可是才短短一年，一场长达1小时，发生在元宇宙世界的隔空对话就横空出世，炸翻了社交网络。这次轮到网友傻眼，纷纷惊呼，怎么一不留神它就悄悄进化成这样了？！近日，麻省理工学院科学家、同时也是人工智能大佬和知名播客主播的LexFridman，对Meta首席执行官马克·扎克伯格进行了一场关于增强现实、AI和大语言模型的深度访谈。与以往不同的是，这次两人没有在物理世界碰面，而是相隔着大半个美国，在元宇宙里以超逼真的3D虚拟形象完成了对话。截至硅星人发稿时，这场名为“FirstInterviewinMetaverse”的采访已在X(原Twitter)上狂揽近1千3百万观看量。图片来自LexFridmanYoutube频道视频开头，LexFridman的全身版高清数字分身出现在一片白色未来感空间中，他说：“尽管Mark和我在现实世界中相隔数百英里，但由于我们的形象都以照片级精度的3D模型建模，并伴随空间音频相互呈现，我俩就像在同一个房间面对面交流。这项技术实在太令人惊叹了！我认为这将是未来人类在互联网上更深度有意义连结彼此的方式。”两人在访谈中都佩戴着MetaQuestProVR头显。可能是因为视野里的效果太过真实，Lex一度像个好奇宝宝，除了咧嘴“傻笑”，就是不停感叹：“我在哪儿？Mark真的是你吗？这太棒了！你不介意我离你太近吧？”当然，视线距离是可以调整的。不仅如此，你还可以通过控制手柄来调整光源位置，找到最凸显自己面部优点的照明角度。扎克伯格介绍说，与HorizonWorlds中的卡通版本或视频传输不同，创建这些全新模拟真人的MetaCodec虚拟形象，需要对用户的各种面部表情和动作细节进行广泛扫描，而后建模并压缩成一个编码版本。随后，头戴设备的实时眼部和面部追踪功能会捕捉用户表情，映射到3D虚拟化身上，并“发送一个编码版本的你应该看起来的样子”给虚拟世界或会议通话另一端的人们，在他们眼前呈现一个足以以假乱真的你。由于元宇宙里的形象数据是以编码形式传输，所以除了逼真外，也比发送一个完整的沉浸式视频更加节省带宽。从采访视频来看，虚拟化身呈现出对真人细节的还原能力确实太强，用Lex的话说，“它捕捉到了一切，包括人脸上的缺陷。对我来说，这些缺陷正是人的微妙之处，这些小雀斑、皱纹、不对称的脸颊、笑的时候眼角的表情…它们让我更加享受其中，意识到完美并不是沉浸的关键。”“眼睛的确很重要，”扎克伯格说道：“许多研究证明，人的交流主要是靠表情和肢体完成的，而不是靠语言。Meta一直努力用自己的经典虚拟系统捕捉这些表情，通过照片般的真实体验，带来特殊的临场感。”他认为这也触及了虚拟现实和增强现实的视觉核心，就是令人们不论在世界上的哪一个地方，都会感觉在一起。想象未来进入会议室，有些人实际在现场，有些人则以这种逼真的虚拟形态出现，并通过结合混合现实技术叠加在物理环境上：你以为TA坐在桌子边跟你聊项目，其实TA远在千里之外；夜深人静一个人在外地想家的时候，带上头显亲人就近在咫尺。而对面人的一颦一笑，每一个细微的面部表情，都可以几乎没有延时和耗损地立体真实再现。体验过程中，Lex一直禁不住惊呼这太美妙了，“我此刻心跳很快，对话的亲密感可以这样远程实现。我感受到了情绪，也感觉到你我真实存在。这是我人生中最难以置信的体验之一，真的大开眼界！”不过需要说明的是，实现视频中的对话效果目前对普通人还不是那么容易。在开始采访前，两人都曾提前飞到匹兹堡，在MetaCodec项目组进行了融合当前软硬件最高技术、长达几个小时的细节扫描。在前几天刚结束的Connect大会上扎克伯格说过，他最大的愿景就是让那些高大上的科技变得亲民，改变大多数人的生活。那么这次，他对未来又有什么构想呢？小扎表示现在我们才刚刚开始。通过先扫描少数人，收集足够多的表情数据，来探索整个流程能简化到什么程度，进而在应用到大量人群时更流畅。虽然目前这项技术还没完全准备好推向市场，但在未来几年内，会持续调整和优化，以早日应用到工作场景，解决生产力问题。Meta正在努力实现的是，只需用手机进行非常快速的人脸扫描，比如拿起手机在脸前晃动、说几句话、做一些表情，全程可能只需两三分钟，就产生如同现在的通话质量。如何在保证体验的同时更高效，仍是接下来面临的挑战之一。Lex认为，全新的MetaCodecAvatars显然已经越过了曾经的“恐怖谷底”，镜头里的小扎看起来完全和本人一样，接着他试探性地笑着问：“所以我们也不需要胳膊和腿了，对吧？”“不不，这些我们还是会解决的”，扎克伯格赶忙解释道，“实际上有个问题是，高精度的全身扫描需要强大的算力支持，无论对于头显的传感器还是渲染能力。所以我们也许会考虑以较低的保真度还原身体，比如仍保留大的动作，但脸才是最需要解析的东西。毕竟眉毛移动一毫米就会传达截然不同的情绪，相比之下，胳膊移动一英寸也显得没那么重要了。”HorizonWorlds里的虚拟形象曾因苍白的表情和缺少下半身被人们形容为”恐怖谷效应“，图片来自Meta两人后来还聊到了刚刚问世的Quest3、增强现实、元宇宙中的人工智能和人类的未来。Lex把这次和扎克伯格的访谈调侃成“互联网里表情最僵硬的两个人在元宇宙的相遇”，他觉得在这个虚拟空间里，自己的表现力更容易被捕捉到，能更真实地传达情绪：“我真希望更多的人能来亲自体验！”小扎也表示非常期待网友们看到这集播客后的反应，唯一担心的是观众透过2D屏幕，能否真地感受到这种呼之欲出的真实震撼感。而从网友们的留言来看，显然不仅感受到，而且被结结实实地震撼了。即使这几个月已经被Google、微软、特别是OpenAI的ChatGPT几轮暴风式更新洗礼过，也算见过大世面，这次元宇宙里的采访还是超越了人们的认知范围。全球顶级Youtuber野兽先生（MrBeast）在视频下留言说，“我们是怎么从像素虚拟人来到这儿的，我到底错过了什么！”其他人也纷纷跟帖表示“这是我见过最难以置信的事情之一”。有人说，在引领科技创新的强者队伍里，Meta永远占有一席之地。被质疑、取笑甚至诟病了那么久，元宇宙还是进化成这样一种强大的3.0形态来了。Lex说，我看到了未来。扎克伯格说，我相信接下来的一年会相当疯狂。不论Meta未来会怎样发展，走向如何，这场史上首次跨越百英里、元宇宙中的“真人”隔空对话都具有里程碑式的意义。而生于这个时代，见证一切不可能变为可能的我们，本身就已经足够幸运。...PC版：https://www.cnbeta.com.tw/articles/soft/1387413.htm手机版：https://m.cnbeta.com.tw/view/1387413.htm

反转反转再反转 OpenAI“内斗”风波始末

反转反转再反转OpenAI“内斗”风波始末这是一个轻松的周四夜晚，但伴随着一条短信的到来，愉快的交流不得不结束，发件人是OpenAI的首席科学家伊利亚·苏茨克维（IlyaSutskever），那是一条会议通知短信，伊利亚代表董事会通知山姆参与第二天中午的Google视频会议。这看起来似乎再平常不过了，在过去一年里，他称得上是日理万机。凭借ChatGPT等划时代的AI产品，OpenAI已经成为了当下最成功的科技公司，作为领导者，山姆·奥特曼正站在聚光灯下，备受瞩目。没有人能够想到，他将迎接创业以来的最大挑战，这一挑战并非来自Google等竞争对手，而是OpenAI内部。短信背后，“刀斧手”已经做好准备，一场突如其来的“内斗”已经在酝酿之中。OpenAI“宫斗”72小时太平洋时间11月17日12时（北京时间11月18日4时）：开端周五中午的视频会议上，山姆·奥特曼迎来了其他四位OpenAI董事的“审判”。会议上，伊利亚·苏茨克维向山姆·奥特曼宣布，在4：2的票数下，董事会决定罢免他的CEO职位。同样被扫地出门的还有OpenAI董事长兼总裁格雷格·罗布克曼（GregBrockman），作为奥特曼的坚定支持者，他在不知情且缺席会议的情况下，同样被“扫地出门”。当天下午，OpenAI在官方网站官宣了这一消息，同时也公布了辞退奥特曼的原因：“他在与董事会的沟通中始终不坦诚，阻碍了董事会履行职责的能力。”文件中还官宣了格雷格辞去董事会主席职务的消息，并官宣了临时CEO的人选米拉·慕拉提（MiraMurati），作为OpenAI的CTO，她已经在领导团队中工作了五年，此次也算是临危受命。公告发布后迅速引起全球级别的热议。消息官宣后不久，奥特曼在X发文称“我很喜欢在OpenAI的时光”，并表示“未完待续”。格雷格也在几小时后发布了长推文，披露了更多细节，短短十几分钟内，他和奥特曼的命运就被四位董事会成员决定，而这这一切都是在“桌下“发生的。格雷格·布罗克曼的推文这场“宫斗”来得突然，不仅奥特曼和格雷格两位董事被蒙在鼓里，大部分OpenAI的员工都是在消息公布时才知道团队已经易主，这也引起了大范围的不满。太平洋时间11月18日（北京时间11月19日）：反转奥特曼的遭遇令所有人震惊，他始终是这家公司和GPT的代言人，更被视为全球AI产业发展的领袖，而OpenAI对他的解雇没有任何预兆。众说纷纭间，阴谋论甚嚣尘上，奥特曼的私人生活、临时CEO米拉·慕拉提都被顶上了风口浪尖。除了OpenAI自身外，微软也成为了热锅上的蚂蚁。微软CEO萨蒂亚·纳德拉（左）和山姆·奥特曼（右）图源网络作为现今OpenAI最大的投资方，微软一度因为GPT的成功在与Google等对手的竞争中处于上风，而OpenAI董事会对奥特曼的“偷袭”无疑让所有人乱了阵脚。消息公布后，微软股价应声下跌，微软发言人FankShaw发表声明，表示将继续与OpenAI展开合作。与此同时，也有消息称，微软已经开始着手推动奥特曼的回归。“宫斗”的副作用也开始显现。消息公布后的一天里，OpenAI的三名高级研究人员辞职，同时内部员工也开始了大规模抗议；另一边，Thrivecapital等外部股东也开始向OpenAI施压，多方势力推动着董事会“收回“错误的决定。时间来到太平洋时间18日下午，有消息称OpenAI董事会已经允许奥特曼与格雷格回归，并且开始着手磋商此事，董事会成员在原则上也愿意辞职以弥补这一“错误”。但他们远没有一天前解雇奥特曼时那么果断，在辞职等问题上的犹豫不决进一步让局势陷入了迷茫。奥特曼则占据了舆论上风，辞职消息公布后，不断有公司向其抛来橄榄枝，更有一部分关注者支持他“另起炉灶“，也有消息称奥特曼已经开始与格雷格筹措新公司，在联合推文中的那句“更伟大的事情即将到来”似乎成为例证。但奥特曼仍旧对OpenAI的同事们恋恋不舍，回归的消息爆出后不久，他发推文表示“我非常喜欢OpenAI团队”，随后引起了众多OpenAI员工的转发，他们还附上了爱心表情，但这是向OpenAI董事会的施压，还是对于奥特曼回归的期待，却令人难以分辨。太平洋时间11月19日13时（北京时间11月20日5时）：谈判被解雇两天后，山姆·奥特曼再次走进了自己无比熟悉的OpenAI大楼，只不过，这一次他的目的是谈判。在谈判开始之前，奥特曼在X上po出了自己带着访客证件的照片，并配文“这是我第一次也是最后一次佩戴它（指访客证件）”，这代表着两种可能性：要么回归，要么再也不见。对于他来说，这次谈判更像是对于OpenAI董事会的最后通牒。事情发展到现在，一切似乎来到了爽文剧情：CEO被无情解雇后，在所有人的支持下重回“王位”，并且将狠狠报复不懂事的董事会成员（指让他们辞职）。可以确信的是，奥特曼就是抱着这样的心态来谈判的，据外网报道，奥特曼回归的重要条件之一，就是解雇他的四名董事会成员全部辞职，这也成了双方讨论的重点之一。令人意外的是，临时CEO米拉·慕拉提是奥特曼回归最大的推动者之一，在解雇事件发生后不久，她就开始与董事会成员展开谈判，希望将奥特曼与格雷格重新聘请回OpenAI。但谈判的结果似乎并不乐观，米拉甚至连自己临时CEO的位子都保不住。有消息称，在谈判奥特曼回归事宜时，OpenAI董事会也在寻找新的CEO人选，而游戏直播平台Twitch的前CEO埃米特·谢尔（EmmettShear）似乎是他们最心仪的人选。埃米特·谢尔，图源网络一切似乎都无法挽回了，尽管微软等股东不断推动协商、员工们以离职相逼，但OpenAI的董事会成员们铁了心的不低头，而奥特曼自然也不可能选择屈服。分歧横亘在他们之间，似乎深不见底，这家科技独角兽正面临着前所未有的撕裂。太平洋时间11月19日24时（北京时间11月20日16时）：抉择反转再次来临。谈判结束后，万众瞩目“奥特曼归位”并没有发生，19日晚，伊利亚·苏茨克维宣布奥特曼将不会回归，而CEO继任者将是埃米特·谢尔。三天换三个CEO，OpenAI的这番操作堪称抽象，在整个科技发展史中都少见。19日的午夜，微软CEO萨蒂亚·纳德拉（SatyaNadella）的一条推文再次震惊了所有关注者：山姆·奥特曼和格雷格·布罗克曼将加入微软，并领导一个新的高级AI研究团队。剧情变得越发抽象起来。根据此前披露的各种消息，微软一直在积极推动奥特曼的回归，但谈判显然失败了。在一切无法挽回的情况下，微软向奥特曼伸出了橄榄枝，奥特曼也一跃从创业公司的联合创始人变为了“甲方爸爸”。奥特曼和格雷格转发了萨蒂亚的推文，并配文“任务仍在继续”。短短一个周末，他们的事业就发生了天翻地覆的变化，这一切实在让人始料未及。但震动还在继续。有趣的是，马斯克成为了各种反转中最大的吃瓜群众，在萨蒂亚的官宣推文下，他饶有兴致的调侃“这下他们必须使用Teams（微软办公软件）了！”（OpenAI董事会在Google会议中解雇了奥特曼，而Google是微软最大的对手之一）太平洋时间11月20日5时（北京时间11月20日21时）：出走一呼百应，如果要形容奥特曼在OpenAI内部的影响力，这个词再合适不过。在官宣加入微软后，OpenAI的员工们纷纷坐不住了。在20日凌晨，包括米拉·慕拉提（MiraMurati）、COO布拉德·莱特卡普（BradLightcap）、CSO（首席战略官）杰森·权（JasonKwon）在内的多位员工开始发声，他们在自己的X上发布了同样的推文：“没有员工，OpenAI一无是处”。奥特曼转发了每个人的推文并附上了爱心。这是一种凝聚力的宣示，更是对于OpenAI董事会的“威胁”。此时，伊利亚·苏茨克维似乎意识到...PC版：https://www.cnbeta.com.tw/articles/soft/1398589.htm手机版：https://m.cnbeta.com.tw/view/1398589.htm

然而，这家公司似乎从未完全恢复过90年代的活力。直到现在。当初创公司OpenAI开始开发其令人瞠目的生成型AI产品时，纳德拉迅速

然而，这家公司似乎从未完全恢复过90年代的活力。直到现在。当初创公司OpenAI开始开发其令人瞠目的生成型AI产品时，纳德拉迅速意识到，与该公司及其首席执行官SamAltman合作将使微软处于新的AI繁荣的中心位置。（OpenAI被吸引到这个协议是由于需要微软的Azure服务器的计算能力。）作为合作伙伴关系中的第一步，微软通过发布Copilot，一款可以自动化某些编码元素的AI助手，给开发者世界留下了深刻的印象。而在2月份，纳德拉令更广泛的世界（以及其竞争对手谷歌）震惊的是，他通过一个名为Sydney的聊天机器人，将OpenAI的最新大型语言模型集成到了Bing中。有数百万人使用了它。是的，出现了一些小问题——《纽约时报》记者凯文·鲁斯诱使Sydney承认它爱上了他，并将从他的妻子手中抢走他——但总的来说，该公司正在崭露头角成为AI的重量级选手。微软现在正在将生成型AI——“副驾驶员”——集成到其许多产品中。其对OpenAI的投资超过100亿美元，看起来是世纪之交的最佳投资。（不过微软并未免于最近科技行业的紧缩趋势——纳德拉今年已经裁掉了10000名员工。）如今55岁的纳德拉，终于开始得到认可，不仅仅是一个熟练的看门人和微软巨大资源的精明运用者。他深思熟虑的领导方式和显著的谦逊，一直与他无情且喧闹的前任比尔·盖茨和史蒂夫·鲍尔默形成鲜明对比。（确实，这些人设定的同情心标准相当低。）通过他迅速而全面的采用AI，他表现出了一种勇气，这让人联想到微软早期的活力。现在，每个人都想听听他对AI这个世纪科技热门话题的看法。史蒂文·列维：你何时意识到这个阶段的AI将带来如此大的变革？萨蒂亚·纳德拉：当我们从GPT2.5升级到3时，我们都开始看到这些新的能力。它开始显示出扩展效应。我们并没有只对其进行编码训练，但是它在编码方面确实变得非常好。那时我就成为了一个信徒。我想，“哇，这真的开始了。”史蒂文·列维：你试图购买OpenAI吗？萨蒂亚·纳德拉：我在微软的成长过程中，以许多有趣的方式处理合作伙伴关系。早在以前，我们就与SAP进行深度合作构建了SQLServer。所以这种事情对我来说并不陌生。不同的是，OpenAI具有一种有趣的结构；它是非营利的。通常这看起来似乎会成为一种交易终结者，但你和OpenAI以某种方式提出了一个复杂的解决方案。他们创建了一个盈利实体，我们说，“我们可以接受。”我们有一个良好的商业伙伴关系。我觉得这里有一个长期稳定的交易。显然，这种设置使OpenAI从你们的交易中赚钱，微软也是，但对你们合作积累的利润有一个上限。当你达到这个上限时，就像灰姑娘的马车变成南瓜——OpenAI变成了一个纯粹的非盈利组织。那时合作伙伴关系会怎样？OpenAI是否会说，“我们完全是非盈利的，我们不想成为商业运营的一部分？”我认为他们的博客已经阐述了这一点。但从根本上说，他们的长期想法是我们达到超级智能。如果发生这种情况，我想一切都将不再确定，对吗？是的。对所有人来说。如果这是人类的最后一项发明，那么一切都将不再确定。不同的人对这是什么，何时会发生有不同的判断。未说出来的部分是，政府会对此有什么看法？所以我把这个问题放在一边。只有当出现超级智能时，这种情况才会发生。OpenAI的首席执行官SamAltman相信这种情况将会发生。你是否同意他的观点，我们将达到那个AGI超级智能的基准？我更关注所有人都能从中受益的问题。我深受工业革命直到很晚才影响到我成长的世界各地的事实困扰。所以我正在寻找可能比工业革命更大的事情，并真正做到使工业革命为西方，为全世界的每一个人所做的事情。所以我一点也不担心AGI的出现，或者快速出现。很好，对吗？这意味着80亿人口有了丰富的资源。那是一个理想的世界。你如何规划来实现这个愿景？现在你正在将AI融入你的搜索引擎，你的数据库，你的开发者工具。但这些并不是那些被忽视的人们正在使用的。很好的观点。我们首先从开发者的前沿看起。我真正兴奋的一件事是带回开发的乐趣。微软开始是一个工具公司，尤其是开发者工具。但是多年来，由于软件开发的复杂性，开发者曾经享受的关注和流动性被中断。我们对这个AI程序员Copilot[它编写日常代码并释放程序员解决更具挑战性的问题]所做的对这门手艺的贡献，美丽可见。现在，在GitHub上的一亿开发者可以享受自己的时间。然而，随着AI改变编程过程，它可以增长10倍——一亿可以变成十亿。当你正在提示一个LLM时，你正在对它编程。任何拥有智能手机并知道如何说话的人都可以成为开发者吗？绝对可以。你不需要写一个公式，或者学习语法或代数。如果你说提示只是开发，学习曲线将变得更好。你现在甚至可以问，“什么是开发？”这将被大众化。至于把这个带给全球80亿人，我在一月份去了印度，看到了一个令人惊奇的演示。政府有一个名为“数字公共产品”的项目，其中之一是文本到语音系统。在演示中，一位农村农民正在使用这个系统询问他在新闻上看到的一个补贴计划。它告诉他关于该计划以及他可以填写的申请表格。通常情况下，它会告诉他在哪里可以得到这些表格。但是印度有一个开发者用所有印度政府文件训练了GPT，所以系统自动用不同的语言为他填写了表格。一些几个月前在美国西海岸创建的东西，已经到了印度的一位开发者那里，然后他写了一个模块，让印度农村的农民可以在WhatsApp机器人上的手机上获得该技术的好处。我的梦想是地球上的每一个80亿人都能有一个AI导师，一个AI医生，一个程序员，也许是一个顾问！那是一个伟大的梦想。但生成型AI是新技术，有些神秘。我们真的不知道这些东西是如何工作的。我们还有偏见。有些人认为现在大规模采用还为时过早。Google多年来一直拥有生成型AI技术，但出于谨慎，它步调缓慢。然后你把它放入Bing，并挑衅Google做同样的事情，尽管有所保留。你的确切话：“我希望人们知道我们让Google跳舞。”Google确实跳舞了，改变了它的策略，并用它自己的生成AI搜索产品Bard跳入市场。我不想说这是鲁莽，但可以说，你大胆的Bing举动是一个过早的发布，开始了一个由大大小小的竞争者不顾一切地跳入，无论他们的技术是否准备好的绝望周期。我们行业的美在于，不仅看你拥有什么能力，更看你如何实际运用这些能力并转化为实实在在的产品。如果你想展开这个论点，你可以回头看看施乐PARC或者微软研究院，说他们开发出的所有东西都应该被留下来。问题是，谁做出了实际有用的东西，真正帮助了世界向前发展？这就是我觉得我们需要做的。去年谁能想到搜索可以再次变得有趣？谷歌做得非常好，并在产品和分销两方面坚固地领导了这个行业。谷歌搜索是Android上的默认搜索引擎，iOS上的默认搜索引擎，最大的浏览器上的默认搜索引擎，等等。所以我说，“嘿，让我们去创新，改变搜索范例，使得谷歌的10个蓝色链接看起来像AltaVista！”你在说90年代的搜索引擎，当谷歌超越它的创新时，它立即变得过时。那太残酷了。此时，当我使用必应聊天时，我根本不能回到原来的必应。这根本没有意义。所以我现在很高兴有了Bard和必应。让真正的竞争存在，让人们享受创新。我想你一定对终于推出一种让人们注意到必应的搜索创新感到很兴奋。我记得你在2009年管理必应的时候是多么的沮丧，你似乎在追求一个无法超越的对手。那么对于AI，我们是否处于这样一个拐点，原先牢固的赢家变得脆弱？绝对。从某种意义上说，每次变化都让我们更接近VannevarBush在文章中首次提出的愿景[《我们可能会想什么》是一篇1945年发表在大西洋月刊上的文章，首次提出了一个由计算机驱动的信息乌托邦的观点]。这就是梦想，对吧？问题是，如何真正创造出这种成功感，这包括从Bush到J.C.R.Licklider[他在1960年设想了“人类和计算机的共生”]到DougEngelbart[鼠标和窗口]到Alto[XeroxPARC的图形界面PC]，到个人电脑，到互联网。这一切都是说，“嘿，能不能有一个更自然的接口，让我们作为人类增强我们的认知能力，做更多的事情？”所以，这就是其中的一个例子。副驾驶是一个隐喻，因为这是一个把人放在中心的设计选择。所以不要把这个发展变成关于自动驾驶——它关乎副驾驶。很多人都在说，“哦我的上帝，AI来了！”猜猜看？AI已经在我们周围。实际上，所有的行为定向都使用了很多生成式AI。它是一个黑盒子，你我只是目标。我觉得未来将是副驾驶和自动驾驶之间的拉锯战。问题是，人们如何控制这些强大的能力？一种方法是让模型本身与我们关心的核心人类价值观保持一致。这些不是技术问题，更多的是社会文化考虑。另一方面是设计选择和产品制造与上下文相结合。这意味着真正确保这些模型被部署的环境与安全保持一致。你对那些说我们应该对AI停下来六个月的人有耐心吗？我对任何说“让我们对所有难以对齐的挑战保持思考，确保我们没有失控的AI”的人都充满了尊重和耐心。如果AI开始疯狂增长，我们最好能控制住。回想一下，当蒸汽机首次被部署，工厂被创建的时候。如果当时，我们就考虑到了童工和工厂污染，我们能否避免几百年的恶劣历史？所以每当我们对新技术感到兴奋的时候，思考一下这些意想不到的后果是很好的。尽管如此，此刻，我不会说我们应该停下来，而是我们应该加快工作进程，创造这些对齐。我们第一天看到GPT-4的时候，并没有立即发布Sydney，因为我们需要做很多工作来建立一个安全套索。但我们也知道，我们不能在实验室里完成所有的对齐。要使一个AI模型与世界对齐，你必须在世界中对齐它，而不是在某个模拟中。那么你知道Sydney会爱上记者KevinRoose吗？我们从没想到有人会在发布后的100小时内做出荣格分析。你还没有说你是否认为AI有可能毁灭人类。