OpenAI早期投资者：AI毁灭人类的风险“不值一提”

OpenAI早期投资者：AI毁灭人类的风险“不值一提”  科斯拉说：“说实话，这有点不值得讨论。”科斯拉是备受瞩目的人工智能初创公司OpenAI的早期支持者。他在谈到OpenAI最近的“政变”风波时表示，尽管奥特曼很快重新获得了OpenAI首席执行官的职位，但整个事件突显了在某些圈子里普遍存在的对人工智能的谨慎心态的问题，包括精心策划了奥特曼下台的OpenAI前董事会成员。科斯拉说：“有一群被误导的董事会成员信奉错误的宗教，而不是做出理性的决定。公司现在的情况比一个月前好多了。”在周二的峰会上，OpenAI的另一位早期投资者、LinkedIn联合创始人里德·霍夫曼（Reidhoffman）称奥特曼被驱逐是“董事会治理的失败”。霍夫曼说，奥特曼是一位“了不起的CEO”，“我真的很高兴他回来了。”霍夫曼也赞同科斯拉对人工智能利大于弊的态度，尽管他的表达方式远没有那么尖锐。他说：“是的，我们需要关注并参与风险的对话，但真正重要的是不要对未来感到困惑。”...PC版：https://www.cnbeta.com.tw/articles/soft/1404085.htm手机版：https://m.cnbeta.com.tw/view/1404085.htm

担忧倒闭风险，OpenAI投资者考虑起诉公司董事会

担忧倒闭风险，OpenAI投资者考虑起诉公司董事会OpenAI的一些投资者正在寻求对该公司董事会采取法律手段。投资者正在咨询法律顾问，目前还不清楚投资者是否会起诉OpenAI。投资者担心OpenAI似乎有可能倒闭，他们的数亿美元投资可能遭受灾难性损失。对于通常拥有董事会席位或投票权的风投投资者来说，这个案例的不同寻常之处在于，OpenAI由其非营利性母公司OpenAINonprofit控制，该公司的成立是为了“造福人类，而不是造福OpenAI投资者”。康涅狄格大学法学教授迈纳·迈尔斯表示，相较于帮助支付工资的风投投资者，公司员工拥有更大的影响力。来源：

OpenAI政变真相：纯属人类权斗，无关AI智能

OpenAI政变真相：纯属人类权斗，无关AI智能石破天惊在感恩节前一个星期五的上午11：30左右，微软的首席执行官萨提亚·纳德拉正在和高层领导开例会，突然一位急匆匆的同事让他接听电话。电话是来自OpenAI的一位高管，他告知纳德拉，OpenAI的董事会即将在20分钟内宣布解雇其首席执行官兼联合创始人山姆·奥尔特曼。这个消息标志着微软一场长达五天的危机的开始，一些员工甚至将其戏称为“火鸡射击大混乱”。纳德拉性格平和，但这突如其来的消息令他目瞪口呆，一时竟不知所措。他与奥尔特曼合作已超过四年，对他的能力和人品充满信任与敬佩。更重要的是，他们的合作才刚刚推出了微软十年来最重要的项目之一：一系列基于OpenAI技术开发、并整合进微软核心办公软件（如Word、Outlook和PowerPoint）的先进AI助手。然而，纳德拉并不知道的是，奥尔特曼与OpenAI董事会之间的关系已经变得紧张。董事会与CEO的裂痕OpenAI董事会的一些成员发现奥尔特曼是一个让人不安的狡猾角色。例如，今年秋天，他曾质疑安全与新兴技术中心的主任、公司董事会成员HelenToner，因为她参与撰写了一篇似乎在批评OpenAI“煽动人工智能炒作”的论文。Toner为自己辩护（尽管她后来为没能预测到论文可能引起的反应而向董事会道歉）。奥尔特曼接着私下与其他董事会成员讨论替换她的可能性。当这些成员交流他们的谈话内容时，有些人感觉奥尔特曼误导他们，声称他们支持撤换Toner。“他通过谎言操纵他们，说其他人怎么看待这个问题，”一位了解董事会讨论的人告诉媒体。“这种情况已经发生了好几年。”（了解奥尔特曼观点的人士表示，他承认自己在尝试撤换董事会成员的方式上做得不够妥帖，但他并没有试图操控董事会。）权斗高手+理想主义者奥尔特曼被视为企业内部斗争的高手。这一点曾对OpenAI大有裨益：在2018年，他成功阻止了早期董事会成员马斯克冲动地试图接管该组织。奥尔特曼在掌握信息和影响人们看法方面的能力——无论是公开还是秘密——吸引了众多风险投资家争相投资各种初创公司。他的策略技巧令人敬畏，以至于当Toner、D’Angelo、Sutskever和TashaMcCauley这四位董事会成员考虑撤换他时，他们决心要让奥尔特曼措手不及。“一旦奥尔特曼知道，他会竭尽所能来阻挠董事会，”了解内情的人士透露。那些不满的董事会成员认为，OpenAI的使命要求他们对AI的潜在危险保持警觉，而在奥尔特曼执掌下，他们无法完成这一任务。“我们的使命是确保AI惠及全人类，但如果无法对CEO进行有效监督，这一目标就难以实现，”另一位了解董事会想法的人表示。奥尔特曼对此有不同看法。了解他观点的人士指出，他与董事会之间的争论“非常正常且有益”，但部分董事会成员对商业常规不太了解，对自身的职责感到压力重大。这位人士补充说，“随着我们逐步接近通用人工智能（AGI），每个人的压力似乎都在倍增。”失败的政变奥尔特曼被解雇的前夕，董事会已经告诉公司首席技术官Murati他们的决定，并得到了她保密的承诺。他们将这看作是她对解雇的支持，或至少不会反对，同时认为其他员工也会顺应这一决定。但事实并非如此。在内部，Murati和其他OpenAI的高层领导表达了他们的不满，有些员工甚至将董事会的行为视为一次政变。OpenAI的员工向董事会成员提出了尖锐的问题，但董事会几乎没有作出任何回应。了解董事会想法的两名人士表示，董事会成员由于保密限制感到无法多言。更重要的是，随着奥尔特曼被解雇的消息成为全球焦点，董事会成员感到不知所措，甚至“没有足够的精力与任何人交流，包括微软。雇发生后的第二天，OpenAI的首席运营官BradLightcap发布了一份全公司范围的通知，强调“董事会的决定并非因为任何不当行为或与我们的财务、业务、安全或隐私问题有关。”他继续说：“这是山姆和董事会之间沟通的崩溃。”但每当有人询问关于Altman没有“始终坦诚交流”的具体例子时，董事会成员选择沉默，甚至拒绝提及奥尔特曼反对董事会成员Toner的行动。在微软内部，整个事件被认为是莫名其妙的愚蠢行为。此时，OpenAI的市值据称已达到惊人的800亿美元。一位高管向媒体透露：“除非董事会的目标是彻底毁掉公司，否则他们似乎总是在每次决策中选择最差的选项。”即便是在其他OpenAI员工在GregBrockman的引领下公开辞职时，董事会依然选择了沉默。员工的反抗到了感恩节前的周日，每个人都筋疲力尽。OpenAI的董事会单独召见首席技术官以及临时首席执行官Murati，进行私下谈话。他们告诉她，他们一直在秘密寻找一位新的首席执行官——最终找到了一个愿意接受这一职位的人。对Murati、OpenAI的大多数员工和许多微软内部人士而言，这是忍无可忍的最后一刻。微软CEO的纳德拉正式邀请奥尔塔慢和Brockman来领导微软新成立的AI研究实验室，他们可以获得任何所需资源和充分自由。两人接受了这一邀请。微软开始为预计将加入这一部门的数百名OpenAI员工准备办公室。同时，Murati和她的同事们起草了一封公开信，发给OpenAI董事会：“我们不能和那些缺乏能力、判断力以及对我们使命和员工关怀的人共事。”信中明确表示，除非所有现任董事会成员辞职，奥尔特曼和Brockman被重新任命，否则他们将辞职，并加入新成立的微软子公司。几乎所有OpenAI员工在短时间内签署了这封信。微软首席技术官斯科特在社交平台X上表示：“亲爱的OpenAI合作伙伴们：我们已经注意到你们的请愿，赞赏你们想要加入SamAltman在微软的新AI研究实验室的愿望。请知道，如果需要，你们在Microsoft将有一个与你们目前薪酬相匹配，且能促进我们共同使命的职位。”斯科特的这一行为并不是所有科技界人士都能接受的。他不久后告诉同事，“今天早上我在推特上被称作傻X，这算是我的新职业亮点——这很公平，但你必须了解我才能真正判断。”董事会屈服微软的干预和OpenAI可能面临的大规模离职威胁迫使董事会作出让步。在感恩节前两天，OpenAI宣布奥尔特曼将作为首席执行官重返公司。所有董事会成员（除了D’Angelo）将辞职，一些更有经验的人物，包括前Facebook高管兼Twitter董事长BretTaylor和前财政部长、哈佛大学校长LarrySummers将加入董事会。公司还将考虑进一步的治理变革，甚至可能是公司结构的重组。OpenAI的高层同意对奥尔特曼作为首席执行官期间的行为进行独立调查。在新的合作框架下，微软在OpenAI获得了一个无投票权的董事会席位，这增强了它的影响力，同时避免了监管审查的风险。最近的这场肥皂剧般的纷争终于落幕，其结局被广泛认为是微软的巨大胜利，也证明了其在人工智能发展方面的方法受到高度肯定。被解雇的董事会成员仍坚持认为他们的决策是正确的。一位了解内情的人士透露：“会有一个全面且独立的调查，而不是简单地把奥尔特曼的好友安排进董事会，我们选择了能够对他产生制衡的新成员。”前董事会成员Toner向媒体表示：“董事会始终专注于履行对OpenAI使命的承诺。”奥尔特曼则对他人表示，他欢迎这次调查——这部分是为了帮助自己理解这场纷争的原因，以及他本可以采取哪些不同的措施来避免这种情况。一切好像又回归了正常。我们最后用微软首席技术官斯科特的一段话来结束本文。他认为：“人工智能（A.I．）是人类历史上发明的改善人们生活质量...PC版：https://www.cnbeta.com.tw/articles/soft/1401397.htm手机版：https://m.cnbeta.com.tw/view/1401397.htm

知情人士：OpenAI 预计不会给微软和其他投资者提供董事会席位

知情人士：OpenAI预计不会给微软和其他投资者提供董事会席位11月29日消息，据TheInformation援引消息人士报道，OpenAI预计不会给微软（MSFT.O）以及包括KhoslaVentures和ThriveCapital在内的其他投资者提供新董事会席位。OpenAI创始人SamAltman复职后，新董事会将由最多9人组成，目前包括Salesforce前首席执行官BretTaylor、前美国财政部长LarrySummers和现任董事会成员兼Quora首席执行官AdamD'Angelo三人。

OpenAI 探索用 GPT-2 小模型监督 GPT-4 大模型，防止 AI 毁灭人类

OpenAI探索用GPT-2小模型监督GPT-4大模型，防止AI毁灭人类Ilya领衔的OpenAI对齐团队，发表了——用类似GPT-2监督GPT-4的方法，或可帮人类搞定自己更聪明的超级AI！团队声称，已经发现了对超人类模型进行实证对齐的新研究方向。未来超级AI系统对齐的一个核心挑战——人类需要监督比自己更聪明人工智能系统。来源，频道：@kejiqu群组：@kejiquchat

前OpenAI安全研究员警告：AI毁灭人类的可能性为 20%

前OpenAI安全研究员警告：AI毁灭人类的可能性为20%克里斯蒂亚诺认为机器会逐渐地崛起，人类的终结不是一场突如其来的事件，而是人工智能逐渐地崛起，人类与机器已经透过诸如自动驾驶汽车、无人机等已经渗透到了生活中。而当AI超越人类智商阈值时，一切皆有可能。克里斯蒂亚诺认为，AI杀消灭人类的最可能方式是日常生活中部署的所有AI联合起来，而不是突然消灭人类。克里斯蒂亚诺的新非营利组织AlignmentResearchCenter基于人工智能对齐的概念，该概念早在2018年就被广泛定义为让机器的动机与人类的动机保持一致。尽管OpenAI口头上说要对齐，声称它“旨在使人工智能（AGI）与人类价值观保持一致并遵循人类意图”，但仍需要进行更多的研究和开发，以确保安全和合乎道德地开发人工智能。确保机器的动机与人类的动机一致对于防止人工智能毁灭的可能性至关重要。...PC版：https://www.cnbeta.com.tw/articles/soft/1358433.htm手机版：https://m.cnbeta.com.tw/view/1358433.htm