OpenAI新老董事激辩:奥特曼是不是爱撒谎 是不是忽视安全?

OpenAI新老董事激辩:奥特曼是不是爱撒谎是不是忽视安全?此前几天,《经济学人》刊登了OpenAI前董事会成员海伦·托纳(HelenToner)和塔莎·麦考利(TashaMcCauley)撰写的文章《OpenAI前董事:AI公司不应自我监管》(AIfirmsmustn’tgovernthemselves,sayex-membersofOpenAI’sboard),她们在文章中批评了首席执行官萨姆·奥特曼(SamAltman)及OpenAI的安全实践,并呼吁对人工智能行业实施更严格的监管。泰勒和萨默斯对前董事的指控进行了反驳,他们在《经济学人》上发表的回应中为奥特曼辩护,并阐述了OpenAI在安全方面的立场。他们提到,OpenAI已经成立了新的安全委员会,并向白宫提交了一系列自愿承诺,以加强安全性和保障。他们进一步透露,作为新成立董事会的一部分,他们之前曾主持一个特别委员会,并委托WilmerHale律师事务所对导致奥特曼被解职的事件进行外部调查。这一过程包括审查30,000份文件,并对OpenAI之前的董事会成员、高管以及其他相关证人进行了数十次访谈。泰勒和萨默斯重申,WilmerHale的调查结论指出,奥特曼的解职“并非因产品安全或安全性问题,也不是因为发展速度问题”。同时,他们也对托纳和麦考利的文章中描述奥特曼创造了“一种有毒的欺骗文化”和从事“心理虐待行为”的说法表示异议。这两位现任董事会成员表示,在过去六个月,他们发现奥特曼在所有相关问题上“非常坦率,并与管理团队保持了一贯的友好合作关系”。在其专栏文章发布当天接受的采访中,托纳解释了前董事会之前决定解雇奥特曼的原因,称他“多次”对董事会撒谎并隐瞒信息。她还透露,原OpenAI董事会是从推特上得知ChatGPT发布的消息。对此,泰勒和萨默斯在回应中澄清道:“虽然现在可能难以记起,但OpenAI在2022年11月发布了ChatGPT,当时是作为一个研究项目,以了解我们的模型在对话环境中的应用潜力。它是基于GPT-3.5模型构建的,而该模型在发布时已经上线超过八个月。”两位现任董事会成员还补充说,OpenAI坚决支持“有效监管人工通用智能”。值得注意的是,奥特曼在被暂时解职后几天内就恢复了职务,他曾“强烈呼吁”立法者对AI进行监管。自2015年以来,奥特曼一直在积极倡导对人工智能实施某种形式的监管。最近,他表示支持成立一个国际监管机构,但他也表示对“监管过度”感到“非常担忧”。在今年2月的世界政府峰会上,奥特曼提出了一个“监管沙盒”的概念,提议人们可以在其中安全地试验技术,并根据“真正出错的地方”和“真正成功的地方”制定规章制度。最近几周,OpenAI经历了一系列离职,包括机器学习研究员简·雷克(JanLeike)、首席科学家伊利亚·苏茨凯弗(IlyaSutskever)以及政策研究员格雷琴·克鲁格(GretchenKrueger)。雷克和克鲁格在离职后都表达了对人工智能安全性的担忧。值得一提的是,雷克和苏茨凯弗(也是OpenAI的联合创始人之一)曾共同领导公司的超级对齐团队。该团队的任务是研究人工智能的长期风险,包括它可能“失控”的风险。OpenAI在解散超级对齐安全团队后不久,宣布成立了新的安全委员会。...PC版:https://www.cnbeta.com.tw/articles/soft/1433058.htm手机版:https://m.cnbeta.com.tw/view/1433058.htm

相关推荐

封面图片

OpenAI前董事:坚持驱逐奥特曼决定 AI公司禁不起利润诱惑

OpenAI前董事:坚持驱逐奥特曼决定AI公司禁不起利润诱惑去年11月,OpenAI上演了一场罢免CEO奥特曼的闹剧。当时,OpenAI董事会作出了罢免决定,成员就包括海伦·托纳(HelenToner)和塔莎·麦考利(TashaMcCauley)。但是,奥特曼在被罢免几天后就恢复原职,并在5个月后重返董事会。托纳和麦考利则离开了OpenAI董事会。当地时间周日,托纳、麦考利在《经济学人》的一篇专栏文章中写道,她们坚持解雇奥特曼的决定,并引用了OpenAI高层领导的声明称,奥特曼创造了一种“有毒的撒谎文化”,并实施了“可以被称之为心理虐待的行为”。在奥特曼重新领导OpenAI后,托纳、麦考利认为,不能相信OpenAI会自我追责。“我们还觉得,自从他回到公司以来的事态发展,包括他重新进入董事会和高级安全人才的离职,预示着OpenAI在自我监管方面的实验并不顺利。”她们表示。她们指出,OpenAI要想成功实现其制定的“造福全人类”使命,政府需要介入并立即建立“有效的监管框架”。她们曾经相信OpenAI可以自我监管,但是“根据我们的经验,我们认为自我监管顶不住利润诱惑的压力”。截至发稿,OpenAI、托纳、麦考利均尚未就此置评。...PC版:https://www.cnbeta.com.tw/articles/soft/1432437.htm手机版:https://m.cnbeta.com.tw/view/1432437.htm

封面图片

OpenAI 董事萨默斯等人委托威凯平和而德律所调查造成 CEO 奥特曼被罢免的那些事件

OpenAI董事萨默斯等人委托威凯平和而德律所调查造成CEO奥特曼被罢免的那些事件OpenAI董事会主席BretTaylor宣布,董事会成员BretTaylor和萨默斯(前美国财长)组成的一个委员会面试了多家主要的律所,最终将决定委托WilmerHale(美国威凯平和而德律师事务所)的律师AnjanSahni和HallieB.Levin评估/调查造成CEO奥特曼被免职的一系列事件。在这两名律师推进“有效而及时的评估”的同时,董事会将继续加强OpenAI的公司治理、构建一个合格而多样化的(由出色的个体组成的)董事会、并监督公司在确保通用人工智能对全人类谋利的重要使命。

封面图片

OpenAI 前董事爆料:奥特曼曾因多次向董事会隐瞒信息而被解雇

OpenAI前董事爆料:奥特曼曾因多次向董事会隐瞒信息而被解雇5月29日消息,据财联社报道,去年秋天,OpenAI首席执行官SamAltman先被董事会罢免,后又戏剧性赢回职位,反而使公司董事会成员大换血。周二,原OpenAI董事会成员HelenToner在一次采访中严厉批评奥尔特曼做事缺乏透明度,导致董事会对OpenAI的关键决策一无所知,而这就是董事会成员最终决定解雇他的原因。Toner透露,奥特曼多次向董事会隐瞒信息,并歪曲公司正在进行的业务,还在某些情况下公然向董事会撒谎。Toner在采访中举例称,当OpenAI旗舰产品ChatGPT在2022年11月首次亮相时,董事会成员几乎一无所知,她还是通过推特才了解到这件事情。此外,她还指出,奥特曼一直声称自己是OpenAI的独立董事会成员,与公司没有任何经济利益关系,但实际上他一直隐瞒了他拥有OpenAI初创基金的事情。更令Toner不安的是,奥特曼在人工智能安全流程上对董事会提供了不准确信息,并开始撒谎,试图将她赶出董事会,这是引发董事会集体担忧的真正原因,也是从那时起,董事会开始讨论罢免奥特曼的事宜。

封面图片

【OpenAI前董事爆料:奥特曼曾因多次向董事会隐瞒信息而被解雇】

【OpenAI前董事爆料:奥特曼曾因多次向董事会隐瞒信息而被解雇】2024年05月29日08点22分5月29日消息,据财联社报道,去年秋天,OpenAI首席执行官SamAltman先被董事会罢免,后又戏剧性赢回职位,反而使公司董事会成员大换血。周二,原OpenAI董事会成员HelenToner在一次采访中严厉批评奥尔特曼做事缺乏透明度,导致董事会对OpenAI的关键决策一无所知,而这就是董事会成员最终决定解雇他的原因。Toner透露,奥特曼多次向董事会隐瞒信息,并歪曲公司正在进行的业务,还在某些情况下公然向董事会撒谎。Toner在采访中举例称,当OpenAI旗舰产品ChatGPT在2022年11月首次亮相时,董事会成员几乎一无所知,她还是通过推特才了解到这件事情。此外,她还指出,奥特曼一直声称自己是OpenAI的独立董事会成员,与公司没有任何经济利益关系,但实际上他一直隐瞒了他拥有OpenAI初创基金的事情。更令Toner不安的是,奥特曼在人工智能安全流程上对董事会提供了不准确信息,并开始撒谎,试图将她赶出董事会,这是引发董事会集体担忧的真正原因,也是从那时起,董事会开始讨论罢免奥特曼的事宜。

封面图片

OpenAI“宫斗”调查结果公布:奥特曼时隔近四个月重返公司董事会

OpenAI“宫斗”调查结果公布:奥特曼时隔近四个月重返公司董事会根据WilmerHale的调查结论,去年奥特曼遭遇的突然解职,并不是源于对OpenAI的财务、产品安全或其他问题的担忧。“相反,这是前任董事会与奥特曼先生之间关系破裂和失去信任的结果,”OpenAI在描述该律师事务所的调查结果时称。WilmerHale发现,上届董事会当时认为其行动将减轻内部管理挑战,却并没有预料到其行动会破坏公司的稳定。WilmerHale认为,上届董事会在其广泛的自由裁量权范围内解雇了奥特曼,但也认为他的行为并不意味着必须将其免职。据悉,WilmerHale在调查期间对OpenAI前任董事会成员、OpenAI高管、前任董事会顾问以及其他相关证人进行了数十次采访;审查了30000多份文件;并评估了各种企业行为,最终得出上述调查结论。OpenAI董事会主席BretTaylor在新闻稿中表示,“我们一致认为,奥特曼和GregBrockman先生是OpenAI的正确领导者。”去年11月17日,OpenAI爆发了一场震惊全球科技届的“宫斗大戏”。OpenAI当时突发声明宣布,公司CEO奥特曼已被解雇。声明称,奥特曼的离职是在董事会进行审议审查后做出的,审查的结论是,他在与董事会的沟通中并不一贯坦诚,阻碍了董事会履行职责的能力。不过,该决定此后迅速引发轩然大波。由于奥特曼在公司内部深得人心,众多OpenAI员工签署公开信要求董事会辞职,否则将加入微软。OpenAI最大股东微软也公开表示反对OpenAI解雇奥特曼的决定。最终,在舆论的包围下,剩下的董事会成员改变了主意,恢复了奥特曼的首席执行官职位,前董事会宣告解散。三位新董事将加入此次除了奥特曼重回OpenAI董事会外,OpenAI还宣布将任命三位新董事,其中包括比尔和梅琳达·盖茨基金会前首席执行官SueDesmond-Hellmann、索尼娱乐公司前总裁NicoleSeligman和Instacart公司首席执行官FidjiSimo。奥特曼和这些新成员,将加入现任董事会成员——Quora首席执行官AdamD‘Angelo、前美国财政部长拉里-萨默斯(LarrySummers)和前Salesforce联席首席执行官、董事长BretTaylor的行列。至此,OpenAl董事会将共有7名成员。奥特曼在X平台上发文对新董事会成员的加入表示欢迎。他表示,“我非常感谢团队中的每一位成员,感谢他们在充满挑战的时刻表现出坚韧不拔的精神(这是一项伟大的开放式技能),并保持专注。”奥特曼还指出,“我从这次经历中学到了很多东西。我现在要说的是:当我认为一位前董事会成员的某些行为损害了Openai的利益时,我应该以更优雅、更谨慎的方式处理这种情况。我对此表示歉意,我希望我当时能采取不同的做法。我相信所有参与者都坚信正确使用AGI至关重要。我们的工作任重而道远,我们迫不及待地想向大家展示下一步的计划。”目前,OpenAI董事会已宣布将对OpenAI的治理结构进行重大改进。主要内容包括:采用一套新的公司治理准则;加强OpenAI的利益冲突政策;创建举报热线,作为所有OpenAI员工和承包商的匿名举报渠道创建额外的董事会委员会,包括专注于OpenAI核心使命的实施和推进的使命与战略委员会。...PC版:https://www.cnbeta.com.tw/articles/soft/1423019.htm手机版:https://m.cnbeta.com.tw/view/1423019.htm

封面图片

OpenAI前董事:“搞不清楚”董事会为什么要罢免奥特曼

OpenAI前董事:“搞不清楚”董事会为什么要罢免奥特曼当地时间周二霍夫曼在《连线》杂志举办的旧金山LiveWired大会上说,“当读到公告时我的感觉是,‘到底发生了什么?’”。“我仍然觉得还没有完全搞清楚。”在投资者的大力推动和公司员工要大规模辞职的威胁下,奥特曼最终被重新聘任公司首席执行官一职。目前OpenAI董事会正在进行改组,有些董事离开,但相关各方对这场闹剧的原因基本保持沉默。据报道,奥特曼一直在为一家人工智能芯片初创公司筹集资金。还有报道称,OpenAI联合创始人伊利亚·苏斯克沃(IlyaSutskever)认为,奥特曼对公司推进人工智能技术的潜在风险关注不够。有媒体透露,董事会从员工那里了解到一项可能会威胁到人类生存的技术突破。还有报道则详细描述了奥特曼与后来离职的董事海伦·托纳(HelenToner)有诸多分歧。OpenAI一位高管告诉员工,董事会不是因为“渎职或与公司财务、业务、安全或隐私实践有关的任何事情”解雇奥特曼。但这团迷雾给OpenAI罩上了一层不确定的气氛,竞争对手也纷纷利用这段不确定时期为自己牟利。上周,与微软Azure竞争的亚马逊云计算部门负责人亚当·塞利普斯基(AdamSelipsky)就公开称,这种事件表明为什么人们不希望云计算供应商和一家人工智能模型提供商绑在一起。霍夫曼是OpenAI实验室最初的资助者之一。2017年微软以260亿美元收购LinkedIn之后,霍夫曼加入了微软董事会。今年3月份霍夫曼从OpenAI董事会辞职。他表示自己没有与OpenAI董事会的成员交谈过,但与奥特曼有过沟通。奥特曼被罢免后,微软首席执行官萨蒂亚·纳德拉(SatyaNadella)提出聘请奥特曼、OpenAI总裁格雷格·布罗克曼(GregBrockman)及其他同事组建一个新的高级人工智能研究小组。但奥特曼很快就重返OpenAI。霍夫曼说:“我确实认为,让奥特曼再次担任首席执行官会让大家的处境更好。”“他在这方面很有能力。”微软为OpenAI提供云基础设施,并将OpenAI服务植入Windows和Office软件中。霍夫曼表示,OpenAI与微软之间的合作关系将成为商学院的课程。霍夫曼说,纳德拉对OpenAI闹剧的态度可能是,“如果没有出问题,就不要去动它。”“纳德拉是一位非常正直真诚的领导人,”霍夫曼还说。“我认为,如果这是唯一一条走得通的路,他会把OpenAI的所有人都雇来,然后继续前进。”...PC版:https://www.cnbeta.com.tw/articles/soft/1402317.htm手机版:https://m.cnbeta.com.tw/view/1402317.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人