OpenAI加强内部监管 董事有否决管理层决定权利

OpenAI加强内部监管 董事有否决管理层决定权利 人工智能公司OpenAI赋予公司董事权利,否决公司领导的决策,以进一步加强开发尖端科技的安全保障。 ChatGPT开发者OpenAI星期一(12月18日)发表一系列指引,阐明公司计划如何应对它最强大人工智能(AI)系统可能引起的极端风险。 在指引下,OpenAI只会在确定最新技术的安全性之后才会开始运用。公司也将成立一个顾问团队以审核安全报告,再转交公司高层和董事局。虽然公司领导负责做决策,董事局可推翻决定。 公司在总裁奥尔特曼短暂被罢免期间,市场焦点放在这家全球顶尖科技公司的董事局和管理层之间的权利平衡上。 OpenAI今年10月宣布成立“备灾小组”,并会持续评估它的AI系统在网安、化学、核子和生物威胁等四大范畴的表现,同时减低科技可能带来的任何危害。 具体来说,公司检查的是定义为:能造成上亿元经济损失,或导致许多个人受伤害或死亡的“灾难性”风险。 领导公司备灾小组的迈德里(Aleksander Madry)告诉彭博社,他的团队会每月提交报告给内部新成立的安全顾问团队,再由奥尔特曼与公司董事局分析团队呈交的建议。 迈德里说:“AI本身没有好坏,我们正在塑造它。” 他也希望,其他公司能利用OpenAI的指引来评估旗下AI模型的潜在风险。 今年4月,一群AI领域的领导和专家签署一份公开信,基于对社会有潜在风险理由,要求停止发展一套比OpenAI的GPT-4更有威力的人工智能系统。 2023年12月19日 11:28 AM

相关推荐

封面图片

估值800亿美元AI巨头OpenAI管理层揭秘:9位年轻高管掌舵

估值800亿美元AI巨头OpenAI管理层揭秘:9位年轻高管掌舵 OpenAI 成立于 2015 年 12 月,创始人包括 Altman 和其他三位联合创始人:Greg Brockman、Ilya Sutskever和Elon Musk。风险投资家 Peter Thiel 以及亚马逊和 Infosys 等企业投资者是 OpenAI 的早期支持者, 他们以 10 亿美元的资金帮助该公司启动研究和运营。2019 年,OpenAI 拆分为非营利性 OpenAI, Inc. 及其营利性子公司 OpenAI Global, LLC。我们今天所知道的 OpenAI 采用的是上限利润模式,该模式为投资者从投资中获得的利润设定了最高限额。6 月初,有报道称 OpenAI 正在考虑从上限利润模式转向完全营利模式。同时,非营利性部门使其能够承担昂贵的长期研究项目。近年来,随着业务的飞速发展,OpenAI 的领导层经历了重大变动,最引人注目的是Altman于 2023 年 11 月突然被解雇又复职,以及随后的董事会改组。OpenAI 的前董事会成员包括 Altman、马斯克(2018 年初离职)、Sutskever 以及几位非创始投资者和人工智能专家。如今,该公司由一个全新的董事会管理,由来自技术、政策和学术界不同背景的七名成员组成。以下是 OpenAI 的 9 位知名高管和 7 位董事会董事:萨姆·奥特曼(Sam Altman),39 岁,首席执行官2019 年,OpenAI 的营利性实体成立时,阿尔特曼就担任其首席执行官。2023 年 11 月,他曾被短暂解雇,几天后,在超过 95% 的 OpenAI 员工签署公开信要求他回归后,他又恢复了原职。19 岁时,阿尔特曼从斯坦福大学辍学,与他人共同创立了 Loopt,这是一款基于位置的社交网络移动应用,并成功销售。2011 年,他以合伙人的身份加入了创业加速器Y Combinator,最初他只是兼职,以便与兄弟杰克·阿尔特曼共同创立风险投资公司 Hydrazine Capital ,并于 2014 年晋升为总裁。2019年,他因在 OpenAI 等非公司项目上花费太多时间而 被迫从 Y Combinator 辞职。除了OpenAI,Altman还担任清洁能源公司Oklo Inc.和Helion Energy的董事长。据报道,Altman参与外部商业活动是OpenAI前董事会想将他赶走的原因之一。格雷格·布罗克曼,36 岁,总裁兼董事长格雷格·布罗克曼 (Greg Brockman) 是 OpenAI 的联合创始人,并领导了该公司的研究和工程工作,包括产品开发。布罗克曼于 2023 年 11 月与阿尔特曼一起被解雇,并在阿尔特曼复职后不久回归。此前,他是杰克·多西 (Jack Dorsey ) 领导的金融科技公司Stripe 的首席技术官。Mira Murati,35 岁,首席技术官Mira Murati于 2018 年 6 月开始在 OpenAI 工作,担任应用 AI 和合作伙伴关系副总裁。后来,她于 2022 年晋升为研究、产品和合作伙伴关系高级副总裁兼首席技术官。Murati 拥有商业和工程方面的混合背景。在加入 OpenAI 之前,她曾担任特斯拉的高级产品经理,专注于其 Model X 汽车。在此之前,她曾在航空航天公司 Zodiac Aerospace 担任工程师,并担任虚拟和增强现实开发公司 Leap Motion(后来与 Ultrahaptics 合并成为 Unleap)的产品和工程副总裁。雅库布·帕乔基(Jakub Pachocki),33 岁,首席科学家OpenAI 致力于研究和 AI 产品,因此公司设有首席科学家和首席技术官。首席科学家专注于研究,而 CTO 则专注于应用和产品开发。雅库布·帕乔基(Jakub Pachocki)在前任苏茨克弗(Sutskever)于 2024 年 5 月辞职后成为首席科学家。这位波兰科学家曾担任 OpenAI 的研究主管,领导了 GPT-4 和 OpenAI Five 的开发。帕乔基于 2017 年初加入 OpenAI,此前他在卡内基梅隆大学获得博士学位,并在哈佛大学担任博士后研究员。他因在 OpenAI 大规模强化学习(RL)和深度学习优化研究方面的贡献而受到赞扬。萨拉·弗莱尔(Sarah Friar),51 岁,首席财务官作为 OpenAI 高管团队的最新成员之一,Sarah Friar于 2024 年 6 月加入该公司,担任首任首席财务官。Friar 最近担任社区社交网络应用 Nextdoor 的首席执行官。在此之前,她曾是高盛的一名银行家,并在 2012 年至 2018 年期间为 Salesforce 和 Square 工作。Friar 是区块链公司 ConsenSys的董事会成员,之前曾担任 Slack 和 New Relic 的董事会成员。Jason Kwon,46 至 48 岁,首席战略官Jason Kwon在担任 OpenAI 总法律顾问两年多后,于 2023 年 7 月成为首席战略官。他负责监督公司的战略,尤其是投资,并制定公司在日益激烈的竞争中的发展方向。Kwon 拥有丰富的法律背景,曾担任 Y Combinator 的总法律顾问,专注于 YC Continuity Fund,担任 Khosla Ventures 的助理总法律顾问,并担任 Goodwin 全球律师事务所的合伙人。张哲 (Che Chang) 总法律顾问在 OpenAI 面临多起法律纠纷的情况下,该公司拥有不断壮大的内部法律团队也就不足为奇了。Che Chang之前曾担任亚马逊的高级企业法律顾问,因此在技术方面拥有丰富的法律专业知识。Chang 是 OpenAI 内部团队的首席律师,为公司提供法律建议和指导,包括降低风险、确保法律合规以及在法庭上担任其官方法律代表等。Hannah Wong,39 或 40 岁,通讯主管汉娜·黄 (Hannah Wong)于 2021 年 2 月加入 OpenAI,此前她曾在苹果公司从事了七年的公关工作。2023 年,她成为 OpenAI 的公关主管,后来担任副总裁。黄的职业生涯始于全球传播公司爱德曼 (Edelman),主要负责 Xbox 和 Xbox LIVE、嘉信理财 (Charles Schwab) 和 Twitter 账户。在 Gap 担任企业传播自由职业者一段时间后,她最终担任苹果的公关经理,然后担任高级经理,主要负责 iPad、Apple Pay、Apple Card 和 iCloud。在 OpenAI,她负责领导沟通策略和公关,并负责监督员工沟通和品牌设计团队。艾丽莎·罗森塔尔(Alissa Rosenthal),40 岁,销售主管Alissa Rosenthal 在 S&P Global 开始了自己的科技职业生涯,并担任 Quid 人工智能市场情报战略合作伙伴总监。她的第一份销售工作是在 Mixpanel 担任销售总监,然后在 InVisionApp Inc. 工作。在 2022 年 6 月加入 OpenAI 之前,Alissa Rosenthal 最近担任 SaaS 公司 WalkMe 的销售副总裁。在 2 月份接受 VentureBeat 采访时,Rosenthal 透露她目前管理着一支 150 人的团队。她将销售团队的主要目的描述为帮助用户过渡到人工智能(AGI),尽管 AGI 在整个行业中仍未定义。现任董事会成员亚当·德安杰洛(Adam D’Angelo),39 岁,Quora 联合创始人兼首席执行官布雷特·泰勒(Bret Taylor),43 岁,人工智能初创公司 Sierra 联合创始人劳伦斯·萨默斯(Lawrence Summers),69 岁,前总统奥巴马政府国家经济委员会主任苏·德斯蒙德-赫尔曼,66 岁, 辉瑞董事会成员、比尔和梅琳达·盖茨基金会前首席执行官妮可·塞利格曼(67 岁) 索尼公司前执行副总裁兼总法律顾问、索尼美国公司前总裁Fidji Simo ,38 岁, Instacart首席执行官兼 Metrodora 研究所联合创始人保罗·M·中曾根(Paul M. Nakasone),60 岁,美国陆军退役将军,曾领导创建美国网络司令部,并担任美国网络司令部领导人 ... PC版: 手机版:

封面图片

OpenAI前董事:坚持驱逐奥特曼决定 AI公司禁不起利润诱惑

OpenAI前董事:坚持驱逐奥特曼决定 AI公司禁不起利润诱惑 去年11月,OpenAI上演了一场罢免CEO奥特曼的闹剧。当时,OpenAI董事会作出了罢免决定,成员就包括海伦·托纳(Helen Toner)和塔莎·麦考利(Tasha McCauley)。但是,奥特曼在被罢免几天后就恢复原职,并在5个月后重返董事会。托纳和麦考利则离开了OpenAI董事会。当地时间周日,托纳、麦考利在《经济学人》的一篇专栏文章中写道,她们坚持解雇奥特曼的决定,并引用了OpenAI高层领导的声明称,奥特曼创造了一种“有毒的撒谎文化”,并实施了“可以被称之为心理虐待的行为”。在奥特曼重新领导OpenAI后,托纳、麦考利认为,不能相信OpenAI会自我追责。“我们还觉得,自从他回到公司以来的事态发展,包括他重新进入董事会和高级安全人才的离职,预示着OpenAI在自我监管方面的实验并不顺利。”她们表示。她们指出,OpenAI要想成功实现其制定的“造福全人类”使命,政府需要介入并立即建立“有效的监管框架”。她们曾经相信OpenAI可以自我监管,但是“根据我们的经验,我们认为自我监管顶不住利润诱惑的压力”。截至发稿,OpenAI、托纳、麦考利均尚未就此置评。 ... PC版: 手机版:

封面图片

OpenAI 成立“防备”预警团队:董事会有权阻止新 AI 模型发布

OpenAI 成立“防备”预警团队:董事会有权阻止新 AI 模型发布 OpenAI 公司日前宣布成立新的“防备(Preparedness)”团队,旨在监控旗下技术可能带来的潜在威胁,防止其落入坏人之手,甚至被用于制造化学和生物武器。 该团队由麻省理工学院人工智能教授亚历山大・马德里 (Aleksander Madry) 领导,将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等,对 OpenAI 开发的技术进行持续监测和测试,一旦发现任何危险苗头,及时向公司发出警告。 防备团队每月将向一个新的内部安全咨询小组发送报告,阿尔特曼和公司高层可以根据这些报告决定是否发布新的 AI 系统,但董事会有权撤销这一决定。来源 , 频道:@kejiqu 群组:@kejiquchat

封面图片

OpenAI员工恫言跳槽 要求董事会请辞并让奥尔特曼复职

OpenAI员工恫言跳槽 要求董事会请辞并让奥尔特曼复职 美国人工智能研究公司OpenAI前首席执行官奥尔特曼确定不会重返公司后,OpenAI近乎全体员工恫言要辞职,除非董事会集体请辞,并让奥尔特曼复职。 这使得这家备受瞩目的人工智能(AI)起步公司(Startup)的未来,变得越来越不确定。 彭博社报道,OpenAI的700多名员工星期一(11月20日)向OpenAI董事会发出一封联署信,表明“无法为缺乏才干、判断力和关心公司使命与员工的人工作或共事” 。OpenAI雇有约770名员工。 这封信要求OpenAI所有董事会成员辞职,并恢复奥特曼的职位,否则他们可能会跟随奥尔特曼跳槽到微软公司。信中称,这个软件巨头“已向我们保证,所有OpenAI员工都会获得职位”。 微软是OpenAI的最大投资者。17日突然的奥尔特曼将加入微软,领导一个新的先进AI研究团队。 微软首席执行官纳德拉19日发贴文说,微软仍然致力于维持与OpenAI的关系,并期待与OpenAI新任首席执行官希尔(Emmett Shear)合作。 2023年11月21日 9:39 AM

封面图片

OpenAI宣布奥尔特曼复职 董事会改组

OpenAI宣布奥尔特曼复职 董事会改组 美国人工智能研究公司OpenAI宣布,奥尔特曼将重回公司担任首席执行官。 这家备受瞩目的人工智能(AI)初创公司上周,引发混乱和争议。 法新社报道,OpenAI星期三(11月22日)在社媒平台X发表声明说,公司和奥尔特曼已就OpenAI的未来达成协议。 除奥尔特曼回归,OpenAI也同意部分重组解雇他的董事会。 OpenAI说,Salesforce前联合首席执行官泰勒(Bret Taylor)和美国前财政部长萨默斯(Larry Summers)将加入,与现任董事会成员、Quora首席执行官德安吉洛(Adam D’Angelo)组成新的董事会。 奥尔特曼在社媒平台X帖文说:“我期待回到openai。” 2023年11月22日 3:14 PM

封面图片

OpenAI新老董事激辩:奥特曼是不是爱撒谎 是不是忽视安全?

OpenAI新老董事激辩:奥特曼是不是爱撒谎 是不是忽视安全? 此前几天,《经济学人》刊登了OpenAI前董事会成员海伦·托纳(Helen Toner)和塔莎·麦考利(Tasha McCauley)撰写的文章《OpenAI前董事:AI公司不应自我监管》(AI firms mustn’t govern themselves, say ex-members of OpenAI’sboard),她们在文章中批评了首席执行官萨姆·奥特曼(Sam Altman)及OpenAI的安全实践,并呼吁对人工智能行业实施更严格的监管。泰勒和萨默斯对前董事的指控进行了反驳,他们在《经济学人》上发表的回应中为奥特曼辩护,并阐述了OpenAI在安全方面的立场。他们提到,OpenAI已经成立了新的安全委员会,并向白宫提交了一系列自愿承诺,以加强安全性和保障。他们进一步透露,作为新成立董事会的一部分,他们之前曾主持一个特别委员会,并委托WilmerHale律师事务所对导致奥特曼被解职的事件进行外部调查。这一过程包括审查30,000份文件,并对OpenAI之前的董事会成员、高管以及其他相关证人进行了数十次访谈。泰勒和萨默斯重申,WilmerHale的调查结论指出,奥特曼的解职“并非因产品安全或安全性问题,也不是因为发展速度问题”。同时,他们也对托纳和麦考利的文章中描述奥特曼创造了“一种有毒的欺骗文化”和从事“心理虐待行为”的说法表示异议。这两位现任董事会成员表示,在过去六个月,他们发现奥特曼在所有相关问题上“非常坦率,并与管理团队保持了一贯的友好合作关系”。在其专栏文章发布当天接受的采访中,托纳解释了前董事会之前决定解雇奥特曼的原因,称他“多次”对董事会撒谎并隐瞒信息。她还透露,原OpenAI董事会是从推特上得知ChatGPT发布的消息。对此,泰勒和萨默斯在回应中澄清道:“虽然现在可能难以记起,但OpenAI在2022年11月发布了ChatGPT,当时是作为一个研究项目,以了解我们的模型在对话环境中的应用潜力。它是基于GPT-3.5模型构建的,而该模型在发布时已经上线超过八个月。”两位现任董事会成员还补充说,OpenAI坚决支持“有效监管人工通用智能”。值得注意的是,奥特曼在被暂时解职后几天内就恢复了职务,他曾“强烈呼吁”立法者对AI进行监管。自2015年以来,奥特曼一直在积极倡导对人工智能实施某种形式的监管。最近,他表示支持成立一个国际监管机构,但他也表示对“监管过度”感到“非常担忧”。在今年2月的世界政府峰会上,奥特曼提出了一个“监管沙盒”的概念,提议人们可以在其中安全地试验技术,并根据“真正出错的地方”和“真正成功的地方”制定规章制度。最近几周,OpenAI经历了一系列离职,包括机器学习研究员简·雷克(Jan Leike)、首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)以及政策研究员格雷琴·克鲁格(Gretchen Krueger)。雷克和克鲁格在离职后都表达了对人工智能安全性的担忧。值得一提的是,雷克和苏茨凯弗(也是OpenAI的联合创始人之一)曾共同领导公司的超级对齐团队。该团队的任务是研究人工智能的长期风险,包括它可能“失控”的风险。OpenAI在解散超级对齐安全团队后不久,宣布成立了新的安全委员会。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人