OpenAI 发布灾备架构应对大模型风险:董事会有权推翻决策

OpenAI发布灾备架构应对大模型风险:董事会有权推翻决策当地时间12月18日,OpenAI在官网发布灾备架构初始版本,描述其应对流程以跟踪、评估、预测和防范日益强大的模型带来的灾难性风险。OpenAI规定了四个安全风险等级,并表示只有得分在“中”或以下的模型才能部署。OpenAI表示,其将会成立专责小组,监察技术工作,并建立安全决策的运行架构,“我们正在建立一个跨职能的安全咨询小组,审查所有报告,并将报告同时提交领导层和董事会。虽然领导层是决策者,但董事会有权推翻决策”。此外,OpenAI将制定加强安全和外部问责的协议。灾备小组将定期进行安全演习,以测试其业务压力和公司文化。

相关推荐

封面图片

OpenAI 成立“防备”预警团队:董事会有权阻止新 AI 模型发布

OpenAI成立“防备”预警团队:董事会有权阻止新AI模型发布OpenAI公司日前宣布成立新的“防备(Preparedness)”团队,旨在监控旗下技术可能带来的潜在威胁,防止其落入坏人之手,甚至被用于制造化学和生物武器。该团队由麻省理工学院人工智能教授亚历山大・马德里(AleksanderMadry)领导,将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等,对OpenAI开发的技术进行持续监测和测试,一旦发现任何危险苗头,及时向公司发出警告。防备团队每月将向一个新的内部安全咨询小组发送报告,阿尔特曼和公司高层可以根据这些报告决定是否发布新的AI系统,但董事会有权撤销这一决定。来源,频道:@kejiqu群组:@kejiquchat

封面图片

OpenAI董事会成立安全委员会,开始训练下一代AI模型

OpenAI董事会成立安全委员会,开始训练下一代AI模型OpenAI当地时间5月28日发布声明,宣布公司董事会成立安全与安保委员会。这个新委员会由董事会主席布雷特·泰勒、董事AdamD'Angelo、NicoleSeligman和首席执行官山姆·奥特曼领导,将负责就OpenAI项目和运营的关键安全与安保决策向董事会全体成员提出建议。根据声明,该委员会的首要任务是在未来90天内评估并进一步发展OpenAI的流程和保障措施。90天后,委员会将与全体董事会分享建议。在全体董事会审查之后,OpenAI将以符合安全和保障的方式公开分享已采纳建议的最新进展。关注频道@ZaiHuaPd频道投稿@ZaiHuabot

封面图片

OpenAI 称董事会可以否决 CEO 关于新人工智能产品安全性的意见

OpenAI称董事会可以否决CEO关于新人工智能产品安全性的意见OpenAI表示,即使公司领导层认为人工智能模型是安全的,其董事会也可以选择推迟发布,这是这家人工智能初创公司授权其董事加强人工智能开发保障措施的另一个迹象。周一发布的一套指导方针详细说明了这一安排,解释了该公司计划如何应对其最强大的人工智能系统可能带来的极端风险。该指导方针的发布是在OpenAI首席执行官萨姆・奥特曼(SamAltman)被董事会短暂罢免后,该公司经历了一段动荡时期,这使得董事和公司高管之间的权力平衡成为人们关注的焦点。

封面图片

OpenAI宣布领导层更迭 董事会公告全文

OpenAI宣布领导层更迭董事会公告全文OpenAI宣布领导层更迭OpenAI,Inc.(501(c)(3),作为OpenAI所有活动的总体管理机构)董事会今天宣布,SamAltman将离任首席执行官,并离开董事会。公司首席技术官米拉-穆拉提(MiraMurati)将担任临时首席执行官,立即生效。作为OpenAI领导团队的一员,Mira在OpenAI发展成为全球人工智能领导者的过程中发挥了至关重要的作用。她拥有独特的技能,了解公司的价值观、运营和业务,并已领导公司的研究、产品和安全职能部门。鉴于她的长期任职和与公司各方面的密切接触,包括她在人工智能治理和政策方面的经验,董事会相信她完全有能力胜任这一职位,并预计在正式物色永久首席执行官的同时实现无缝过渡。Altman先生的离职是董事会经过深思熟虑后做出的决定,董事会认为他在与董事会的沟通中未能始终保持坦诚,妨碍了董事会履行职责的能力。董事会不再相信他有能力继续领导OpenAI。董事会在一份声明中说:"OpenAI是为推进我们的使命而特意组建的:确保人工通用智能造福全人类。董事会将继续全心全意地履行这一使命。我们感谢Sam为OpenAI的创立和发展做出的诸多贡献。同时,我们认为,在我们前进的过程中,新的领导层是必要的。作为公司研究、产品和安全职能部门的领导者,Mira非常胜任临时首席执行官的角色。我们对她在过渡时期领导OpenAI的能力充满信心。"OpenAI的董事会成员包括OpenAI首席科学家伊利亚-苏茨克沃(IlyaSutskever)、独立董事Quora首席执行官亚当-德安杰洛(AdamD'Angelo)、技术企业家塔莎-麦考利(TashaMcCauley)以及乔治城安全与新兴技术中心的海伦-托纳(HelenToner)。作为此次过渡的一部分,格雷格-布罗克曼(GregBrockman)将卸任董事会主席一职,但他仍将留在公司,向首席执行官汇报工作。OpenAI成立于2015年,是一家非营利组织,其核心使命是确保人工通用智能造福全人类。2019年,OpenAI进行了重组,以确保公司能够筹集资金来实现这一使命,同时保留非营利组织的使命、治理和监督。董事会的大多数成员都是独立董事,独立董事不持有OpenAI的股份。虽然公司经历了巨大的发展,但推进OpenAI的使命和维护其章程的原则仍是董事会的基本治理责任。相关文章:SamAltman被OpenAI董事会赶下CEO的宝座...PC版:https://www.cnbeta.com.tw/articles/soft/1397843.htm手机版:https://m.cnbeta.com.tw/view/1397843.htm

封面图片

Sam Altman被董事会赶下OpenAI CEO的宝座

SamAltman被董事会赶下OpenAICEO的宝座博文写道:"董事会不再相信[Altman]有能力继续领导OpenAI。"格雷格-布罗克曼(GregBrockman)和阿尔特曼一样,都是共同创立OpenAI的团队成员,这次领导层的巨变也将使他卸任董事会主席一职,但仍将担任公司总裁,向OpenAI新任临时首席执行官米拉-穆拉提(MiraMurati)汇报工作。穆拉提此前是OpenAI的首席技术官。OpenAI表示,将立即开始正式物色下一任首席执行官。董事会在一份联合声明中写道:"OpenAI是为了推进我们的使命而特意组建的:确保人工通用智能造福全人类。董事会将继续全心全意地履行这一使命。我们感谢山姆为OpenAI的创立和发展做出的诸多贡献。与此同时,我们认为在前进的道路上需要新的领导层。作为公司研究、产品和安全职能部门的领导者,米拉非常胜任临时首席执行官的角色。我们对她在过渡时期领导OpenAI的能力充满信心。"目前,OpenAI董事会成员包括OpenAI首席科学家伊利亚-苏茨克沃(IlyaSutskever)、Quora首席执行官亚当-德安杰洛(AdamD'Angelo)、科技企业家塔莎-麦考利(TashaMcCauley)和乔治城大学安全与新兴技术中心战略总监海伦-托纳(HelenToner)。目前尚不清楚阿尔特曼犯了哪些错误,后续我们将继续关注。...PC版:https://www.cnbeta.com.tw/articles/soft/1397841.htm手机版:https://m.cnbeta.com.tw/view/1397841.htm

封面图片

前美国国家安全局局长加入 OpenAI 董事会

前美国国家安全局局长加入OpenAI董事会当地时间13日下午,OpenAI宣布,前国家安全局局长、退役将军保罗·仲宗根(PaulNakasone)将加入OpenAI董事会。他还将担任董事会“安全与保障”小组委员会成员。保罗·仲宗根由前总统特朗普提名为国家安全局局长,并于2018年至今年2月领导该机构。仲宗根表示:“OpenAI对其使命的奉献精神与我自己的价值观和公共服务经验非常契合。”——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人