GPT-5倒计时 奥特曼踢走Ilya得逞 宫斗惊人内幕再曝光

GPT-5倒计时 奥特曼踢走Ilya得逞 宫斗惊人内幕再曝光 今天,奥特曼领衔的OpenAI全新的“安全与保障委员会”官宣成立。不仅如此,OpenAI预计,正在训练的下一代旗舰模型,将带领他们通往AGI的道路上迈向新的水平。OpenAI研究科学家,德扑之父发帖确认了新模型训练的消息。安全委员会的成立,下一代模型的布局,一切说明了OpenAI已非常接近AGI。虽然这是板上钉钉的官方实锤,但只是含糊不清地用了一句“前沿模型”,并没有确认会不会是GPT-5或者其他型号。模型官宣引起的讨论完全抢走了新成立安全委员会的风头(不知道是不是奥特曼故意安排的)。下一代模型全网大猜想GPT-4之后,全网对于OpenAI发布的下一代旗舰模型臆测了很久。不过,这一次,他们提到的前沿模型,究竟是什么?几天前,巴黎VivaTech科技活动上,OpenAI开发者体验负责人暗示了,今年一定会发新模型“GPT Next”,而且网友猜测预计在11月发布。大多数网友纷纷认定,这次可能就是GPT-5了。不过,又有人指出,在今年4月的时候,GPT-5早已开始了红队测试。这完全说明了GPT-5的训练早已完成,OpenAI正在研究的下一代前沿模型绝不可能是GPT-5。因此,他们训的是GPT-6无疑了。另一位爆料人Flowers更加确认了这一点,OpenAI当然没有刚开始训练GPT-5。同时,他还坚持表示,也不会有GPT-6。当有人问道,为什么这么确信OpenAI没有GPT-6时,Flowers首次透露出一个新奇的点子:“因为大模型的发展已经接近它们的极限”。尽管可以通过使用工具、增加功能、提升多模态能力,扩展上下文等方式来改进LLM,但这终将不是长久之计。但Reddit上有人发帖否认了GPT-5的猜想,甚至新模型应该不属于GPT家族,而是Q*,理由如下:- GPT-5从12月/1月就开始训练,大致是目前GPT-4o的底层架构,不可能再发布一次- 如果扩展到GPT-6,则需要储备更多的算力- 要真正实现LLM的逻辑推理和长期任务规划能力,就需要训练一个新模型来操作LLM,而OpenAI一直在研究Q*来解决这个问题楼主还提出了Q*方法的大致原理:- 先提出一个复杂的Agent任务- 让GPT生成数百万个潜在解决方案,以树状结构表达,树中每一个节点代表Agent推理的一个步骤- 让GPT对每个解决方案评分在已经有一个强大GPT模型的基础上,重复这个过程就能创建出一个庞大的数据集,用来训练新模型指导LLM完成长期的推理或规划任务。这种猜想甚至比GPT-5更激动人心,评论区就有人回复说“像Q*这样的东西即使不大,也能改变整个游戏”。也有评论力挺这种说法,因为OpenAI经常谈到Agent。现在可能无法使用内置的逻辑推理Agent来训练LLM,但用外置的新模型对LLM进行“指导”是可行的。算力体量有多大?下一代前沿模型虽未知,不过微软Build大会上,CTO Kevin Scott表示,微软正在为OpenAI打造“鲸鱼”级别的超算。当时训练GPT-3使用的是“鲨鱼”级的算力,GPT-4则用上了“虎鲸”级的算力。90天倒计时开始,全力打造AGI除了奥特曼本人,“安全与保障委员会”的董事会成员还有主席Bret Taylor、Adam D'Angelo、Nicole Seligman,共四个人。“安全与保障委员会”的首要任务将是,在接下来的90天内,评估改进OpenAI现有的AI安全和保障的流程措施。90天期满后,他们将与全体董事会提交一份报告。经过董事会的审查之后,OpenAI将公开分享所采纳的改进措施。因此,有理由得出结论,无论下一代“前沿模型”是什么,至少它在90天内不会发布。委员会中,除了董事会成员,还包括:OpenAI的技术和政策专家Aleksander Madry(Preparedness团队的负责人)、Lilian Weng(安全系统负责人)、John Schulman(对齐科学负责人)、Matt Knight(安全负责人)和Jakub Pachocki(首席科学家)。此外,OpenAI还聘请了外部网络安全和技术专家,比如Rob Joyce、John Carlin,来提供咨询意见。不搞“超级智能”奥特曼此前,曾对外公开宣称,OpenAI终极目标是打造一种比人类先进的“超级智能”。他甚至表示,2023年自己有一半的时间都在研究“如何打造超智能”。如今这一说法,却被另一位高管否认。OpenAI负责全球事务的副总Anna Makanju在接受FT采访中提到:我们的使命是打造AGI,并非是“超级智能”。因为超级智能是一种比地球上人类高出多个数量级的技术。不过,她还补充道,“AGI还不存在,我们在确保其安全前,不会发布这样的技术”。委员会并非独立一些人批评到,新的委员会完全由OpenAI的“自己的高管”组成,这意味着对该公司安全措施的评估,将不会是独立的。还有网友调侃道,这不都是由奥特曼本人组成的安全委员会。之所以出现这样的声音,是因为OpenAI董事会去年发动的政变,成为一直以来争议的来源。2023年11月,奥特曼被董事会解雇,理由是“他并不坦诚”。而最近,由两名前董事会成员在TIME期刊上撰写的文章中,更是对奥特曼对OpenAI的治理提出了严厉的批评。她们表示,Ilya和其他安全对齐团队人员的离开,预示着OpenAI“自治实验”的前景不妙。团队重组在Ilya Sutskever和负责人Jan Leike离职后,许多人愈加担忧,OpenAI如何管理类AGI技术的潜在危险。彭博称,Ilya走后,OpenAI将他原先团队中剩余的成员,整合到了更大的研究部门,而不是保留独立的形式。与此同时,OpenAI联创John Schulman也在负责监管超级对齐研究。作为职务的扩展,他被授予了一个新头衔对齐科学负责人(Head of Alignment Science)。OpenAI宫斗内幕曝光与此同时,针对奥特曼的舆论还在持续发酵。前董事会成员Helen Toner在最近的播客频道TED AI Show上揭露了一些2023年底OpenAI“宫斗风波”的情况。她解释了董事会决定罢免奥特曼的原因隐瞒信息,歪曲事实,公然向董事会撒谎。比如2022年底ChatGPT发布时,董事会完全没有得到消息,而是在Twitter上才第一次看到。此外,他一直宣称自己在公司中没有任何经济利益,从没有告知董事会他拥有OpenAI启动基金。奥特曼在AI安全方面的表现也让Toner不安,因为他只会向董事会透露“关于公司正在实施安全流程的少量、不准确的信息”。这意味着,董事会没有办法获知这些流程的真实情况,更无从实行有效的监督和指导。而且,当她的论文中包含了对奥特曼的负面评价时,他开始不择手段,试图将Toner赶出董事会。结合此前Twitter网友历数的“七宗罪”,奥特曼带领下的安全团队,真的能让下一代模型安全可靠吗? ... PC版: 手机版:

相关推荐

封面图片

OpenAI CEO奥特曼:GPT-5将有重大飞跃 但还要等很久

OpenAI CEO奥特曼:GPT-5将有重大飞跃 但还要等很久 如今看来,GPT-5还得再等上一段时间。近日,奥特曼在接受采访时对GPT-5的开发进展表示谨慎。他说:“我们也不知道(何时发布GPT-5)。我们对此感到乐观,但还有很多工作要做。”奥特曼还称,与其前身GPT-4相比,预计GPT-5将实现重大飞跃,将解决GPT-4目前犯下的许多错误。但他同时强调,这项技术仍处于早期阶段,存在数据和算法方面的问题。而且,与其未来潜力相比,这些模型目前还没有充分发挥其应用的作用。奥特曼还将其与iPhone进行了对比,称“第一代iPhone仍有很多不足之处,但它已经足够好,对人们足够有用。因此,我们相信GPT也会变得更好。”关于GPT-5的发布日期,OpenAI首席技术官Mira Murati近日曾暗示,GPT-5有望在2025年底至2026年初上市。Murati还称,届时GPT-5在执行特定任务上的能力将达到“博士级”智能水平。 ... PC版: 手机版:

封面图片

奥特曼首次自曝GPT-5细节 史诗级性能跃升 小看它的公司都会被碾压

奥特曼首次自曝GPT-5细节 史诗级性能跃升 小看它的公司都会被碾压 “GPT每次开发下一个模型时,都强调需要更多新特性,因此,日常生活的各个领域以及商业中的很多板块都不可避免地被取代和消失。”其还认为,GPT模型没有任何限制,如果投入足够的计算资源,构建超越人类的AGI并不困难。奥特曼在和韩国记者采访团交流时说到,许多初创公司很高兴地认为GPT-5只会取得微小的进展,而不是重大的进步,但我认为这是一个很大的错误。“就像技术剧变降临时会经常发生的那样,这些低估GPT-5能力的初创公司将被下一代模型所碾压。”前一段时间,奥特曼还发推暗示,OpenAI今年的产品将会改变人类历史。 ... PC版: 手机版:

封面图片

openAI 奥特曼:回答关切的GPT-5、Sora、董事会闹剧、马斯克等 首个AGI系统能够回答关于宇宙统一理论和外星文明存在

openAI 奥特曼:回答关切的GPT-5、Sora、董事会闹剧、马斯克等 首个AGI系统能够回答关于宇宙统一理论和外星文明存在性等重大科学问题。#视频 频道:@kejiqu 群组:@kejiquchat

封面图片

ChatGPT效能大幅提升 传OpenAI将推出GPT-5

ChatGPT效能大幅提升 传OpenAI将推出GPT-5 据Business Insider引述消息指出,人工智能(AI)聊天机器人ChatGPT开发者OpenAI,正准备在未来几个月推出下一代的ChatGPT模型“GPT-5”,并指效能将大幅提升。

封面图片

OpenAI大模型GPT-5要来了!“提升很大”

OpenAI大模型GPT-5要来了!“提升很大” “它的性能非常棒,提升很大。”一位看过GPT-5大模型演示的CEO表示。该CEO表示,OpenAI使用他的公司独有的用例和数据展示了GPT-5。他说,OpenAI还提到了该模型尚未发布的其他功能,包括调用OpenAI正在开发的AI代理来自主执行任务。企业客户向OpenAI付费使用增强版ChatGPT。随着OpenAI拓展业务,其CEO山姆·奥特曼(Sam Altman)打造自己不断壮大的AI帝国,面向企业客户的销售成为了OpenAI的主要收入来源。不过,OpenAI尚未设定GPT-5的发布日期,这意味着公司内部对于这款大模型的发布时间预期可能会发生变化。据知情人士透露,OpenAI仍在训练GPT-5。在训练完成后,OpenAI将在内部对GPT-5进行安全测试,并进一步进行“红队”测试。在“红队”测试过程中,OpenAI员工和一些通常经过精选的外部人员会以各种方式对该工具进行挑战,以便在其向公众发布之前发现问题。知情人士指出,目前还没有GPT-5完成安全测试的具体时间表,所以该模型的发布日期可能会因为这一过程而推迟。GPT-4退化一年前,OpenAI针对ChatGPT发布了最后一次重大更新,该聊天机器人目前使用的是GPT-4大模型。OpenAI称,GPT-4的响应比之前的GPT-3要快得多,准确得多。OpenAI在2023年晚些时候发布了更强大的GPT-4 Turbo模型,以解决一个被称为“懒惰”的问题,因为该模型有时会拒绝回答提示问题。像GPT-4这样的大语言模型是通过从网络上收集的大量数据进行训练的,以权威的语调回应用户提示,呈现出类似人类语言模式的特点。这种语调以及所提供信息的质量可能会受到训练数据的影响,具体取决于OpenAI在开发和维护工作中所使用的数据更新或其他变化。目前,社交媒体Reddit上的几个论坛一直在抱怨GPT-4的退化和ChatGPT的糟糕输出。知情人士透露,OpenAI内部人士希望GPT-5更加可靠,给公众和企业客户留下深刻印象。与此同时,OpenAI还卷入了版权诉讼中。从技术上讲,AI模型的许多最关键训练数据都归版权所有者所有。OpenAI和许多其他科技公司都反对更新联邦法规,以限制大模型如何获取和使用这些材料。目前,OpenAI正在应对《纽约时报》等数据版权所有者发起的诉讼。截至发稿,OpenAI发言人尚未就此置评。 ... PC版: 手机版:

封面图片

OpenAI“宫斗”调查结果公布:奥特曼时隔近四个月重返公司董事会

OpenAI“宫斗”调查结果公布:奥特曼时隔近四个月重返公司董事会 根据WilmerHale的调查结论,去年奥特曼遭遇的突然解职,并不是源于对OpenAI的财务、产品安全或其他问题的担忧。“相反,这是前任董事会与奥特曼先生之间关系破裂和失去信任的结果,”OpenAI在描述该律师事务所的调查结果时称。WilmerHale发现,上届董事会当时认为其行动将减轻内部管理挑战,却并没有预料到其行动会破坏公司的稳定。WilmerHale认为,上届董事会在其广泛的自由裁量权范围内解雇了奥特曼,但也认为他的行为并不意味着必须将其免职。据悉,WilmerHale在调查期间对OpenAI前任董事会成员、OpenAI 高管、前任董事会顾问以及其他相关证人进行了数十次采访;审查了30000多份文件;并评估了各种企业行为,最终得出上述调查结论。OpenAI董事会主席Bret Taylor在新闻稿中表示,“我们一致认为,奥特曼和Greg Brockman先生是OpenAI的正确领导者。”去年11月17日,OpenAI爆发了一场震惊全球科技届的“宫斗大戏”。OpenAI当时突发声明宣布,公司CEO奥特曼已被解雇。声明称,奥特曼的离职是在董事会进行审议审查后做出的,审查的结论是,他在与董事会的沟通中并不一贯坦诚,阻碍了董事会履行职责的能力。不过,该决定此后迅速引发轩然大波。由于奥特曼在公司内部深得人心,众多OpenAI员工签署公开信要求董事会辞职,否则将加入微软。OpenAI最大股东微软也公开表示反对OpenAI解雇奥特曼的决定。最终,在舆论的包围下,剩下的董事会成员改变了主意,恢复了奥特曼的首席执行官职位,前董事会宣告解散。三位新董事将加入此次除了奥特曼重回OpenAI董事会外,OpenAI还宣布将任命三位新董事,其中包括比尔和梅琳达·盖茨基金会前首席执行官Sue Desmond-Hellmann、索尼娱乐公司前总裁Nicole Seligman和Instacart公司首席执行官Fidji Simo。奥特曼和这些新成员,将加入现任董事会成员Quora首席执行官Adam D‘Angelo、前美国财政部长拉里-萨默斯(Larry Summers)和前 Salesforce联席首席执行官、董事长Bret Taylor的行列。至此,OpenAl董事会将共有7名成员。奥特曼在X平台上发文对新董事会成员的加入表示欢迎。他表示,“我非常感谢团队中的每一位成员,感谢他们在充满挑战的时刻表现出坚韧不拔的精神(这是一项伟大的开放式技能),并保持专注。”奥特曼还指出,“我从这次经历中学到了很多东西。我现在要说的是:当我认为一位前董事会成员的某些行为损害了Openai 的利益时,我应该以更优雅、更谨慎的方式处理这种情况。我对此表示歉意,我希望我当时能采取不同的做法。我相信所有参与者都坚信正确使用AGI至关重要。我们的工作任重而道远,我们迫不及待地想向大家展示下一步的计划。”目前,OpenAI董事会已宣布将对OpenAI的治理结构进行重大改进。主要内容包括:采用一套新的公司治理准则;加强OpenAI的利益冲突政策;创建举报热线,作为所有OpenAI员工和承包商的匿名举报渠道创建额外的董事会委员会,包括专注于OpenAI核心使命的实施和推进的使命与战略委员会。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人