OpenAI CEO：公司目前没有训练GPT-5 短期内也不会训练

OpenAICEO：公司目前没有训练GPT-5短期内也不会训练最近在科技界流传的一封公开信，要求像OpenAI这样的实验室暂停开发“比GPT-4更强大”的AI系统。这封信强调了对未来AI系统安全性的担忧，但也遭到了许多业内人士的批评，包括一些签署者。专家对人工智能威胁的性质存在分歧，以及行业如何去“暂停”开发。在MIT的演讲中，奥尔特曼表示，这封公开信“缺少大部分技术细节，无法了解需要暂停的地方”，并指出其早期版本曾声称OpenAI目前正在训练GPT-5。“我们现在没有训练，也短期内不会训练GPT-5，”奥尔特曼说，“所以从这个意义上说，这封信有点儿愚蠢。”然而，OpenAI没有在训练GPT-5并不意味着它没有在拓展GPT-4的能力。奥尔特曼强调，他们也在考虑这项工作的安全性问题。“我们正在GPT-4之上开展其他工作，这些工作涉及到安全问题。但这些问题在信中被完全忽略了。”他说道。不过美媒认为，奥尔特曼确认目前没有开发GPT-5并不能安抚那些担心AI安全的人们。OpenAI仍在扩展GPT-4的潜力（例如将其连接到互联网），而行业中的其他人正在构建同样雄心勃勃的工具。而优化GPT-4之后，OpenAI可能会先发布GPT-4.5（就像它发布GPT-3.5一样）...PC版：https://www.cnbeta.com.tw/articles/soft/1354835.htm手机版：https://m.cnbeta.com.tw/view/1354835.htm

GPT-4论文竟有隐藏线索：GPT-5或完成训练、OpenAI两年内接近AGI

GPT-4论文竟有隐藏线索：GPT-5或完成训练、OpenAI两年内接近AGI1.ARC(AlignmentResearchCenter)是一个非营利性研究机构，其使命是使未来的机器学习系统与人类利益保持一致。ARC的目标是训练AI模型，使其不会操纵、欺骗甚至伤害人类）。OpenAI曾经选择让ARC去测试评估GPT-4会不会主动避免自己被“挂掉”，说明此前必定出现过这种情况。OpenAICEOSamAltman认为人类需要对AI做更多的监管，以符合人类的利益。OpenAI担忧科技竞赛会导致安全标准的下降、不良规范的扩散、AI发展进程的加速，加剧与人工智能相关的社会风险。但是微软CEO和CTO希望OpenAI的模型能尽快让用户用起来。可以肯定的一点是OpenAI和微软在这件事的想法是相悖的。OpenAI雇佣了预测专家，来预测当他们部署了GPT-4之后会带来怎样的风险。“超级预测员”建议将GPT-4部署时间推迟6个月，也就是今年秋季左右；但很显然，OpenAI并没有采纳他们的建议。OpenAI这么做的原因，可能是来自微软的压力。2.OpenAI会协助超越它的公司：OpenAI做出了一个非常大胆的承诺："如果另一家公司在我们之前实现了接近AGI（通用人工智能），那我们承诺不会跟它做竞争，相反，会协助完成那个项目。但这种情况发生的条件，可能是另一家公司需得在未来两年内，成功接近AGI的机会在一半或以上"而这里提到的AGI，OpenAI和Altam在官方博客中已经给出了定义——普遍比人类更聪明，并且有益于全人类的人工智能系统。3.GPT-4确实已经达到了人类的常识水平。博主在论文中找到了相关数据，在“人类”那一栏中，分数分布在了94-96.5之间。而GPT-4的95.3，便正好在这个区间之间。4.OpenAI在去年年底推出ChatGPT的时候，已经有了GPT-4。GPT-5可能已经完成训练5.像ChatGPT、GitHubCopilot这些工具导致某些工作的自动化。GPT-4的能力可以在某些特定领域中以人类10倍甚至更高的效率来完成。5.OpenAI让GPT-4学会拒绝的方法，叫做基于规则的奖励模型（RBRMs）。这种方法的工作流程：给GPT-4一组要遵守的原则，如果模型遵守了这些原则，那么就会提供相应的奖励。他认为OpenAI正在用人工智能的力量，让AI模型朝着符合人类原则的方向发展。()参考链接：[1]https://www.youtube.com/watch?v=ufQmq6X22rM[2]https://cdn.openai.com/papers/gpt-4.pdf投稿：@ZaiHuabot频道：@TestFlightCN

OpenAI CEO：GPT-4“有点糟糕”，今年将推出新模型

OpenAI首席执行官SamAltman在与LexFridman的访谈中表示，他们公司的人工智能模型GPT-4其实“有点糟糕”，Altman更期待即将到来的GPT-5能够真正配得上大家的期待。“我认为它有点糟糕，”当被问及GPT-4及其最令人印象深刻的能力时，Altman说道，“展望未来几年，我们应该意识到我们现在拥有的工具将来看来会非常落后，这正是鞭策我们不断进步、创造更美好的未来的动力。”“别误会，我既不想贬低GPT-4的成就，也不想夸大其词，”阿尔特曼说，“正因我们正处于指数级发展的曲线上，所以很快我们就会像现在看待GPT-3一样看待GPT-4。”Altman认为GPT-4存在“令人惊鸿一瞥的闪光点”，但他指出其最佳用途通常是作为头脑风暴的伙伴，ChatGPT在处理复杂的多步骤问题时几乎没什么用处。当它确实有效时，那种感觉确实神奇，但这种情况少之又少。Altman还指出，他们今年将推出新的模型，不是GPT-5，不过他并未具体说明其名称，只是表示在GPT-5之前还有其它重要的东西需要推出。via匿名标签:#OpenAI频道:@GodlyNews1投稿:@GodlyNewsBot

奥特曼透露 GPT-5 相较 GPT-4 有着指数级提升，暗示我们很接近 AGI 了

奥特曼透露GPT-5相较GPT-4有着指数级提升，暗示我们很接近AGI了在今天的YCW24启动会上OpenAI透露了以下最新信息：-奥特曼暗示我们可能已经非常接近通用人工智能。-GPT-5可能相较于GPT-4有着指数级跳跃(GPT-4已经完成两年，至今无人超越)。-建议直接使用最先进的模型，大量的微调和优化是徒劳。-OpenAIAPI将继续变得更快、更可靠、更便宜。-GPT-5将覆盖部分/大部分GPT-4无法做到的内容，不建议围绕解决GPT-4的无能来建立产品业务。投稿：@TNSubmbot频道：@TestFlightCN

OpenAI CEO ：OpenAI还没有开始训练GPT-5

OpenAICEO：OpenAI还没有开始训练GPT-5奥特曼说：“在开始训练GPT-5之前，我们还有很多工作要做。我们正在研究我们认为需要的新想法，但我们肯定还没有接近开始训练的起点。”今年3月下旬，包括特斯拉首席执行官埃隆·马斯克（ElonMusk）、苹果联合创始人史蒂夫·沃兹尼亚克（SteveWozniak）在内的1100多人签署了一封公开信，呼吁“所有人工智能实验室立即暂停培训比GPT-4更强大的人工智能系统至少6个月。”几周后，奥特曼表示，这封信“缺少了关于我们在哪里需要暂停的大部分技术细节”，但他证实，OpenAI尚未开始训练GPT-5，而且在“一段时间内”也不打算这样做。周三，奥特曼再次驳斥了某些对人工智能的担忧，称OpenAI已经在通过更有意义的措施来评估人工智能的潜在危险，如外部审计、组建“红队”和加强安全测试等。奥特曼透露：“当我们完成GPT-4时，我们花了六个多月的时间才准备发布它。”在接受采访时，奥特曼还表示，OpenAI反对监管规模较小的人工智能初创公司。他说：“我们要求的唯一规则是针对我们自己和大型公司进行监管。”奥特曼的印度之行是他积极与全球立法者和行业参与者会面，并表达OpenAI愿意与监管机构合作的意愿。在这些会面中，奥特曼积极敦促议员们认真考虑人工智能扩散的潜在滥用和其他负面影响，以便设置安全护栏，将发生任何意外事故的机率降到最低。（小小）...PC版：https://www.cnbeta.com.tw/articles/soft/1364121.htm手机版：https://m.cnbeta.com.tw/view/1364121.htm

Bill Gates 专访 OpenAI CEO 揭示 GPT-5 神秘面纱

据OpenAICEOSamAltman于BillGates的”播客中透露，OpenAI将推出的新一代大型语言模型GPT-5，将具备更出色的推理能力、提高的准确性，并支援影片功能。Altman表示，GPT-5将成为一款全面多模态的模型，支援语音、图像、程式码以及影片。GPT-5解决过去的疑难杂症在访谈中，Altman指出，GPT-5将解决许多先前版本在回应不可靠或无法正确理解查询等问题。他谈及未来AI模型将实现的功能：“语音输入，语音输出。图像。最终还会支援影片。”他还解释说，自从推出图像和音讯支援后，用户反应远超预期。GPT-5的神秘面纱关于GPT-5，目前所知不多，仅从Altman和其他人的暗示中获得一些信息。预计它将成为一款真正的多模态模型，与Google的新型号GeminiUltra类似。OpenAI于去年开始训练GPT-5，Altman暗示这将是GPT-4的一个重大进步，特别是在理解复杂查询和真实世界方面。他对BillGates表示：“至少在接下来的5到10年内，我们将处于一个陡峭的改进曲线上。这是这些模型将会有的最愚蠢状态！”（“Atleastforthenext5or10yearswewillbeonasteepimprovementcurve,thisisthestupidestthesemodelswilleverbe.”）朝向AGI目标迈进许多大型人工智能实验室，包括OpenAI，都将创造超越人类智慧、能力更强的人工智能（AGI）作为最终目标。虽然早期有猜测GPT-5或许会成为某种形式的超智慧，但现在对于这个型号的推测表明，它将是一个比GPT-4、Anthropic的Claude2或Google的GeminiUltra更优秀的AI版本。也就是说，它将具有更好的推理能力，不仅可能在许多学术评估上超越人类，而且还会有超越仅仅模仿人类智慧的理解度。它可能也是达成AGI的下一步。Altman在Y-CombinatorW24活动的一次演讲中表示，创业家和企业家应该以“AGI将在相对较短的时间内实现”为思维模式来建立他们的业务。GPT-5将解决目前AI模型的大问题目前这一代AI模型的一个主要问题是它们会创造出虚假的信息，也就是所谓的幻觉。Altman表示，这一可靠性问题将在GPT-5中得到解决。他对BillGates说：“如果你问GPT-4同一个问题1万次，其中的1次可能相当不错，但它并不总是知道哪一次是最好的，而你希望每次都能得到那1万次中最佳的回应，因此提高可靠性将非常重要。”此外，GPT-5的另一项重大改进将是在定制AI回应、行动和解决问题的方式上。Altman说：“人们对GPT-4有着非常不同的期望，包括不同的回应风格，甚至在回应时有不同的假设集。”他还表示：“我们将使所有这些成为可能，并且还能够让它使用你自己的数据。”标签:#OpenAI#ChatGPT频道:@GodlyNews1投稿:@GodlyNewsBot