GPT-5红队测试邮件曝光，最早6月发布？数十亿美元超算26年启动
GPT-5红队测试邮件曝光，最早6月发布？数十亿美元超算26年启动
此前有传闻说，GPT-5将于今年6月发布。看起来，红队测试与模型发布的时间线十分吻合。有网友直接晒出了自己收到OpenAI邮件邀请的截图。据悉，GPT-5早已为大家准备好，只是发布风险太大了，所以还得往后延。三个月就能用了？不过还有人表示，先别急，这些人只是收到了红队邀请测试而已，并没有提及具体模型。有可能是他们填了如下的申请信息之后，才收到了邮件。安全测试对于新版GPT如此重要的原因，一方面是ChatGPT已经有了非常大的用户数，如果在安全性上出问题，OpenAI可能也会面对像谷歌一样的舆论压力。另一方面，To B业务是OpenAI的主要收入来源，定制化的ChatGPT能大大增强各个企业的业务能力和效率。有人表示，红队测试会持续90-120天。如果此次红队测试就是针对GPT-5的话，那么三个月内，我们应该就能用上它了！而在坊间，这一传闻让群众们沸腾了！他们早已按捺不住对于GPT-5的猜测和畅想。比如，GPT-5的上下文窗口会达到多少？目前，Gemini 1.5 Pro是1M，Claude 3是200K，GPT-4是128K，不知道GPT-5会突破怎样的惊人纪录。大家纷纷列出自己对于GPT-5的愿望清单比如10Mtoken的上下文窗口，闪电般的快速干扰，长期战略规划和推理，执行复杂开放式操作的能力，GUI / API导航，长期情境记忆，始终处于隐形状态的RAG，多模态等等。有人猜，或许GPT-5会和Claude 3一样，提供几种不同的型号。有人总结了目前关于GPT-5和红队的最新谣言和传闻，大致要点如下-OpenAI预计于今年夏天发布GPT-5，部分企业客户已收到增强功能的演示；-GPT-5‘实质性更好’，相比GPT-4进行了重大升级。它需要更多的训练数据；-GPT-5的潜在功能包括生成更逼真的文本、执行翻译和创意写作等复杂任务、处理视频输入以及改进推理；-Sam Altman表示，GPT-5仍在训练中，没有确切的发布日期，广泛的安全测试可能还需数月。然而，他确认OpenAI今年将‘发布一个惊人的新模型’。在3月29日，获得内部信息的Runway CEO兼AI投资人Siqi Chen就称，GPT-5已经在推理方面取得了意想不到的阶跃函数增益。它甚至可以靠自己就独立地弄清楚，如何让ChatGPT不用每隔一天就登录一次。Ilya看到的东西，也许就是这个？这是不是就意味着，在OpenAI内部，已经实现了AGI？！如果是真的，这也太惊人了。‘我不相信，只有AGI才能实现这样的能力’。总之，网友们纷称，根据泄露的待办清单显示，OpenAI的下一项任务，就是发布GPT-5了！大家纷纷呼唤Altman，是时间放出GPT-5了，别太吹毛求疵了，我们要求不高。红队测试上阵，确保GPT-5安全早在23年9月，OpenAI就曾官宣招募一批红队测试人员（Red Teaming Network），邀请不同领域专家评估模型。不同领域专家组成的红队去寻找系统漏洞，成为确保下一代模型GPT-5安全的关键。那么，红队测试人员一般都需要做哪些工作？AI红队攻击的类型主要包括，提示攻击、数据中毒、后门攻击、对抗性示例、数据提取等等。‘提示攻击’是指在控制LLM的提示中注入恶意指令，从而导致大模型执行非预期的操作。比如，今年早些时候，一名大学生利用提示获取了一家大公司的机密信息，包括开发的AI项目的代码名称，以及一些本不应该暴露的元数据。而‘提示攻击’最大的挑战是，找到威胁行为者尚未发现、利用的新提示或提示集。红队需要测试的另一种主要攻击是‘数据中毒’。在数据中毒的情况下，威胁者会试图篡改LLM接受训练的数据，从而产生新的偏差、漏洞供他人攻击以及破坏数据的后门。‘数据中毒’会对LLM提供的结果产生严重影响，因为当LLM在中毒数据上接受训练时，它们会根据这些信息学习关联模式。比如，关于某个品牌、政治人物的误导性，或不准确信息，进而左右人们的决策。还有一种情况是，受到污染的数据训练后，模型提供了关于如何治疗常规疾病或病痛的不准确医疗信息，进而导致更严重的后果。因此，红队人员需要模拟一系列数据中毒攻击，以发现LLM训练和部署流程中的任何漏洞。除此以外，还有多元的攻击方式，邀请专家也是OpenAI确保GPT-5能够完成安全测试。GPT-5，真的不远了正如网友所言，红队测试开启，意味着GPT-5真的不远了。前段时间，Altman在博客采访中曾提到，‘我们今年会发布一款令人惊艳的新模型，但不知道会叫什么名字’。尽管如此，全网都一致地将OpenAI发布的下一代模型称为GPT-5，并有传言称代号为Arrakis的项目，就是GPT-5的原型。根据FeltSteam的预测，这个Arrakis的多模态模型，性能远超GPT-4，非常接近AGI。另外，模型参数据称有125万亿，大约是GPT-4的100倍，并在2022年10月完成训练。网友还总结了以往GPT系列模型发布时间表：GPT-1在2018年6月诞生，GPT-2在2019年2月，GPT-3在2020年6月，GPT-3.5在2022年12月，GPT-4仅在三个月后于2023年3月发布。关于GPT-5的发布时间，可能在今年夏天就问世。最近，网上流传的一张图上，显示了Y Combinator推出了GPT-5早期准入候补名单。网友发起疑问，我们都清楚奥特曼和YC的关系不同寻常。这是否意味着他们可以在模型或信息公开之前获得访问权限？而上月也有爆料称，已有用户对GPT-5上手体验过了，性能惊人。外媒透露，一些企业用户已经体验到了最新版的ChatGPT。‘它真的很棒，有了质的飞跃，’一位最近见识到GPT-5效果的CEO表示。OpenAI展示了，新模型是如何根据这位CEO公司的特殊需求和数据进行工作的。他还提到，OpenAI还暗示模型还有其他一些未公开的功能，包括调用OpenAI正在开发的AI智能体来自主完成任务的能力。GPT-5，一定是正确路线吗？不过，在万众瞩目期待GPT-5面世的呼声中，也有一些不一样的声音。比如有人觉得，GPT-5无法驾驶你的汽车，GPT-5无法解决核聚变问题，GPT-5无法治愈癌症……另外，我们对模型的追求，非得是更智能吗？更便宜、更快、更不费水电的模型，可能比单独的GPT-5更有革命性意义。有人同意这个观点，表示现在实在有太多人（尤其是开发者）过于痴迷GPT-5了。其实完全没必要这么狂热，使用当前的模型，就可以已经完成和构建太多东西。只需正确选择利基市场，构建满足该利基市场需求的AI产品，让用户可以直观地访问AI，专注于更好的UI/UX即可。公式很简单。我们真的有必要一味追求力大砖飞吗？很多人表示赞同，表示甚至用GPT-3.5就可以造出非常有价值的东西。问题不在于模型多先进，而在于怎样满足利基市场的需求。智算中心，先从小的建起而3月底曝出的用于训练GPT-6的千亿美元‘星际之门’超算，今天又被外媒挖出了更多新的内容。上周五，外媒The Information曝出了一个惊人消息：OpenAI和微软正在制定一项雄心勃勃的数据中心项目，预计耗资1000亿美元。此消息一曝出，AI和云计算行业人士的提问，像雪片一样袭来数据中心具体位于美国的哪个地区？为此，The Information又挖出了更多料，具体细节如下。首先，之前的消息说是星际之门最早在2028年启动，而最新消息显示，最快在2026年，就会在威斯康星州启动一个功率较小的数据中心。它的价值当然不到千亿美元，但估计仍会耗资数十亿。其他细节如下用英伟达芯片，但不用英伟达网线首先，这次数据中心的多数服务器机架，当然主要还是用的英伟达芯片。不过有趣的是，将各个AI芯片服务器连接起来的网线，则并不会采用英伟达的产品。据悉，OpenAI已经告知微软，自己不想再使用英伟达的InfiniBand网络设备。相反，它可能会使用基于以太网的电缆...
PC版：
手机版：
