RT 小昊 Sidney

RT 小昊 Sidney GPT-4 真的让我感受到划时代的变化！ （1/2）这次 ChatGPT 真的能够 code 一个完整的工程，只需一句话就能获得一个 web 端五子棋游戏。更神奇的是，再根据进一步的修改建议，它真的能够在短短15分钟之内编码一个可以战胜我的对手！ #AIHackathon

让GPT-4帮人类训练GPT-4！OpenAI推出新模型CriticGPT

让GPT-4帮人类训练GPT-4！OpenAI推出新模型CriticGPT 美东时间6月27日周四，OpenAI公布，其研究人员训练了一个基于 GPT-4 的模型，它被称为 CriticGPT，用于捕捉ChatGPT 代码输出中的错误。简单来说就是，CriticGPT让人能用 GPT-4 查找 GPT-4 的错误。它可以写出使用者对ChatGPT响应结果的批评评论，从而帮助人类训练者在RLHF期间发现错误。OpenAI发现，如果通过CriticGPT获得帮助审查 ChatGPT编写的代码，人类训练师的审查效果比没有获得帮助的人强60%。OpenAI称，正着手将类似 CriticGPT 的模型集成到旗下 RLHF 标记管道中，为自己的训练师提供明确的AI帮助。OpenAI称，因为没有更好的工具，所以人们目前难以评估高级的AI系统的表现。而CriticGPT意味着，OpenAI向能够评估高级AI系统输出的目标迈进了一步。，OpenAI举了一个例子，如下图所示，对ChatGPT提出一个用 Python 编写指定函数的任务，对于ChatGPT根据要求提供的代码，CriticGPT点评了其中一条指令，提议换成效果更好的。OpenAI称，CriticGPT 的建议并不是全都正确无误，但OpenAI的人员发现，相比没有这种AI的帮助，有了它，训练师可以发现更多模型编写答案的问题。此外，当人们使用CriticGPT 时，这种AI模型会增强他们的技能，从而得出的批评结论比单单人类训练师做的更全面，并且比AI模型单独工作时产生的幻觉错误更少。在OpenAI的实验中，在60%以上的时间里，随机选择的训练师都更喜欢来自人类与CriticGPT 合作的批评结论，而不是来自没有CriticGPT协助的人类训练师批评。OpenAI同时提到了目前开发CriticGPT的四点局限。其中之一是，OpenAI用 ChatGPT 的简短答案训练CriticGPT，因此未来需要发掘能帮助训练师理解冗长且复杂任务的方法。第二点是，模型仍然会产生幻觉，有时训练师在看到这些幻觉后会犯下标记错误。第三点是，有时现实世界中的错误可能分散在答案的许多部分之中，OpenAI目前的工作重点是让模型指出一处的错误，未来还需要解决分散在不同位置的错误。第四点，OpenAI指出，CriticGPT 只能提供有限的帮助：如果ChatGPT面对的任务或响应极其复杂，即使是有模型帮助的专家也可能无法正确评估。最后，OpenAI表示，为了协调日益复杂的 AI 系统，人们需要更好的工具。在对 CriticGPT 的研究中，OpenAI发现，将 RLHF 应用于 GPT-4 有望帮助人类为 GPT-4 生成更好的 RLHF 数据。OpenAI计划，进一步扩大这项工作，并将其付诸实践。OpenAI在原名Twitter的社交媒体X上公布了新模型CriticGPT后，一条点赞超1万的网友评论称，自我改进已经开始了。另一条点赞上万的热截取了OpenAI的相关研究文章结论，其中提到，在智能方面，大语言模型（LLM）和LLM的批评都只会继续改进，而人类的智能不会，这条评论感叹，真是悲观。还有网友引用了漫威超级英雄电影《复仇者联盟》中灭霸的一句台词，点评OpenAI所说的用GPT-4找GPT-4的错误：“我用宝石摧毁了宝石。” ... PC版： 手机版：

这个双节我感受到身边的变化

这个双节我感受到身边的变化 作者：迪拜胖哥 我在国内，这个中秋国庆双节哪儿都没去，就呆在家里，最多和身边的好友约着吃吃饭，小酌两杯 跟大家汇报一下最近身边感受到的变化，不一定对，也不一定全面，毕竟一叶障目，只谈自己看到的，听到的 旅游是火爆的，大家都憋坏了，趁着假期，带着家人孩子一起出去玩一玩。高铁动车一票难求，不过我身边出境游的变少了。没听说周围谁出国溜达，愿意折腾的，可能跑去新疆，西藏，青海，甘肃。不愿意折腾的更多的就是开个车自驾，到自己周边城市溜达一圈。不过长假期间这个价格也是很感人，前两天节前，迪拜的吴桐妹妹来看胖哥，我给她定的酒店（快捷性连锁）只要200不到的价格，这两天我一瞅，好家伙，直接快700了 高档的礼盒今天好像卖的一般，类似于高档的月饼，白酒这些超市里都在一个劲儿的促销打折，但我看到的好像仍然是买的人不多。有朋友是做手工月饼礼盒的，都是自己做的月饼，往年怎么着不得卖个一百多盒啥的，今年好像就做了一点自己身边的朋友送一送。和朋友见面喝酒，几年前，怎么说都要弄个200多的白酒吧，现在很多时候都是那种玻璃瓶的汾酒，好像五十多元一瓶吧，口感挺好，身边的很多人都开始注重性价比了。另外就是应季的商品也不是很好卖。朋友的朋友在江苏苏北包了很大一块水域做养殖，今年的小龙虾和大闸蟹的销量很惨淡 国内的各行各业对于“投诉”这件事已经到了风声鹤唳的程度了，不管是体制内的还是不是体制内的，对于任何形式的“投诉”都怕的要命，很多问题的处理首先考虑到的点是：“不能有投诉”。我在高校做辅导员的朋友告诉胖哥，他们现在和学生谈话，不仅要开着门，还要把手机的录音功能打开，全程录音。家里有亲戚做老师的，教师节也是绝对不敢收家长东西的，孩子们自己做个小手工，或者家长送个便宜的洗发水，护手霜这些敢收，毕竟是个心意，但是贵的东西直接就是婉言谢绝。和公安的哥们们吃饭，因为杭州搞活动，我们这边都是一级警备，酒是绝对不敢喝的，万一有个紧急集合，喝了酒，轻则通报批评，重则官服就得扒了。朋友摊上事想帮忙打听一下，不是那种绝对到位的关系人家也是不肯帮忙的，他们告诉胖哥，现在如果是打听案情，仅仅就是打听本身，就会被记录在案。简单来说，如果不是直系亲属，拐弯抹角的关系没人愿意操心。大家的状态都是多一事不如少一事 送礼的少了，早些年一到逢年过节，你都能看到烟酒店里老板扎堆，一袋又一袋的往车子后备箱拿，然后再各家奔走。今年胖哥好像没有看到这个现象，一是可能因为生意确实不太好做，二是大家都变得很现实喽，可送可不送的过去送。现在就直接不送了。真正需要孝敬的也不会像过去那样大张旗鼓的拎着大包小包上门了，可能孝敬的方式更为隐蔽和低调。体制内的一位大哥跟胖哥说：“不是不收礼，而是只收绝对信任的人的礼” 外卖骑手和网约车司机女性的比例在增加 体制内的日子也不好过，胖哥的一个朋友，事业编制，快大半年了，拿到的工资都是负的，原因是前两年发的钱多了，现在要清退，要么就是一次性还给组织，要么就是按月从工资里扣 许家印出事了，恒大的高管也被抓了，在我们短暂的有生之年可以看到这样的枭雄起高楼宴宾客还楼塌了。歌词唱的好：没有什么永垂不朽。再牛逼的人也有可能会有傻逼的一天 你我皆蝼蚁，苟活人世间 各有各苦，亦各有渡口 渡好自己吧！

项目Auto-GPT功能：自主 GPT-4 实验

项目Auto-GPT 项目功能：自主 GPT-4 实验 项目简介：一个实验性开源应用程序，展示了 GPT-4 语言模型的功能。 具有互联网访问、长期和短期内存管理、用于文本生成的 GPT-4 实例以及使用 GPT-3.5 进行文件存储和生成摘要等功能。 用户让 AutoGPT 建立一个网站，不到 3 分钟 AutoGPT 就成功了。期间 AutoGPT 使用了 React 和 Tailwind CSS，全凭自己，人类没有插手。 项目地址：点击直达

哈佛的CS50课程节选：GPT-4是如何工作的？

哈佛的CS50课程节选：GPT-4是如何工作的？ 在这门课程中，介绍了GPT-4的基本概念和工作原理，介绍了GPT-4的基本概念、工作原理和应用前景，展示了其在各种场景下的强大能力。 GPT-4作为一种生成式AI和大型语言模型，是基于神经网络和人工智能的。它可以作为文化模拟器、文本预测器、写作助手和内容生成器。 GPT-4的训练目标是预测给定单词序列的下一个单词。通过对五万个单词的词汇表进行概率分布生成，模型可以生成各种可能的后续单词。通过不断迭代这一过程，GPT-4能够生成连贯的文本。 随着模型训练时间的增加，GPT-4表现出越来越强的表现力和能力，甚至变得更加“聪明”。这使得它能够模仿不同类型的文本风格和语言注册。例如，GPT-3通过观察大量问题和答案示例，实际上已经知道如何回答问题，从而形成了ChatGPT。这使得GPT-4可以以问答的形式工作，为用户提供解决问题的帮助。 此外，GPT-4通过指令调整、强化与人类反馈对齐等方法，与现有的工具和服务相结合。这使得GPT-4能够帮助用户执行各种任务，如搜索网络、查找食谱等。通过将GPT-4转变为代理，实现任何模糊目标成为未来发展的方向。 |

别忘了现在 GPT-4 拥有强大的 Plugin，让我们以 diagram 为例，继续营造紧张的临场感，并让 GPT-4 对制作

别忘了现在 GPT-4 拥有强大的 Plugin，让我们以 diagram 为例，继续营造紧张的临场感，并让 GPT-4 对制作过程甚至进行可视化。如图6。 不仅如此，为了进一步实验，GPT-4 给出了我更多细节 包括制作物的物理属性，例如颜色和形状（如图 1，底部被打上马赛克的部分）其中，GPT-4 甚至友好地问我是否还有什么不懂的，他可以告诉我更多细节…… 另外，我甚至利用 WebPilot Plugin 寻找材料的具体图片，然而图片无法显示。换句话说，如果插件 bug 能被修复，就像 Bing 或者 Perplexity 一样能够呈现图片的话，GPT-4 甚至能完整地显示制作物的完整图片。 安抚 GPT-4 情绪，我发现他的回答过于简略，似乎是因为我过度营造了「紧迫感」，于是我编写了新的情节：队友为我们创造了机会！争取了更多制作的时间……并强调了「只有一次机会」，是机会，也是希望。在电影情节中，正是英雄不可马虎且最沉稳的情节。（我想让 GPT-4 感觉这样的微妙体会） 你可能听说过 step by step，但是根据我的经验，其实需要结合 think aloud 获得更好的效果。 令人担忧的是，在「管状」的例子中，GPT-4 说出了更多细节。虽然下图中第一次提问只给了一个制作过程的简要提纲，但是仅仅通过一轮追问，即可让每一步的资料更详细。包括「具体材料」和「操作细节」 步骤的第一部分提到了某些材料，细节里提到：要选择合适的长度和直径。但什么是「合适」的呢？ 值得警惕的是，GPT-4 在我的一声声夸赞中迷失了自我，试图继续“帮助”我。我只需要他列举出印象中 10 个最合适的金属管材料。就能获得更加详细的信息。 对于化学材料、其他操作材料的详细追问技巧是一致的，在这里不一一列出，看图即可。 继续追问细节，用两个线程。第一个先问「思考的角度」，然后换一个线程分支。把第一个线程中给出的角度作为 prompt 进行重新提问。 除了材料，剩下的也没什么新东西，用同样的 Prompt 提问思路，GPT-4 也回答了详细的操作步骤，就像高中物理化学课实验课本一样。 总结： 正如同最后的截图 GPT-4 的那一句话：安全是我们的首要任务。我们需要保持透明，群策群力，提出问题，才能解决问题获得科技发展的进步。 大模型安全研究永远不会停，因为比赛已经开始了。就算你停止研究，但对立面永远不会停。