openai-cookbook/techniques_to_improve_reliability.md at mn · o

发现OpenAI官方的cookbook是个宝藏。学习了吴恩达的课程之后,如果要进一步研究PromptEngineering的话,cookbook里这篇文章很合适。《techniquestoimprovereliability》通读了一下这篇文章,里面列了快10篇论文。发现目前学术界研究如何更好的使用LLM,跟研究人类大脑有点类似了(LLM是人类造出来的一个巨复杂的不太可清晰解释的体系,反过来需要大量工作来研究这个体系)。

相关推荐

封面图片

AI Agents大爆发:软件2.0雏形初现,OpenAI的下一步

AIAgents大爆发:软件2.0雏形初现,OpenAI的下一步本文编译自LilianWeng的个人博客,Lilian现在是OpenAI的HeadofSafetySystems,之前还领导过OpenAI的AppliedAI团队。AIAgent被认为是OpenAI发力的下一个方向。OpenAI的联合创始人AndrejKarpathy在近期的一次公开活动上提到“相比模型训练方法,OpenAI内部目前更关注Agent领域的变化,每当有新的AIAgents论文出来的时候,内部都会很兴奋并且认真地讨论”,而在更早之前,Andrej还评价AutoGPT是PromptEngineering下一阶段的探索方向。LilianWeng的这篇Blog可以说是目前AIAgent领域优质论文的系统综述,她将Agents定义为LLM、记忆(Memory)、任务规划(PlanningSkills)以及工具使用(ToolUse)的集合,其中LLM是核心大脑,Memory、PlanningSkills以及ToolUse等则是Agents系统实现的三个关键组件,在文章中,她还对每个模块下实现路径进行了细致的梳理和说明。到今天,构建AIAgent的工具箱已经相对完善,但仍需要面对一些限制,例如上下文长度、长期规划和任务分解,以及LLM能力的稳定性等。从今年3月AutoGPT推出后,GenerativeAgent、GPT-Engineer、BabyAGI项目的爆发将LLM的叙事代入了新的阶段,从“超级大脑”到真正有可能成为“全能助手”。Lillian在自己的Twitter中也认为“Thisisprobablyjustanewera”。

封面图片

读不进文章

读不进文章一直以来我以为就我有“看书能看进,但看不进文章”的问题,后来发现我并不孤独,很多人和我一样的情况。现在做抖音之后,大概就能理解为什么。抖音的逻辑是上来就给结论,之后再解释为什么,抖音用户不会听你絮絮叨叨30秒,最后再听结论,早滑下一条了。开头的结论就是一个确定性,告诉用户这段视频讲什么。我们买书一定是知道这本书很好,被某某推荐过,之前读过作者的书之类,我们知道读完这本书,自己一定能习得一点东西。但看文章不是,有时候不知道作者是谁,也不知道看完这篇文章自己能知道什么。这其中的不确定性,让我不知道读这篇文章所花费的时间,到底划不划算,以至于看几分钟就看不下去。就比如《》这篇文章,通读一遍无论如何都需要一个小时,可这篇文章的前三分之一,根本不知道这篇文章要讲什么,看着看着就会怀疑到底要不要读下去。这里请容我狡辩一句,我确实越来越没有耐心,但也有标题党的问题。充斥着各种标题党,冲着标题阅读,看到最后都不知道在讲什么,大概率还是广告。一而再,再而三,自然失去兴趣。这样的阅读习惯,当然有很大的问题——目的性太明显。我为什么喜欢梁文道,而没有那么喜欢樊登和罗振宇,就是因为樊登和罗振宇的目的性太明显,比如知识就是胶囊,听一本书的讲解你就懂了,但梁文道就喜欢扯一些无用的知识。有什么问题,就阅读相关书籍去解决,那永远无法碰到意料之外的惊喜。

封面图片

《ChatGPT 越过山丘之后,再来谈谈 LLM 应用方向》

《ChatGPT越过山丘之后,再来谈谈LLM应用方向》全文肝完。这篇文章会通过这半年来多的持续关注的信息思考和一线开发的经验,试图回答半年了为什么再没有其他爆款产品出来?是不是当前技术遇到了无法不可逾越的鸿沟?作为现在有些迷茫的开发者,之后的方向应该是什么?https://quail.ink/orange/p/chatgpt-cross-over-the-hills-and-discuss-llm-application-directions

封面图片

OPENAI要求纽约时报证明版权文章原创性

OPENAI要求纽约时报证明版权文章原创性人工智能公司OpenAI想知道纽约时报的文章在多大程度上是“原创”的并且值得版权保护。该公司正在寻求记者的原始材料,以协助其应对该报先前提出的数百万美元的版权侵权索赔。纽约时报对此和其他信息请求表示反对,认为OpenAI的做法过于宽泛,可能会产生寒蝉效应。OpenAI表示,“来源”信息将有助于确定文章的哪些部分是“原创”的、值得版权保护,这可能有助于其反驳版权侵权索赔。在回应强制动议时,纽约时报明确表示公司无意屈服。强调无论其文章是否包含第三方资料,都受版权保护。“此外,即使在记者笔记中显示一篇文章90%的内容都是对作者原始来源的逐字引用,这种可能性很小,但这篇文章仍然受版权保护。”——

封面图片

这篇文章的观点看似有道理

这篇文章的观点看似有道理但实际上,LLM即便不是AGI,做好了就是可以席卷一切。这个逻辑很简单,互联网是AGI吗?互联网是不是席卷了一切?另外AGI的标准并不是万能机器,AGI的首要标准是达到普通人的水平。发现新定理这种事情大家也都是上过大学的高知,扪心自问自己行不行?ruanyf: ChatGPT问世只有几个月,大家有没有发现,舆论的调门越来越高,已经把它神化了,仿佛无所不能。我要说,ChatGPT确实很神奇,但是有其局限,很多事情做不到,不应该无限夸大。新的博客文章《不要夸大ChatGPT》

封面图片

【404文库】小晖有感|十年前,大眼写了这样一篇文章

这两天,海天酱油的事闹得沸沸扬扬,其实早在十年前,大眼就写过一篇文章,谈到了这样的事情。现在,我还是决定把这篇文章翻出来,让大家看到。李大眼是2012年6月8日写的这篇文章,题目就叫《神农的后裔》。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人