谷歌将 Stack Overflow 的知识库引入 Gemini for Google Cloud

谷歌将StackOverflow的知识库引入GeminiforGoogleCloud开发者问答网站StackOverflow今天推出了一项新计划，人工智能公司将能通过一个新的OverflowAPI访问其知识库。此项目的首个合作伙伴是谷歌，它将使用StackOverflow的数据来丰富谷歌云的Gemini，并在谷歌云控制台中提供经过验证的StackOverflow答案。与此同时，StackOverflow将与谷歌合作，为其平台带来更多AI驱动的功能，这一过程在去年推出OverflowAI时就已开始，但还未正式确定正式产品的功能。谷歌和StackOverflow计划在四月份的谷歌云Next会议上预览这些集成。——

Stack Overflow 正式推出旗下 OverflowAI 代码工具

StackOverflow正式推出旗下OverflowAI代码工具StackOverflow日前发布OverflowAI，OverflowAI并非“单一产品”，而是由多个AI工具合集构成而成，用户能够使用这些工具，针对性地实现相关应用。OverflowAI企业版本配备了OverflowAIVisualStudioCode扩展插件，StackOverflow平台宣称，该扩展插件可以轻松帮助开发者和企业找到并使用所需的信息，同时为StackOverflowforTeams提供“企业级”的帮助。该模型使用自然语言处理（NLP）的查询，产生高度准确的生成结果，并基于StackOverflow公共知识库的语料库进行了训练。StackOverflow首席执行官PrashanthChandrasekar表示，OverflowAI能够补足社区问答时的不足，同时能够“一对一”地帮助开发者开发代码，让开发者能够相对更自由地根据具体问题具体调整代码，便于用户使用。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

程序问答网站Stack Overflow宣布推出文档功能——由社区组织、示例为主的开发者文档。社区用户在回答问题过程中会留下精彩

程序问答网站StackOverflow宣布推出文档功能——由社区组织、示例为主的开发者文档。社区用户在回答问题过程中会留下精彩的示例，最有用的代码示例经过社区投票将会进入文档，作为有价值的编程知识留给更多人参考。StackOverflow称，任何人都可以贡献文档，可以协作编写，所有的变更都有历史记录，任何人都可以查看，所有的内容都采用CC-SA授权。http://blog.stackoverflow.com/2016/07/introducing-stack-overflow-documentation-beta/?cb=1

Stack Overflow开发者调查报告重磅发布

StackOverflow开发者调查报告重磅发布接下来，我们将通过这份报告，了解当前最热门的工具、最主流的技术、最前沿的趋势。01编程语言：JavaScript连续11年成为开发者最常用的语言2023年延续了JavaScript连续十一年成为开发者最常用编程语言的势头。据调研数据显示，在今年的十大编程语言中，我们看到三种流行语言的地位有所上升：Python、Bash/Shell（allshell）和C。其中，Python已经超过了SQL，成为第三大最常用的语言，对于那些非专业开发者或正在学习编程的人来说，Python排在第一位。伴随着Python的流行，Python库在"其他技术和框架"主题中，排名很高。在过去三年中，PumPy和Pandas一直在前十名中。C语言在今天依然这么流行是一个有趣的现象。尽管它从20世纪70年代就开始存在，但在StackOverflow的开发者调查中还没有进入过编程语言的前十名，不过今年C语言排名上升了一位，位居第10名。另外，据TIOBE指数显示，截至2023年6月，C是第二大最受欢迎的编程语言，其参与人数接近其第一大语言Python。鉴于C语言是最受欢迎的低级语言之一，它是物联网设备内嵌入式编程的首选语言，而且根据编程课堂Codecademy的说法，C语言"为我们几乎所有的技术体验提供动力"，所以今年开发人员比以往任何时候都更多地使用C语言是有道理的。当进一步细分到专业开发者和正在学习编码的人的身上，我们发现，专业开发者最常用的编程语言分别是JavaScript、HTML/CSS和SQL。对于那些正在学习编码的人来说，HTML/CSS和JavaScript几乎并列为他们学习编码的最流行语言。学生开发人员使用Python多于SQL（59%对37%）。除此之外，StackOverflow还对开发者最为钦佩和期望使用的语言进行了调研。数据显示，Rust是开发者最受推崇的语言，超过80%使用它的开发者希望明年再次使用它。与之形成鲜明对比的是，只有不到20%的人希望明年再次使用MATLAB语言。02数据库：PostgreSQL取代了MySQL位居第一今年，PostgreSQL取代了MySQL位居第一。专业开发人员比那些学习编码的人更有可能使用PostgreSQL(50%)，而那些学习编码的人更有可能使用MySQL(54%)。专业开发人员和学习编码的人使用MongoDB的比例相似，对于学习编码的人来说，它是第二受欢迎的数据库（仅次于MySQL）。数据显示，在开发者眼中，PostgreSQL、Redis和Datomic是他们最受推崇的数据库，虽然其中Datomic的用户最少。不过，这种推崇应该会促使其他人将Datomic视为一个可行的选择。03云平台：AWS使用率是Azure的两倍AWS仍然是所有开发者最常用的云平台，使用率几乎是所有受访者使用第二多的云平台Azure的两倍。值得注意的是，Heroku是去年编程学习者使用最多的云平台，但今年跌至第五位。对于已使用过这些平台的开发者而言，Hetzner和Vercel有很大一部分已经使用开发者希望未来可以继续使用它们(69%+)。04Web框架和技术：Node.js和React.js最常用Node.js和React.js是所有受访者最常用的两种Web技术。专业开发人员相当平等地使用两者，而那些学习编码的人使用Node.js多于React（52%vs48%）。其次，开发者最常用jQuery和Express。在专业开发者群体中，他们使用jQuery的次数多于学习编码的人（24%vs18%），而学习编码的人使用Express的次数多于专业人士（25%vs18%）。另外，Next.js从2022年的第11位上升到今年的第6位，这可能是因为它在学习编码的人中很受欢迎。在期望学习的框架中，Phoenix是开发者最为推崇的Web框架和技术。与使用过三种最常见的React、Node.js和Next.js的开发人员相比，更多的开发人员会选择再次使用Phoenix。05其他框架和库在所有受访者中，.NET(5+)今年再次成为其他框架和库的榜首。不过，有些细微差距的是，学习编码的人更多地使用NumPy和Pandas库，而不是.NET(5+)。正如上文所述，这些库使用率较高的原因是因为它与Python兼容。云时代下，Docker是开发者最受欢迎的工具今年，Docker是所有受访者中使用最多的工具(53%)，高于去年的第二位。学习编码的人更有可能使用npm（50%）或Pip（37%），而不是Docker（26%）。VisualStudioCode仍然是所有开发人员的首选IDE，今年它在所有开发人员中的使用率从75%增加到81%。数据显示，Jira和Confluence是所有开发人员中排名前两位的异步工具，与去年类似，但今年榜单有一名新成员闯入Top3：27%的受访者将MarkdownFile用作异步工具。不过，学习编码的人更多地使用GitHubDiscussions而不是MarkdownFile（31%vs29%），并且比专业开发人员更多地转向Notion(26%)和Trello(23%)。三种最流行的同步工具对所有受访者来说都是通用的：MicrosoftTeams、Slack和Zoom。Zoom去年名列榜首，但今年排名第三，过去一年使用它的人数减少了约10个百分点。无论是个人使用还是专业环境使用，Windows都是最受开发人员欢迎的操作系统。06ChatGPT是最受欢迎的AI搜索工具在今年报告中，StackOverflow特别针对AI层面进行了深入的调查。数据显示，83%的受访者在过去一年里使用过ChatGPT。远远超过排名第二位的BingAI（20%）。不过，有42%的受访者希望明年能够尝试使用GoogleBard或BingAI。在编码层面，GitHubCopilot是开发者最常用的AI开发编码工具，去年有55%的受访者使用它，今年是排名第二的Tabnine（13%）的四倍。07过去一年，薪资中位数增长10%，Zig最吃香据调查报告显示，Zig是薪资最高的编程语言，Erlang、F#分别位居二三位。Dart和SAS在2023年的薪酬中位数增幅最高，同比增长超过20%。所有受访者的工资中位数增长了10%，专业开发人员的工资中位数增长了11%。根据工作职位类别来划分，高级管理人员和工程经理等高级职位的薪水往往最高。工作年限越久，往往工资水平越高。根据报告显示，薪酬最高的三个职位如高管、经理、营销或专业销售人员，任职的人平均拥有超过11年的工作经验。08AI工具对程序员带来了哪些影响？自去年11月ChatGPT发布以来，StackOverflow网站的流量受到了不小的冲击，随之该网站也相继宣布加大AI的布局，欲推出人工智能相关的付费服务。因此，在本次报告中，StackOverflow也邀请开发者分享对于这些新型工具的看法。数据显示，70%的受访者正在或计划在其开发过程中使用AI工具。那些学习编码的人比专业开发人员更有可能使用AI工具（82%vs.70%）。目前是否使用AI工具对于AI工具渗透到编码日常中，究竟是好事还是坏事？77%的开发者非常赞成使用AI工具进行开发。不过，和正在学习编码的人相比，有17%的专业开发者感觉无所谓。提高生产力是开发者从AI工具中看到的最大好处。其次，加速学习和提高效率是很多开发者使用AI工具的次要原因。然而，在使用过程中，开发者对AI工具输出内容的准确性存在分歧。近42%的开发者相信ChatGPT等工具的输出，不过31%的人持观望态度。在开发流程中，82.55%的开发者觉得AI工具可以有助于编写代码。其次，他们常在调试、记录代码、学习代码库等过程中使用AI工具。当然，无论是专业的开发者还是正在学习编码的人，他们都相信开发工作流程将在未来一年内因为AI工具的普及而变得不同。...PC版：https://www.cnbeta.com.tw/articles/soft/1365327.htm手机版：https://m.cnbeta.com.tw/view/1365327.htm

目前工程实践上，大家把优化的重点基本都放在了retrieve环节里，这里面涉及三个重要的问题：

目前工程实践上，大家把优化的重点基本都放在了retrieve环节里，这里面涉及三个重要的问题：1⃣howandwhatdoIretrieve：从传统的相似性检索、文本检索，到目前最常用的依托于embedding的语义检索，大家在实践中仍在不断迭代。Kiela后面也提到有研究希望把整个retriever过程做成一个模型，他也在课程中构想未来应该把retriever的训练也纳入到LLM的训练架构中。文本的embedding可简化理解为文本的向量化表达，并且可根据不同文本的向量化表达，判断出文本之间语义的远近亲疏关系。目前的文本emebedding也都是通过模型来实现的，这类模型也在不断迭代。OpenAI在今年1月份推出了text-embedding-3(small和large两版)，相比其2022年12月推出的ada-002模型，在性能上获得了显著提升。用于多语言检索的常用基准(MIRACL)平均分数已从31.4%(ada-002)增加到44.0%(3-small)和54.9%(3-large)。附图之一是OpenAI对其textemebedding模型作用机制的示意。2⃣Whentoretrieve:一般就两种思路。一种是在获得检索范围后即retrieve，另一种是让模型判断何时retrieve。3⃣Howtoencode:如何编码也直接影响了如何检索的过程。其他问题：1⃣howtopre-process:实际上强调就是input要包含systemprompt，可设定角色、技能、任务、工作流、限制条件等。2⃣howtoprompt:涉及提示词工程的方法论。3⃣howtopasscontext:可以把context作为prompt的一部分以文本形式输入，也可通过代码的方式代入。4⃣howtopost-process:比如格式化输出的处理，如固定输出json格式，或固定在末尾输出reference列表等。5⃣howtoverify:指的是如何验证output的效果或质量，比如验证output与知识库的相关性、准确性等。最后，还有关于RAG整体架构的审视框架：1⃣Howtooptimize:各环节哪些地方可以优化。架构中已经列出的问题都是思考的重点。2⃣Howtolearn:这里的learn应该指的是机器学习的learn，探讨各环节从software1.0的静态架构向机器学习和software2.0的演进。3⃣howtoscale:如何应对规模化的问题。比如关于知识库如何chunk、何时编码，在知识库过大时就不适合提前预处理好chunk和编码。或者大量用户同时prompt该如何应对。前段时间判断过2024年会是RAG应用爆发的一年https://m.okjike.com/originalPosts/6602dca712ed2fda687ec0a3?s=ewoidSI6ICI2M2VlMjQ0NjhhMGY3NzVjODQyMmY1NzEiCn0=，自己在2B业务中也涉及RAG工程的落地，所以花了些精力来学习这节课。以上内容夹杂了不少自己的个人理解，欢迎批评指正，一起交流学习~links:StanfordCS25V42024春季课程(面向公众开放，有人想一起学习搭子么？)https://web.stanford.edu/class/cs25/StanfordCS25V3:RetrievalAugmentedLanguageModelshttps://www.youtube.com/watch?v=mE7IDf2SmJgRAG论文原文https://arxiv.org/abs/2005.11401OpenAItext-embedding-3modelshttps://openai.com/blog/new-embedding-models-and-api-updates?tOpenAItext-embedding-ada-002modelhttps://openai.com/blog/new-and-improved-embedding-model?tSoftware2.0byAndrejKarpathyhttps://karpathy.medium.com/software-2-0-a64152b37c35Kiela在讲这节课几个月后在其创立的ContextualAI正式推出RAG2.0https://contextual.ai/introducing-rag2/