构筑大语言模型应用：应用开发与架构设计

构筑大语言模型应用：应用开发与架构设计作者在2023年的上半年和同事一起创建了一系列的流行的或者不流行的开源项目。它们涉及了：LLM能力的充分运用Prompt编写：Prompt学习与编写模式Prompt管理：Prompt即代码LLM下的软件开发工序及应用架构设计新的交互设计：Chat模式大模型友好的工序：基于AI2.0（ChatGPT+Copilot）如何去设计软件开发流程LLM应用架构的设计与落地：UnitMesh面向特定场景的LLM应用基于开源模型构建自己的模型：特定场景的模型微调+LLMOps上下文工程（prompt工程）：LLM应用的核心“围绕于上述的一系列内容，我们也在思考软件开发能给我们带来了什么。所以，我重新整理了过去半年的一些思考、文章，重新编写了这本开源电子书，希望能够帮助到大家。”#电子书

【贪心科技】大模型开发应用实战营 - 带源码课件

名称：【贪心科技】大模型开发应用实战营-带源码课件描述：本课程包括大模型开发基础，RAG基础与架构，RAG与LangChain，模型微调与私有化大模型，智能设备与“小”模型，多模态大模型开发7个阶段，内容涵盖大模型核心原理，大模型实操与API调用，提示工程技术，RAG，向量数据库，LangChain，FunctionCalling，模型微调，LoRA，Agent，智能设备上的模型优化，边缘计算与大模型，多模态大模型，Sora等前沿技术等全方位知识讲解，并结合5个实战项目，帮助同学们实现学以致用。链接：https://www.alipan.com/s/ac7EpxPTLij大小：NG标签：#学习#知识#课程#资源来自：雷锋版权：频道：@shareAliyun群组：@aliyundriveShare投稿：@aliyun_share_bot

【书名】大模型应用开发极简入门

【书名】大模型应用开发极简入门【作者】奥利维耶·卡埃朗，玛丽–艾丽斯·布莱特【格式】#epub#mobi#azw3#pdf【分类】#编程#人工智能#2024新书【简介】本书为大模型应用开发极简入门手册，为初学者提供了一份清晰、全面的“最小可用知识”，带领大家快速了解GPT-4和ChatGPT的工作原理及优势，并在此基础上使用流行的Python编程语言构建大模型应用。只需了解Python，你即可将本书作为进入大模型时代的启动手册，开发出自己的大模型应用。

美业入门知识库管理进阶之路

名称：美业入门知识库管理进阶之路描述：课程来自唐博士的【破局】美业人必修课程，价值2022元。美业入门知识库，美业管理之路。主要内容包括：四大体系（体系、盈利体系、管理体系、人才体系），十大板块（赋能美业、运营计划、奖励机制、门店大盘诊断、全年规划与执行、0-1入局美业、薪资制度、管理与复盘、如何做顾客管理、门店如何拓客）。建议先收藏保存，不定时失效。链接：https://pan.quark.cn/s/63a78477e40c大小：NG标签：#quark#学习#资源#课程#知识库频道：@yunpanshare群组：@yunpangroup

谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用

谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用谷歌目前已经尝试在Chrome浏览器中内置AI模型，该模型需要下载到本地后使用，模型版本为GoogleGeminiNano版。这个模型并不是面向普通用户提供的，主要是给开发者使用，让开发者可以在网站或PWA应用里调用本地AI模型执行运算，而不需要调用某些云端模型。最重要的是经过谷歌的优化，GeminiNano版可以在本地使用硬件加速功能，无论是GPU、NPU甚至是CPU都可以用来运算。使用本地模型的好处有很多：本地处理敏感数据：设备端AI可以改进隐私保护，例如处理敏感数据时可以通过端到端加密为用户提供AI功能。流畅的用户体验：在某些情况下无需来回往返服务器即可获得近似实时的回答。对AI的访问权限更高：设备端可以承担一些处理负载，以换取对功能的更多访问权限，即如果使用云端AI用户可能需要额外付费分摊开发者的token费用，如果仅在本地处理那么这些费用就可以省了。离线使用AI：显然设备端的本地AI是可以在离线状态下使用的，这意味着某些PWA类应用在离线情况下也可以处理内容。亦或者采用混合架构：对于简单的任务使用本地AI处理是可以的，但如果需要进行复杂的任务开发者应当考虑使用服务端实现，也就是继续调用云端AI。第二种是保持AI功能的弹性，当网络连接顺畅的情况下开发者可以调用云端AI，如果网络不畅或者离线则可以回退到本地AI处理。第三种是安全回退：采用内置AI的浏览器需要一定的时间，而且某些型号或某些太旧的设备可能无法使用本地AI，这种情况下开发者可以继续调用云端AI。Chrome内置AI为所有开发者提供通用模型：现阶段开发者通过浏览器运行AI要么直接调用云端AI要么需要下载本地模型，而不同的开发者和不同的网站采用的AI模型不同，用户可能需要下载一大堆模型。Chrome内置AI模型为所有开发者提供通用模型，这些模型一次下载即可使用，在用户已经下载过模型的情况下，调用模型的PWA应用可以做到开箱即用。这种方式应该可以大幅度提高PWA应用对AI功能的采用率，提高用户体验的同时也可以减少开发者很多繁杂的工作。...PC版：https://www.cnbeta.com.tw/articles/soft/1434218.htm手机版：https://m.cnbeta.com.tw/view/1434218.htm

Cloudflare 最近针对 AI 开发者出了几个新功能

Cloudflare最近针对AI开发者出了几个新功能•WorkersAI:在Workers环境下快速调用如Llama2、Whisper等各种开源AI模型•AIGateway:为OpenAI,HuggingFace等API提供商集成统一的调用入口，可以用作OpenAI反代•Vectorize:分布式向量数据库，免费额度可存储500万向量维数。投稿：@ZaiHuaBot频道：@TestFlightCN