构筑大语言模型应用：应用开发与架构设计

构筑大语言模型应用：应用开发与架构设计作者在2023年的上半年和同事一起创建了一系列的流行的或者不流行的开源项目。它们涉及了：LLM能力的充分运用Prompt编写：Prompt学习与编写模式Prompt管理：Prompt即代码LLM下的软件开发工序及应用架构设计新的交互设计：Chat模式大模型友好的工序：基于AI2.0（ChatGPT+Copilot）如何去设计软件开发流程LLM应用架构的设计与落地：UnitMesh面向特定场景的LLM应用基于开源模型构建自己的模型：特定场景的模型微调+LLMOps上下文工程（prompt工程）：LLM应用的核心“围绕于上述的一系列内容，我们也在思考软件开发能给我们带来了什么。所以，我重新整理了过去半年的一些思考、文章，重新编写了这本开源电子书，希望能够帮助到大家。”#电子书

Meta 推出 LLM Compiler 代码优化模型，可搭配其他 AI 改善代码生成 / 编译能力

Meta推出LLMCompiler代码优化模型，可搭配其他AI改善代码生成/编译能力Meta前天推出了一款名为“LLMCompiler”的模型，该模型基于Meta现有的CodeLlama打造，主打代码优化，目前相关模型已登陆HuggingFace，提供70亿参数及130亿参数两个版本，允许学术及商业使用。Meta认为，尽管业界各大语言模型已在各种编程代码任务中展现了出色的能力，但此类模型在代码优化还有进步空间，目前推出的LLMCompiler模型便是一款专为优化代码任务设计的预训练模型，能够模拟编译器对代码进行优化，或将“已经过优化的代码转换回原本的语言”。LLMCompiler在 5460亿个LLVM-IR和汇编代码标记的庞大语料库上进行了训练，据称能够达到77%的“代码优化潜力”，开发者可以自由将相关模型配合其他 AI 模型一起使用，从而改善生成代码的质量。关注频道@ZaiHuaPd频道爆料@ZaiHuabot