本地LLM使用指南 0.2 | #指南

#指南LLMs，即大型语言模型（LargeLanguageModels），是一种基于人工智能和机器学习技术构建的先进模型，旨在理解和生成自然语言文本。这些模型通过分析和学习海量的文本数据，掌握语言的结构、语法、语义和上下文等复杂特性，从而能够执行各种语言相关的任务。LLM的能力包括但不限于文本生成、问答、文本摘要、翻译、情感分析等。LLMs例如GPT、LLama、Mistral系列等，通过深度学习的技术架构，如Transformer，使得这些模型能够捕捉到文本之间深层次的关联和含义。模型首先在广泛的数据集上进行预训练，学习语言的一般特征和模式，然后可以针对特定的任务或领域进行微调，以提高其在特定应用中的表现。预训练阶段让LLMs掌握了大量的语言知识和世界知识，而微调阶段则使模型能够在特定任务上达到更高的性能。这种训练方法赋予了LLMs在处理各种语言任务时的灵活性和适应性，能够为用户提供准确、多样化的信息和服务。

教你从零开始构建类似 ChatGPT 的大语言模型。

教你从零开始构建类似ChatGPT的大语言模型。在GitHub上发现一本《BuildaLargeLanguageModel(FromScratch)》书籍。作者将带你从头开始构建一个类似GPT语言模型，这过程让你了解如何创建、训练和微调大型语言模型(LLMs)！书籍主要分为8大章节，如下：第1章：了解大语言模型（LLM）解析第2章：介绍文本数据处理技巧第3章：通过编程实现注意力机制（AttentionMechanisms）第4章：从零开始实现类似GPT模型第5章：对未标注数据进行预训练第6章：针对文本分类的模型微调第7章：结合人类反馈进行模型微调第8章：在实践中使用大语言模型书籍前两章内容已出，剩下的会逐步放出。

赛博活佛 Andrej Karpathy 新课程 LLM 101 ！

赛博活佛AndrejKarpathy新课程LLM101！会教你从零开始构建一个专门讲故事的LLM应用，这个应用可以与AI共同创造、完善并绘制小故事。使用Python、C和CUDA，并且只需很少的计算机科学知识。最终目标是让你对人工智能、LLMs和深度学习有比较深入的理解。下面图片是一部分大纲。项目地址，目前只有目录，还在施工，可以先点个Star：https://github.com/karpathy/LLM101n

从0到1构建一个MiniLLM

本项目旨在构建一个小参数量的llm，走完预训练->指令微调->奖励模型->强化学习四个阶段，以可控的成本完成一个可以完成简单聊天任务的chat模型，目前完成前两个阶段。使用bert4torch训练框架，代码简洁高效；训练的checkpoint可以无缝衔接transformers，直接使用transformers包进行推理；优化了训练时候文件读取方式，优化内存占用；提供了完整训练log供复现比对；增加自我认知数据集，可自定义机器人名称作者等属性。chat模型支持多轮对话。

基于LLM的系统和产品的构建模式 | link

基于LLM的系统和产品的构建模式讨论了如何将大型语言模型(LLM)应用于系统和产品中的实用模式，介绍了七种关键模式，包括评估性能、使用外部知识、微调模型、缓存技术以减少延迟和成本、设置保护措施确保输出质量、设计防御性用户体验来处理错误、收集用户反馈来建立数据循环。深入讨论了如何使用各种评估指标来衡量模型性能，包括BLEU、ROUGE、BERTScore和MoverScore等；提到了如何使用检索增强生成技术(RAG)将外部信息嵌入到模型中，提高生成质量和可用性。

新手LLM训练详细指南 | #指南

#指南-Transformer是训练语言模型最常用的架构。预训练再微调是训练语言模型的主要方法。-微调需要收集任务特定的数据集，一般大小在几十MB到几GB。-数据预处理非常重要，需要将数据清理成合适的格式，如JSONL。-主要的训练超参数包括batchsize、epoch数、学习率、梯度累积步数等。-LoRA是一种减少GPU内存占用的微调方法，QLoRA则通过量化进一步降低了内存需求。-学习曲线可以诊断模型的训练情况，判断是否欠拟合、过拟合或拟合良好。-模型量化可以降低模型大小，使大模型也能在低显存环境下使用。-模型适配器方法可以进行个性化微调而不加载整个模型。-模型融合可以组合多个模型的优势得到更优的单模型。-合理配置训练超参数以及诊断学习曲线对获得期望的模型至关重要。