#小众软件Jan – 免费的 ChatGPT 开源替代：使用开源 AI 模型，在自己电脑上运行大语言模型，100% 离线

#小众软件 Jan – 免费的 ChatGPT 开源替代：使用开源 AI 模型，在自己电脑上运行大语言模型，100% 离线 Tags: #AI, #linux, #macOS, #Windows, #ChatGPT, #大语言模型, #开源

：在本地启动并运行大语言模型 | #工具

：在本地启动并运行大语言模型 | #工具 Ollama 是一款命令行工具，可在 macOS 和 Linux 上本地运行 Llama 2、Code Llama 和其他模型。适用于 macOS 和 Linux，并计划支持 Windows。 Ollama 目前支持近二十多个语言模型系列，每个模型系列都有许多可用的 "tags"。 Tags 是模型的变体，这些模型使用不同的微调方法以不同的规模进行训练，并以不同的级别进行量化，以便在本地良好运行。量化级别越高，模型越精确，但运行速度越慢，所需的内存也越大。

苹果要在iPhone上运行AI大模型？

苹果要在iPhone上运行AI大模型？ （英文） （英文） 研究人员在一篇名为“LLM in a flash: Efficient Large Language Model Inference with Limited Memory”论文中提到，闪存在移动设备中比传统上用于运行LLMs的RAM更丰富。

构筑大语言模型应用：应用开发与架构设计

构筑大语言模型应用：应用开发与架构设计 作者在2023 年的上半年和同事一起创建了一系列的流行的或者不流行的开源项目。它们涉及了： LLM 能力的充分运用 Prompt 编写：Prompt 学习与编写模式 Prompt 管理：Prompt 即代码 LLM 下的软件开发工序及应用架构设计 新的交互设计：Chat模式 大模型友好的工序：基于 AI 2.0 （ChatGPT + Copilot）如何去设计软件开发流程 LLM 应用架构的设计与落地：Unit Mesh 面向特定场景的 LLM 应用 基于开源模型构建自己的模型：特定场景的模型微调 +LLMOps 上下文工程（prompt 工程）：LLM 应用的核心 “围绕于上述的一系列内容，我们也在思考软件开发能给我们带来了什么。所以，我重新整理了过去半年的一些思考、文章，重新编写了这本开源电子书，希望能够帮助到大家。” | #电子书

是一个基于大语言模型（llm）的文本风格迁移（text style transfer）项目。利用大语言模型来学习指定文学作品

是一个基于大语言模型（llm）的文本风格迁移（text style transfer）项目。项目利用大语言模型来学习指定文学作品的写作风格（惯用词汇、句式结构、修辞手法、人物对话等），形成了一系列特定风格的模型。 利用stylellm模型可将学习到的风格移植至其他通用文本上，即：输入一段原始文本，模型可对其改写，输出带有该风格特色的文本，达到文字修饰、润色或风格模仿的效果。