- LLaMa made easy。

- LLaMa made easy。 此项目提供了一个基于 llama.cpp 的运行 Alpaca 模型的聊天界面并用docker封装,完全自托管,不需要API密钥,可一键部署。 运行至少需要4.5GB内存。

相关推荐

封面图片

中文LLaMA-2 & Alpaca-2大语言模型 ()

中文LLaMA-2 & Alpaca-2大语言模型 () 本项目基于Meta发布的可商用大模型Llama-2开发,是中文LLaMA&Alpaca大模型的第二期项目,开源了中文LLaMA-2基座模型和Alpaca-2指令精调大模型。 这些模型在原版Llama-2的基础上扩充并优化了中文词表,使用了大规模中文数据进行增量预训练,进一步提升了中文基础语义和指令理解能力,相比一代相关模型获得了显著性能提升。相关模型支持4K上下文并可通过NTK方法最高扩展至18K+。 本项目主要内容: 针对Llama-2模型增加了新版中文词表,开源了中文LLaMA-2和Alpaca-2大模型 了预训练脚本、开源指令精调脚本,用户可根据需要进一步训练模型 使用个人电脑的CPU/GPU在本地快速进行大模型仿真和部署体验 支持Transformers , llama.cpp , text- Generation-webui , LangChain , vLLM等LLaMA生态 目前已开源的模型:Chinese-LLaMA-2-7B, Chinese-Alpaca-2-7B

封面图片

《豆瓣 9.4!单词届神书Word Power Made Easy中英PDF+配套音频》

《豆瓣 9.4!单词届神书Word Power Made Easy中英PDF+配套音频》 简介:这本被誉为单词学习神书的《Word Power Made Easy》以轻松有趣的方式帮助读者高效扩充词汇量,豆瓣评分高达9.4分。中英双语PDF搭配配套音频,让学习更加生动便捷,适合各类英语学习者提升语言能力。 亮点:科学记忆法+实用场景练习,轻松攻克词汇难关,听说读写全方位提升。 标签:#英语学习 #词汇扩展 #WordPowerMadeEasy #豆瓣高分 #语言工具 更新日期:2025-04-30 19:34:52 链接:https://pan.quark.cn/s/c25c026f3694

封面图片

Calculus Made Easy,一本讲授微积分的经典书籍,最初由 Silvanus P. Thompson 于 1910

Calculus Made Easy,一本讲授微积分的经典书籍,最初由 Silvanus P. Thompson 于 1910 年出版,被认为是对该主题的经典而优雅的介绍。学生将会学习和掌握微积分的真正本质,而无需任何额外的浮夸或明显的技术性。 | #电子书

封面图片

:旨在通过Intel Neural Compressor和llama.cpp支持的低bit量化和稀疏性的创新库,为Intel平台

:旨在通过Intel Neural Compressor和llama.cpp支持的低bit量化和稀疏性的创新库,为Intel平台上的大型语言模型(LLMs)提供高效的推断能力,提供了以下实验性特性:模块化设计以支持新模型,高度优化的低精度核心,利用AMX、VNNI、AVX512F和AVX2指令集,支持CPU(仅限x86平台)和Intel GPU(正在开发中),支持4-bit和8-bit量化。

封面图片

:允许用户在任何地方(Linux/Windows/Mac)通过 gradio web UI 在 GPU 或 CPU 上运行 Ll

:允许用户在任何地方(Linux/Windows/Mac)通过 gradio web UI 在 GPU 或 CPU 上运行 Llama 2。 它支持 Llama-2-7B/13B/70B,并且可以使用 8-bit 或 4-bit 模式。它支持至少有 6 GB VRAM 的 GPU 推理,以及至少有 6 GB RAM 的 CPU 推理。 支持多种模型:Llama-2-7b/13b/70b,所有的Llama-2-GPTQ,所有的Llama-2-GGML等 支持多种模型后端:Nvidia GPU(transformers,bitsandbytes(8-bit 推理),AutoGPTQ(4-bit 推理)),CPU,Mac/AMD GPU(llama.cpp) Web UI接口:gradio

封面图片

Reor 是一款用于创建笔记的应用程序,它集成了人工智能,可在本地运行模型。

Reor 是一款用于创建笔记的应用程序,它集成了人工智能,可在本地运行模型。 它能自动链接观点、提供语义搜索并回答笔记中的问题。 支持 Mac、Linux 和 Windows。 可直接与Llama.cpp库交互,也允许用户插入自己的本地模型或使用与OpenAI兼容的 API。 可从其他应用程序导入笔记。 网站: #tools #AI

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人