：允许用户在任何地方（Linux/Windows/Mac）通过 gradio web UI 在 GPU 或 CPU 上运行 Ll

：允许用户在任何地方（Linux/Windows/Mac）通过 gradio web UI 在 GPU 或 CPU 上运行 Llama 2。 它支持 Llama-2-7B/13B/70B，并且可以使用 8-bit 或 4-bit 模式。它支持至少有 6 GB VRAM 的 GPU 推理，以及至少有 6 GB RAM 的 CPU 推理。 支持多种模型：Llama-2-7b/13b/70b，所有的Llama-2-GPTQ，所有的Llama-2-GGML等 支持多种模型后端：Nvidia GPU（transformers，bitsandbytes（8-bit 推理），AutoGPTQ（4-bit 推理）），CPU，Mac/AMD GPU（llama.cpp） Web UI接口：gradio

一个性能极佳的图形数据库，可以在任何地方运行。 ​​​

一个性能极佳的图形数据库，可以在任何地方运行。 ​​​ 1.Cozo现在可以在Linux，macOS，Windows，iOS，Android和Web浏览器上运行。 2.可以在嵌入式模式下将Cozo与Python，JavaScript，Rust，C，Java，Swift和Golang等一起使用。 3.可以从RocksDB，SQLite和纯内存存储后端中进行选择，并进行不同的权衡。 4.在配备 RocksDB 持久存储引擎的 2020 Mac Mini 上： 4.1.对具有 1.6M 行的关系运行 OLTP 查询，您可以预期大约 100K QPS（每秒查询数） 用于混合读/写/更新事务查询，只读查询 QPS 超过 250K，数据库峰值内存使用量约为 50MB。 4.2.备份速度约为每秒 1M 行，还原速度约为每秒 400K 行，并且对关系（表）大小不敏感。 4.3.对于 OLAP 查询，扫描具有 1.6M 行的表大约需要 1 秒（在 2 倍内，具体取决于确切的操作）。查询所花费的时间大致与查询接触的行数成比例，内存使用情况主要由返回集的大小决定。 4.4.对于具有 31M 边的图形，两跳图遍历在不到 1 毫秒的时间内完成。 4.5.对于具有 10K 顶点和 120K 边的图形，Pagerank 算法在大约 50 毫秒内完成，对于具有 100K 顶点和 1.7M 边的图形，大约在 1 秒内完成，对于具有 1.6M 顶点和 32M 边的图形，大约需要 30 秒。 | #数据库

对开发者友好的Rust用户界面框架

对开发者友好的Rust用户界面框架 该框架仍处于开发的试验阶段。因此API更改是不可避免的，也是获得最佳开发人员体验所必需的。 目前，很少有优化发生。布局和绘图是最不优化的。许多重要的小部件尚未实现。Frui大量利用一些夜间功能来优化小部件树的重建并改进API。因此，最低支持的Rust版本是Rust的最新夜间版本。对某些人来说，这可能会破坏交易。 重要的是要知道此时不应使用Frui来构建任何严肃的应用程序。 | #Rust #框架