- Silicon LLM Training & Inference Toolkit:基于 MLX 框架的 Silicon LL

- Silicon LLM Training & Inference Toolkit:基于 MLX 框架的 Silicon LLM 训练和推理工具包,简化了在 Apple Silicon 上训练和运行大语言模型的过程

相关推荐

封面图片

苹果推出 MLX 深度学习框架

苹果推出 MLX 深度学习框架 苹果今日在其开发者官网发布了专为 Apple Silicon 芯片优化的 MLX 深度学习框架「ml-explore」。 根据介绍:「ml-explore」可以帮助开发者简化设计和部署模型的过程,并使用熟悉的 API 来完成开发。作为第一方软件,「ml-explore」能够充分利用 Apple Silicon 的 CPU 与 GPU,并利用统一内存架构进一步加强性能。

封面图片

Apple Silicon通过mlx-graphs项目大幅提升人工智能训练速度

Apple Silicon通过mlx-graphs项目大幅提升人工智能训练速度 mlx-graphs 是博士生特里斯坦-比洛特(Tristan Bilot)、弗朗切斯科-法里纳(Francesco Farina)和 MLX 团队的一个新项目,是一个旨在帮助图形神经网络(GNN)在Apple Silicon上更高效运行的库。图形神经网络用于预测节点和边,并执行基于图形的任务,在计算机视觉领域尤其有用。mlx-graphs 项目以 MLX 为基础,是专为 Apple Silicon 发布的图形神经网络库。该项目旨在为该领域的研究人员提供可观的性能提升。Bilot 声称,在对大型图形数据集进行训练时,该库的初始基准运行速度可达 PyTorch Geometric 和 DGL 等框架的十倍。它通过使用专门设计的内核来并行化直接在 M 系列芯片 GPU 上运行的 GNN 计算。苹果公司在MLX图形方面的工作仍处于初期阶段Bilot 承认,"仍有很大的空间可以做出重大贡献"。这可能是一个暗示,即随着进一步的开发,可能会发现更多的速度提升。mlx-graphs 库可在 GitHub 上下载和安装: 邀请其他人探索和测试该库,提供反馈,并通过拉取请求提交实现。该项目是对机器学习和生成式人工智能兴趣浪潮的一部分,这一领域可以极大地改变内容创作和向用户提供信息的方式。就苹果公司而言,公司内部的研究人员已经创建了一个用于动画图像的生成式人工智能工具。此外,其他项目也在Xcode工具中测试人工智能的使用。苹果公司首席执行官蒂姆-库克(Tim Cook)也谈到,苹果公司将在2024 年晚些时候向用户推出大量人工智能功能。 ... PC版: 手机版:

封面图片

AutoGen 是一个框架,由微软、宾夕法尼亚州立大学和华盛顿的合作研究提供支持。允许使用多个代理来开发 LLM 应用程序,

AutoGen 是一个框架,由微软、宾夕法尼亚州立大学和华盛顿大学的合作研究提供支持。允许使用多个代理来开发 LLM 应用程序,这些代理可以相互对话来解决任务。 AutoGen 代理是可定制的、可对话的,并且无缝地允许人类参与。他们可以采用 LLM、人力投入和工具组合的各种模式运作。 AutoGen 可以轻松构建基于多代理对话的下一代 LLM 应用程序。它简化了复杂的LLM工作流程的编排、自动化和优化。它最大限度地提高了 LLM 模型的性能并克服了它们的弱点。 它支持复杂工作流程的多种对话模式。借助可定制和可对话的代理,开发人员可以使用 AutoGen 构建各种涉及对话自主性、代理数量和代理对话拓扑的对话模式。 它提供了一系列具有不同复杂性的工作系统。这些系统涵盖各种领域和复杂性的广泛应用。他们演示了 AutoGen 如何轻松支持不同的对话模式。 AutoGen 提供了直接替代openai.Completion或openai.ChatCompletion作为增强的推理 API。它允许轻松的性能调整、API 统一和缓存等实用程序以及高级使用模式,例如错误处理、多配置推理、上下文编程等。 | #框架

封面图片

MetaMask开发公司Consensys发布新的开发工具包“MetaMask Delegation Toolkit”

MetaMask开发公司Consensys发布新的开发工具包“MetaMask Delegation Toolkit” PANews 7月9日消息,据CoinDesk报道,MetaMask开发公司Consensys发布了一款新的工具包“MetaMask Delegation Toolkit”,旨在简化区块链应用的用户体验。该工具包允许用户无需与传统钱包交互即可立即完成注册,并消除用户切换去中心化应用和钱包时的所有确认弹窗。该工具包还简化了智能合约开发,允许开发者将Gas费用重新分配给他人。此工具包适用于所有兼容以太坊虚拟机的链。

封面图片

AGPT:Apple Game Porting Toolkit Installer

AGPT:Apple Game Porting Toolkit Installer InstallAware 公司近日发布新项目,重点简化了安装苹果游戏移植工具包(AGPT)的安装和初始化流程。不过阿喵试了下,点击那个提供的dmg下载链接转半天没反应,也不知道苹果这游戏移植啥时候大众化 链接:点击下载 频道 | 圈子 | 群聊 | 投稿

封面图片

本项目旨在构建一个小参数量的llm,走完预训练 -> 指令微调 -> 奖励模型 -> 强化学习 四个阶段,以可控的成本完成一个可

本项目旨在构建一个小参数量的llm,走完预训练 -> 指令微调 -> 奖励模型 -> 强化学习 四个阶段,以可控的成本完成一个可以完成简单聊天任务的chat模型,目前完成前两个阶段。 使用bert4torch训练框架,代码简洁高效; 训练的checkpoint可以无缝衔接transformers,直接使用transformers包进行推理; 优化了训练时候文件读取方式,优化内存占用; 提供了完整训练log供复现比对; 增加自我认知数据集,可自定义机器人名称作者等属性。 chat模型支持多轮对话。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人