：一个开源 Python 库，专门为 AI 开发人员设计、执行和共享实验，可以跟踪任意内容，流式传输、复现、协作和在任何地方恢复

：一个开源 Python 库，专门为 AI 开发人员设计、执行和共享实验，可以跟踪任意内容，流式传输、复现、协作和在任何地方恢复计算状态 主要特征： 立即：使用几行代码设计和执行实验，流式传输你的指标。 协作：备份、合并、共享和重新加载实验及其计算状态。 可互操作：使用 Python、Pandas 和 SQL 以及本机数据库类型和开放格式访问你的实验 - 无供应商锁定。 灵活：跟踪本机 Python 数据类型和结构，以及 NumPy、Pandas 和 PyArrow 对象。 轻量级：具有最小依赖性的薄层，可以在任何地方运行并补充其他组件/服务。

[整理]k_zer0s老哥对Groq的LPU为什么能有这么快的推理速度做了相对详细的解释：

[整理]k_zer0s老哥对Groq的LPU为什么能有这么快的推理速度做了相对详细的解释： Groq的LPU在处理请求和响应方面，速度超越了Nvidia的GPU。 不同于Nvidia GPU需要依赖高速数据传输，Groq的LPU在其系统中没有采用高带宽存储器（HBM）。它使用的是SRAM，其速度比GPU所用的存储器快约20倍。 鉴于AI的推理计算相较于模型训练需要的数据量远小，Groq的LPU因此更节能。在执行推理任务时，它从外部内存读取的数据更少，消耗的电量也低于Nvidia的GPU。 LPU的工作原理与GPU截然不同。它采用了时序指令集计算机（Temporal Instruction Set Computer）架构，这意味着它无需像使用高带宽存储器（HBM）的GPU那样频繁地从内存中加载数据。这一特点不仅有助于避免HBM短缺的问题，还能有效降低成本。 如果在AI处理场景中采用Groq的LPU，可能就无需为Nvidia GPU配置特殊的存储解决方案。LPU并不像GPU那样对存储速度有极高要求。Groq公司宣称，其技术能够通过其强大的芯片和软件，在AI任务中取代GPU的角色。 来源：

面对更灵活的竞争对手，OpenAI 不会屈服……但是

面对更灵活的竞争对手，OpenAI 不会屈服……但是 据知情人士透露，客户要求在非微软云服务或自己的本地服务器上运行 OpenAI 模型，但 OpenAI 没有立即提供此类选项的计划。 这意味着 ChatGPT 创建者的竞争对手在一个领域具有优势：灵活性。要使用OpenAI的技术，付费客户有两种选择：他们可以直接通过OpenAI，或者通过投资合作伙伴微软，后者已签署协议成为OpenAI的独家云服务。 知情人士透露，微软不会允许 OpenAI 的模型在其他云提供商上使用。一些专门使用竞争对手的公司，例如亚马逊网络服务、谷歌云或甲骨文，选择使用其他人工智能模型，而不是更换云提供商或直接向 OpenAI 发送数据。 但微软将允许“本地”提供 OpenAI 模型，客户可以在其中构建自己的服务器。创建此类解决方案会带来一些挑战，特别是围绕 OpenAI 的知识产权。但该人士表示，这在技术上是可行的。 OpenAI 和微软的发言人拒绝置评。 目前，每次客户访问 OpenAI 模型时，他们都会将数据发送给 Sam Altman 的公司或微软。他们还为每个查询支付云计算成本。对于拥有敏感数据或由于监管原因无法将数据发送到云端的公司，OpenAI 不是一个选择。宁愿构建自己的服务器而不支付云计算成本的公司可能会选择替代方案。 目前还不清楚有多少客户属于这个范围。摩根士丹利等一些公司直接将数据发送给 OpenAI，但 OpenAI 并不使用这些数据来训练其人工智能模型。微软确实为客户提供了“混合云”选项，公司可以在利用云的同时将敏感数据存储在本地服务器上。但即使有了这个解决方案，公司仍然需要向微软发送一些数据才能利用 OpenAI 模型。 来源： via 匿名 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

AMD专利揭示未来RDNA架构的独特"多芯片"GPU方法

AMD专利揭示未来RDNA架构的独特"多芯片"GPU方法 AMD 是在多芯片设计方面经验丰富的半导体公司之一，因为他们的 Instinct MI200 AI 加速器系列率先采用了 MCM 设计，在单个封装上堆叠了多个芯片，如 GPC（图形处理内核）、HBM 堆栈和 I/O 芯片。该公司还率先在其最新的 RDNA 3 架构上采用了 MCM 解决方案，如 Navi 31。然而，凭借这项新专利，AMD希望将这一理念转化为主流的"RDNA"架构，具体方法如下。该专利描述了芯片组利用的三种不同"模式"，其区别在于如何分配资源并进行管理。该专利揭示了三种不同的模式，第一种是"单 GPU"模式，这与现代 GPU 的功能非常相似。所有板载芯片将作为一个统一的处理单元，在协作环境中共享资源。第二种模式被称为"独立模式"，在这种模式下，单个芯片将独立运行，通过专用的前端芯片负责为其相关的着色器引擎芯片调度任务。第三种模式是最有前景的，被称为"混合模式"，在这种模式下，芯片既可以独立运行，也可以共存。它充分利用了统一处理和独立处理的优势，提供了可扩展性和高效的资源利用率。该专利没有透露 AMD 采用 MCM 设计的细节，因此我们无法评论AMD是否会决定采用专利中提到的想法。不过，从总体上讲，多芯片配置虽然可以提高性能和可扩展性，但生产起来却要复杂得多，需要高端设备和工艺，最终也会增加成本。以下是该专利对多芯片方法的描述：通过将 GPU 分成多个 GPU 芯片，处理系统可根据运行模式灵活、经济地配置活动 GPU 物理资源的数量。此外，可配置数量的 GPU 芯片被组装到单个 GPU 中，这样就可以使用少量的分带组装出具有不同数量 GPU 芯片的多个不同 GPU，并且可以用实现不同技术世代的 GPU 芯片构建多芯片 GPU。目前，AMD 在消费级市场还没有合适的多 GPU 芯片解决方案。Navi 31 GPU 在很大程度上仍是采用单 GCD 的单片设计，但承载无限缓存和内存控制器的 MCD 已被移至芯片组封装。随着下一代 RDNA 架构的推出，我们可以预见 AMD 将更加注重多芯片封装，多个 GCD 将拥有各自专用的着色器引擎块。AMD 曾计划在RDNA4 系列中采用 Navi 4X/Navi 4C这样的 GPU，但据说该计划已被取消，转而采用更主流的单片封装。 ... PC版： 手机版：

一个优秀的虚拟位置提供程序，它可以帮助安卓系统提供精确、灵活的模拟位置。

一个优秀的虚拟位置提供程序，它可以帮助安卓系统提供精确、灵活的模拟位置。 为方便进行LBS应用的开发，安卓系统在开发者选项中提供了一个重要的设置项“模拟位置”。通过该设置项，系统可以指定一个符合规范的应用程序为手机提供虚拟定位数据。这样，开发者可以方便迅速的为自己的应用程序指定动态模拟的位置和轨迹，从而真实模拟各种场景，避免了依赖真实位置带来的开发测试成本。 不需要Root，打开开发者模式，开启【允许模拟位置】即可使用，支持位置收藏，无需注册登录，免费使用。 | #工具 #模拟器

MongoDB全方位知识图谱 | MongoDB是一个强大的分布式存储引擎，天然支持高可用、分布式和灵活设计。MongoDB的一

MongoDB全方位知识图谱 | MongoDB是一个强大的分布式存储引擎，天然支持高可用、分布式和灵活设计。MongoDB的一个很重要的设计理念是：服务端只关注底层核心能力的输出，至于怎么用，就尽可能的将工作交个客户端去决策。这也就是MongoDB灵活性的保证，但是灵活性带来的代价就是使用成本的提升。 与MySql相比，想要用好MongoDB，减少在项目中出问题，用户需要掌握的东西更多。本文致力于全方位的介绍MongoDB的理论和应用知识，目标是让大家可以通过阅读这篇文章之后能够掌握MongoDB的常用知识，具备在实际项目中高效应用MongoDB的能力。 本文既有MongoDB基础知识也有相对深入的进阶知识，同时适用于对MonogDB感兴趣的初学者或者希望对MongoDB有更深入了解的业务开发者 本文是作者在学习和使用MongoDB过程中总结的MongoDB知识图谱，从以下3个方面来介绍MongoDB相关知识： 基础知识：主要介绍MongoDB的重要特性，No Schema、高可用、分布式扩展等特性，以及支撑这些特性的相关设计 应用接入：主要介绍MongoDB的一些测试数据、接入方式、spring-data-mongo应用以及使用Mongo的一些注意事项。 进阶知识：主要介绍MongoDB的一些核心功能的设计实现，包括WiredTiger存储引擎介绍、Page/Chunk等数据结构、一致性/高可用保证、索引等相关知识。