强烈推荐看看Andrej Karpathy在Microsoft Build 2023的演讲，“State of GPT”。讲解得

强烈推荐看看Andrej Karpathy在Microsoft Build 2023的演讲，“State of GPT”。讲解得非常清晰，对于我们小白而言，听完起码能明确区分base model (llama) 和 SFT model (vicuna)

微软Build开发者大会来袭：“AI+PC”革命来了？

微软Build开发者大会来袭：“AI+PC”革命来了？ 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 该公司已经在必应(Bing)搜索引擎中提供了Copilot聊天机器人助手，并在Office办公软件中提供了付费服务。现在，PC用户将会听到更多关于人工智能将如何嵌入Windows，以及他们可以在新的人工智能PC上做些什么。Build发布几天前，谷歌I/O大会上，这家搜索巨头发布了迄今为止最强大的人工智能模型，并展示了其Gemini人工智能将如何在电脑和手机上运行。在谷歌的活动之前，OpenAI宣布了其新的GPT-4o模型。微软是OpenAI的主要投资者，其Copilot技术是基于OpenAI的模型。对微软来说，挑战是双重的:保持在人工智能领域的突出地位，并提振个人电脑销售。在疫情期间经历了升级周期后，过去两年个人电脑销售一直处于低迷状态。摩根士丹利分析师Erik Woodring最近在给投资者的一份关于戴尔()的报告中写道，他仍然“看好个人电脑市场的复苏”，原因是客户的评论，以及最近“对笔记本电脑”原始设计制造商(ODM)的产品配置进行了“向上修正”。科技行业研究机构高德纳(Gartner)估计，在经历了多年的低迷后，本季度个人电脑出货量增长了0.9%。微软首席财务官Amy Hood上月在公司季度财报电话会议上表示，个人电脑需求"略好于预期"。微软推出的新人工智能工具可能会为企业和个人用户升级他们的老旧电脑提供另一个理由，无论这些电脑是惠普()、戴尔还是联想生产的。4月26日，也就是微软公布财报的第二天，伯恩斯坦分析师在给投资者的报告中写道:“虽然Windows的Copilot不会直接推动盈利，但我们相信，它应该会提高Windows的使用率、Windows的粘性、消费者对价格更高、功能更强大的个人电脑的偏好(从而为微软带来更多的每台设备收入)，以及可能的搜索收入。”虽然微软将提供软件来处理发送到互联网上的一些人工智能任务，但微软的电脑将使用AMD()、英特尔()和高通()的芯片来完成离线人工智能工作。这可能包括，例如，在没有连接的情况下，用你的声音要求Copilot总结一段录音。什么是人工智能电脑?人工智能个人电脑的关键硬件是所谓的神经处理单元(NPU)。NPU超越了传统中央处理器(CPU)的能力，专门用于处理人工智能任务。传统上，它们一直被苹果()等公司用于改善照片和视频或语音识别。微软还没有说在没有互联网连接的情况下，人工智能个人电脑会有什么能力。但谷歌的PIxel 8 Pro手机没有完整的计算机处理器，但它可以利用Gemini Nano人工智能对录音进行总结和转录，推荐短信回复等。配备英特尔最新的Lunar Lake芯片和专用NPU的电脑预计将于2024年底上市。高通的带有NPU的骁龙X Elite芯片将在今年年中上市，而AMD的最新Ryzen Pro预计将在本季度的某个时候上市。英特尔表示，这些芯片可以实现“实时语言翻译、自动推理和增强游戏环境”等功能。苹果多年来一直在使用NPU，最近在iPad Pro的新款M4芯片中突出了这一点。M4芯片预计将于今年某个时候在下一代mac电脑中推出。Arm上的Windows与英特尔和AMD不同，高通提供基于arm架构的芯片。微软的一个会议将讨论“下一代Arm上的Windows”，可能会讨论Windows如何在高通芯片上运行，以及它与英特尔和AMD版本的Windows有何不同。根据Canalys最近的数据，英特尔仍然控制着个人电脑芯片市场78%的份额，AMD以13%的份额紧随其后。过去，高通在推广基于骁龙arm处理器的电脑时，一直标榜其电池寿命更长、设计更薄，以及蜂窝网络连接等其他优势。但高通早期版本的芯片在为消费者提供的服务方面是有限的。例如，在2018年，该公司的骁龙835芯片无法运行大多数Windows应用程序。此后，微软对Windows进行了改进，以便在Arm上处理传统应用程序，但问题依然存在。该公司甚至有一个专门针对运行在Arm硬件上的计算机的FAQ页面。其他领域的AI微软还将举办“AI Everywhere”等会议，讨论如何在云端运行的设备上“加速生成人工智能模型”。“Azure AI Studio”会议将探讨开发者如何创建自己的Copilot聊天机器人，这可能类似于谷歌和OpenAI在Gemini和ChatGPT上所做的事情。想象一下，例如，一家公司创建了一个聊天机器人，可以帮助员工选择健康福利。 ... PC版： 手机版：

微软Build开发者大会前瞻： AI PC、ARM版Windows和云AI

微软Build开发者大会前瞻： AI PC、ARM版Windows和云AI 今年1月，微软CEO萨蒂亚·纳德拉（Satya Nadella）宣布，2024年将是人工智能成为“每台个人电脑不可或缺部分”的一年。微软已在其必应搜索引擎中集成了Copilot聊天机器人助手，并在Office软件中提供此功能的付费服务。在即将举行的Build大会上，PC用户将了解到更多关于人工智能如何被整合进Windows以及他们在新的AI PC上能做些什么。Build大会紧随谷歌I/O大会之后不久举行，在后者的活动中，谷歌推出了迄今为止最强大的AI模型，并展示了其Gemini AI如何在计算机和手机上运行。在谷歌活动之前，OpenAI公布了其新的GPT-4o模型。作为OpenAI的主要投资者，微软的Copilot技术基于OpenAI的模型。对于微软而言，挑战是双重的：不仅要在AI领域保持领先地位，还要推动个人电脑销量的增长，尤其是在疫情期间升级周期后的销售低迷。摩根士丹利分析师埃里克·伍德林(Erik Woodring)在近期给投资者的一份报告中表示，他对个人电脑市场的复苏持乐观态度，这主要基于客户的积极反馈以及对笔记本电脑原始设计制造商(ODM)构建的“预期上调”。科技行业研究机构Gartner估计，经历多年低迷后，本季度PC出货量同比增长了0.9%。微软首席财务官阿米·胡德（Amy Hood）在上月的季度财报电话会议中表示，个人电脑的需求“略好于预期”。微软发布的新AI工具可能为企业和消费者客户提供升级其旧电脑的另一个理由，无论这些电脑是惠普、戴尔还是联想生产的。投行伯恩斯坦分析师在4月26日微软发布财报后给投资者的一份报告中写道：“尽管Windows的Copilot不直接推动收入增长，但我们相信，它应该会提升Windows的使用频率和用户黏性，吸引消费者购买更高价更强大的PC（从而为微软每台设备带来更多收入），并可能增加搜索收入。”微软不仅提供处理互联网AI任务的软件，其计算机还将使用AMD、英特尔以及高通的芯片来处理离线AI任务。例如，用户可以使用语音命令让Copilot在无网络连接的情况下总结录音。什么是AI PC？AI PC的关键硬件是所谓的神经处理单元（NPU）。NPU超越了传统的中央处理单元（CPU）的功能，专为处理人工智能任务而设计。例如，苹果公司就使用NPU来改进照片和视频的质量或进行语音识别。微软尚未说明在无网络连接的情况下AI PC能做什么。但谷歌的Pixel 8 Pro手机，尽管没有完整的计算机处理器，已能利用其Gemini Nano AI进行录音的摘要和转录，推荐短信回复等。预计搭载英特尔最新Lunar Lake芯片和专用NPU的计算机将于2024年底上市。配备NPU的高通骁龙X Elite芯片将于今年中发布，AMD的最新Ryzen Pro预计在本季度某时推出。英特尔表示，其芯片能够实现“实时语言翻译、自动推理和增强游戏环境”等功能。苹果公司多年来一直使用NPU，并在最近推出的iPad Pro的新M4芯片中突出显示了这些功能。预计M4芯片将在今年晚些时候出现在新一代Mac电脑中。基于ARM的Windows与英特尔和AMD的芯片不同，高通提供的芯片基于ARM架构。微软Build开发者大会一个会议主题将是“下一代基于ARM的Windows”，这可能涉及Windows如何在高通芯片上运行，以及这如何不同于在英特尔和AMD芯片上运行的Windows版本。根据市场研究公司Canalys的最新数据，特尔仍然控制着78%的PC芯片市场份额，AMD紧随其后，占据13%的份额。高通在推广搭载骁龙芯片的计算机时，一直强调其更长的电池寿命、更薄的设计以及蜂窝连接等优势。然而，高通早期的芯片为消费者提供的功能有限，例如2018年发布的骁龙835芯片就无法运行大多数Windows应用程序。此后，微软优化了Windows系统，以支持在ARM芯片上运行传统应用程序，但仍存在问题。微软甚至专门为运行在ARM硬件上的计算机设立了一个常见问题解答页面。无处不在的人工智能微软还将在Build开发者大会上举办“AI Everywhere”等分会议，探讨如何在云端运行设备上“加速生成人工智能模型”。“Azure AI Studio”会议将探讨开发者如何创建他们自己的Copilot聊天机器人，这可能与谷歌和OpenAI在Gemini和ChatGPT上所做的类似。例如，想象一家公司创建一个聊天机器人，帮助员工选择医疗福利。 ... PC版： 手机版：

微软Build大会将详细介绍"下一代"Windows on Arm和新的AI功能

微软Build大会将详细介绍"下一代"Windows on Arm和新的AI功能 微软列出了今天的 Build 开发者会议日程，其中有两场会议提到了"下一代 Windows on Arm"和"全新的 Windows AI 功能"。下一代 Arm 上的 Windows 会议将包括有关应用程序"业界领先性能"的详细信息，这很可能是在暗示微软希望在 CPU 性能和应用程序仿真方面击败苹果 M3 芯片的雄心壮志。同一场会议还将包括"今年搭载 Arm 的 Windows 的新体验，例如利用 NPU 丰富功能的智能 Windows 应用"的详细介绍。届时很可能展示更多的 Windows AI 功能，这在另一场 Build 会议中也有所暗示。"我们将展示全新的功能，通过先进的 AI 功能让用户在 Windows 上与他们的数字生活进行更深入的互动，"微软在 Build 会议说明中表示。这听起来很像传闻中即将在 Windows 11 中推出的 AI Explorer 功能，该功能的设计初衷是作为一个时间轴，让你能在 PC 上召唤它。微软内部将其描述为一项可以让你"检索你在设备上看过或做过的任何事情"的功能。微软 Build 的其他会议还将重点讨论如何构建 Copilots，甚至是人工智能助手的插件。微软还将详细介绍 Windows 开发者体验方面的一些改进，这些改进来自将Windows 终端、Dev Home、PowerToys 和Linux 版 Windows 子系统带入生活的团队。 ... PC版： 手机版：

GPT 是如何工作的：200 行 Python 代码实现一个极简 GPT（2023）| 本文是arthurchiao整理和翻译自

GPT 是如何工作的：200 行 Python 代码实现一个极简 GPT（2023）| 本文是arthurchiao整理和翻译自 2023 年 Andrej Karpathy 的 twitter 和一篇文章： GPT as a finite-state markov chain。 本文实际上是基于 PyTorch，并不是完全只用基础 Python 包实现一个 GPT。 主要目的是为了能让大家对 GPT 这样一个复杂系统的（不那么底层的）内部工作机制有个直观理解。

Open AI传奇研究员Andrej Karpathy的新课，教你理解和构建GPT Tokenizer。

Open AI传奇研究员Andrej Karpathy的新课，教你理解和构建GPT Tokenizer。 他可以把相当复杂的LLM概念用非常好理解的方式讲出来。希望了解LLM的强烈建议听一下他的课，包括一些历史课程。 用GPT-4翻译了一下这节课，感兴趣可以听一下。字幕文件下载和历史课程会放最后。 补充一下视频介绍： 分词器是大语言模型（LLM）处理流程中一个独立且关键的环节。它们有专属的训练数据集、采用特定的训练算法字节对编码（Byte Pair Encoding），训练完成后，分词器能够执行两个核心功能：encode() 函数将普通文本字符串转换为词元，而 decode() 函数则能将词元还原为原始文本字符串。在这场讲座中，我们将一步步揭开 OpenAI GPT 系列分词器的构建过程。 我们将发现，许多大语言模型(LLM)表现出的异常行为和问题，其实都源于标记化(tokenization)这一环节。我们会针对这些问题进行详细讨论，探究标记化为何成为问题的关键所在，以及为什么最理想的情况是有人能够找到办法，完全去除这一处理阶段。 字幕及视频下载：