英特尔在整个CPU和GPU产品组合中为微软Phi-3 AI模型做好了准备

英特尔在整个CPU和GPU产品组合中为微软Phi-3 AI模型做好了准备 在讨论细节之前,我们先来看看微软的 Phi-3 开放模型系列。该公司的新 GenAI 模型侧重于在更小、更高效的层面上提供功能,偏离了行业规范。有了Phi-3,我们可以看到小语言模型(SLM)的出现,它是处理能力有限的低功耗设备的理想选择。英特尔已成为首批在其产品阵容中支持 SLM 的硬件制造商之一,现在英特尔的 Gaudi AI 加速器、至强和酷睿 Ultra CPU 以及英特尔的 Arc GPU(独立和集成)都已优化,以支持微软的 Phi-3 型号。英特尔公司副总裁兼数据中心与人工智能软件部总经理 Pallavi Mahajan 介绍说:"我们利用业内最新的人工智能模型和软件,为客户和开发人员提供强大的人工智能解决方案。与人工智能软件生态系统中的其他领导者(如微软)积极合作,是让人工智能无处不在的关键。我们很荣幸能与微软密切合作,确保英特尔硬件(涵盖数据中心、边缘和客户端)积极支持几种新的Phi-3模型。"微软发布了多个 Phi-3 GenAI 模型,并根据各自的参数进行了分类。这些型号包括迷你型、小型和中型;有趣的是,英特尔展示了其所有开放型号产品的性能。从英特尔第六代至强 CPU(Granite Rapids)开始,该公司对 Phi-3 中型 4k 和 128k 变体进行了基准测试,与第五代至强(Emerald Rapids)相比,该平台的性能提高了 2 倍。谈到英特尔的酷睿Ultra CPU平台,该公司表示,Phi-3型号将催化边缘人工智能进程,并将提供"个性化和响应速度"等多项优势。为此,该公司用英特尔酷睿 Ultra 7 165H 对 Phi-3 mini 机型进行了测试,板载的独立 GPU 为 Arc A770,基准测试确实显示出令人印象深刻的性能和词元生成延迟。微软Phi-3人工智能模型的首次亮相确实将为个性化人工智能计算时代打开新的大门,而凭借现代处理器所拥有的性能,运行这样的模型完全不是问题。 ... PC版: 手机版:

相关推荐

封面图片

微软推出其规模最小的人工智能模型 Phi-3

微软推出其规模最小的人工智能模型 Phi-3 微软推出了其轻量级人工智能模型 Phi-3 Mini 的下一个版本,这是该公司计划发布的三款小型模型中的第一款。Phi-3 Mini 可测量 38 亿个参数,其训练数据集比 GPT-4 等大型语言模型要小。现在可在 Azure、Hugging Face 和 Ollama 上使用。微软计划发布 Phi-3 Small (7B 参数) 和 Phi-3 Medium (14B 参数)。参数指的是模型能理解多少复杂指令。与大型人工智能模型相比,小型人工智能模型通常运行成本更低,并且在手机和笔记本电脑等个人设备上表现更好。

封面图片

微软推出小型 AI 模型 Phi-3-mini

微软推出小型 AI 模型 Phi-3-mini 微软公布了一种低成本的小型人工智能模型 Phi-3-mini,该模型可以在使用更少量数据的情况下执行内容创建和社交媒体帖子等任务。微软表示,Phi-3-mini 在各种评估语言、编码和数学能力的基准测试中,它的表现可以超过两倍于它的模型。 来源:财经慢报频道

封面图片

微软推出其规模最小的人工智能模型 Phi-3

微软推出其规模最小的人工智能模型 Phi-3 该公司于 12 月发布了 Phi-2,其性能与 Llama 2 等更大的型号不相上下。微软表示,Phi-3 的性能比前一版本更好,其响应速度接近比它大 10 倍的机型。微软Azure人工智能平台公司副总裁埃里克-博伊德(Eric Boyd)介绍说,Phi-3 Mini的性能与GPT-3.5等LLM不相上下,"只是外形尺寸更小而已"。与体积较大的同类,小型人工智能模型的运行成本通常更低,在手机和笔记本电脑等个人。据 The Information今年早些时候报道,微软正在组建一个专门研究轻量级人工智能模型的团队。 除了 Phi,该公司还建立了一个专注于解决数学问题的模型Orca-Math。微软的竞争对手也有自己的小型人工智能模型,它们大多针对文档摘要或编码辅助等较简单的任务。Google的 Gemma 2B 和 7B适合简单的聊天机器人和语言相关工作。Anthropic 的 Claude 3 Haiku可以阅读带图表的高密度研究论文并快速总结,而Meta 最近发布的 Llama 3 8B可能会用于一些聊天机器人和编码辅助工作。博伊德说,开发人员用"课程"来训练 Phi-3。他们的灵感来自于儿童是如何从睡前故事、单词较简单的书籍以及谈论较大主题的句子结构中学习的。Phi-3 只是在前几个迭代学习的基础上更进一步。Phi-1 专注于编码,Phi-2 开始学习推理,而 Phi-3 则更擅长编码和推理。虽然Phi-3系列模型知道一些常识,但它在广度上无法击败GPT-4或其他LLM从一个在整个互联网上接受过训练的LLM和一个像Phi-3这样的小型模型中得到的答案差别很大。Boyd 说,公司经常发现,像 Phi-3 这样的小型机型更适合他们的定制应用,因为对于很多公司来说,他们的内部数据集无论如何都会偏小。而且,由于这些型号使用的计算能力较低,它们的价格往往要低得多。 ... PC版: 手机版:

封面图片

英特尔为微软背书:加入Copilot按键是人工智能PC的必要条件

英特尔为微软背书:加入Copilot按键是人工智能PC的必要条件 微软希望其 OEM 合作伙伴为其人工智能 PC 的构想提供硬件和软件的组合。这包括配备神经处理单元(NPU)、最新 CPU 和 GPU 以及 Copilot 访问权限的系统。它还需要有微软今年早些时候宣布的新 Copilot 按键。这一要求意味着,一些笔记本电脑(如华硕的新款 ROG Zephyrus)已经搭载了英特尔的新款酷睿 Ultra 芯片,但在微软的严格要求下,它们在技术上还并不算是人工智能电脑,因为它们没有 Copilot 按键。但在英特尔眼中,它们仍然是人工智能电脑。"英特尔和微软联合定义,我们在Core Ultra、Copilot和Copilot key上达成了一致,"英特尔PC生态系统负责人托德-卢韦伦(Todd Lewellen)在新闻发布会上解释道。"从英特尔的角度来看,我们的 AI PC 配备了 Core Ultra,并且集成了 NPU,因为它可以释放 AI 领域的各种新能力和功能。我们与微软有很好的合作关系,但会有一些系统可能没有物理按键,但它确实集成了我们的 NPU。"我相信英特尔和微软都希望 OEM 厂商能够遵守微软的要求,逐步增加 Copilot 键。戴尔在今年早些时候的 CES 上就在其键盘上贴上了 Copilot 贴纸,这表明微软的 Copilot 键可能是 CES 计划中的一个迟来的附加功能。不过,目前还不清楚 OEM 厂商遵守微软自己的 AI PC 定义会得到什么回报。但该公司尚未讨论其 AI PC 计划。本月早些时候,微软确实在其最新的Surface Pro 10 和 Surface Laptop 6 等面向企业的设备上打上了 AI PC 的烙印,但是否会为笔记本电脑提供贴纸或为 OEM 提供额外的营销预算,目前还不清楚。除了 AI PC 要求之外,英特尔还在扩大其 10 月份推出的 AI PC 加速计划。该计划旨在让软件开发人员对其应用程序的人工智能功能产生兴趣,现在正通过人工智能 PC 开发人员计划扩展到小型开发人员。英特尔将在全年举办各种活动,提供动手实践时间,帮助开发人员习惯使用人工智能模型和工具,甚至还有一个人工智能 PC 硬件开发套件,实质上就是一个华硕 NUC Pro 14,里面预装了软件、驱动程序和开发工具。希望这种对开发者的关注能转化为更多的应用程序利用这种新的 NPU 硬件。目前,能利用 NPU 的应用程序还不多,微软的 Windows Studio Effects 可以模糊视频通话中的背景,并保持目光接触,这是目前 Windows 内 NPU 的主要用途。英特尔还针对硬件供应商推出了人工智能 PC 加速计划,试图让他们为英特尔的人工智能 PC 优化和启用硬件。从本质上讲,这是一场英特尔与软件和硬件开发商的竞赛,目的是在这些人工智能个人电脑推出时,让尽可能多的软件和硬件开发商站在英特尔一边,对应用程序和硬件进行优化。这场竞赛的对手是高通公司(Qualcomm),后者今年即将推出一轮骁龙 X Elite 笔记本电脑,可能会为 Windows on Arm 带来性能上的巨大飞跃。Google在本周发布了针对Arm平台Windows的Chrome浏览器优化版,这一重大改变将大大改善Chrome用户在高通Windows笔记本电脑上的使用体验。据传,微软的消费版Surface Pro 10 和 Surface Laptop 6 也将完全采用 Arm 技术。微软将于 5 月 20 日举行人工智能和 Surface 大会,届时首席执行官萨蒂亚-纳德拉(Satya Nadella)将概述公司在人工智能硬件和软件方面的愿景。 ... PC版: 手机版:

封面图片

微软发布全新多模态人工智能小语种模型Phi-3-vision

微软发布全新多模态人工智能小语种模型Phi-3-vision 新模型名为 Phi-3-vision,顾名思义,这种 SML 不仅可以处理文本提示,还可以接受图像和文本提示来生成问题答案。微软表示,使用这种模式的人可以获得有关他们提交的图表的问题答案,也可以就 Phi-3-vision 模式接收到的图像提出任何开放式问题。Phi-3-vision 包括 42 亿个参数,比 38 亿个参数的 Phi-3 迷你模式大,但比 70 亿个参数的 Phi-3 小型模式和 140 亿个参数的 Phi-3 中型模式小得多。微软表示,Phi-3-vision 可以回答有关"一般视觉推理任务以及图表、图形和表格推理"的问题。新的Phi-3-vision模型目前是预览版,但还不知道何时会全面上市。不过,Phi-3 Mini、Phi-3 Small 和 Phi-3 Medium 现在都可以通过微软的 Azure AI 模型即服务进行访问。在 Build 2024 的相关新闻中,微软表示 Azure AI Studio 现已全面可用。该公司表示:pro-code 平台支持负责任的生成式人工智能开发,包括开发协同驾驶员,以支持复杂的应用程序和任务,如内容生成、数据分析、项目管理、日常任务自动化等。该公司表示,Azure AI Studio 支持"代码优先"功能和"友好的用户界面",因此开发人员可以选择如何在自己的编码项目中使用这些工具。微软还宣布,OpenAI 的最新大型语言模型ChatGPT-4o 现在可以通过 Azure AI Studio 和 API 普遍使用。 ... PC版: 手机版:

封面图片

到2025年 英特尔将为人工智能PC提供多达"1亿颗"CPU

到2025年 英特尔将为人工智能PC提供多达"1亿颗"CPU 英特尔已决定利用这一点,该公司的副总裁宣布了到 2025 年交付超过 1 亿台 AI PC 的重大计划。英特尔客户端计算集团副总裁David Feng透露,该公司计划今年打造4000万台人工智能个人电脑,到2025年再提供6000万台,这显示了公司对这一领域的乐观态度。这背后的原因是,参与人工智能竞赛的科技公司正朝着开发边缘人工智能(Edge AI)的方向发展。边缘人工智能是指直接在智能手机等设备上部署人工智能算法和模型(离线/本地处理),而不是在云或数据中心上部署,因为它更高效,而且更适合面向消费者的应用。很久以前,英特尔就希望通过人工智能实现个人电脑行业的增长,当时该公司推出了最先进的 Meteor Lake 系列产品,其中包括用于人工智能相关应用的专用 NPU(神经处理单元)。此外,预计该公司还将通过其LunarLake 和Arrow LakeSKU 为人工智能计算带来重大的世代进步。因此,边缘人工智能将变得更加有能力,这也是为什么制造商们对 AI PC 领域持极大乐观态度的原因。由于业界发布的新产品阵容没有发生"重大"变化,消费者正在避免参与升级周期,但这种情况在未来会有所改变,因为人工智能功能正在被整合到当前的产品中,这可能会迫使潜在客户购买人工智能个人电脑,最终推动个人电脑销量的增长。据报道,由于人工智能个人电脑在市场上的首次亮相,全球个人电脑出货量在2024年将达到2.67亿台,实现巨大的环比增长。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人