英特尔在整个CPU和GPU产品组合中为微软Phi-3 AI模型做好了准备

英特尔在整个CPU和GPU产品组合中为微软Phi-3 AI模型做好了准备 在讨论细节之前,我们先来看看微软的 Phi-3 开放模型系列。该公司的新 GenAI 模型侧重于在更小、更高效的层面上提供功能,偏离了行业规范。有了Phi-3,我们可以看到小语言模型(SLM)的出现,它是处理能力有限的低功耗设备的理想选择。英特尔已成为首批在其产品阵容中支持 SLM 的硬件制造商之一,现在英特尔的 Gaudi AI 加速器、至强和酷睿 Ultra CPU 以及英特尔的 Arc GPU(独立和集成)都已优化,以支持微软的 Phi-3 型号。英特尔公司副总裁兼数据中心与人工智能软件部总经理 Pallavi Mahajan 介绍说:"我们利用业内最新的人工智能模型和软件,为客户和开发人员提供强大的人工智能解决方案。与人工智能软件生态系统中的其他领导者(如微软)积极合作,是让人工智能无处不在的关键。我们很荣幸能与微软密切合作,确保英特尔硬件(涵盖数据中心、边缘和客户端)积极支持几种新的Phi-3模型。"微软发布了多个 Phi-3 GenAI 模型,并根据各自的参数进行了分类。这些型号包括迷你型、小型和中型;有趣的是,英特尔展示了其所有开放型号产品的性能。从英特尔第六代至强 CPU(Granite Rapids)开始,该公司对 Phi-3 中型 4k 和 128k 变体进行了基准测试,与第五代至强(Emerald Rapids)相比,该平台的性能提高了 2 倍。谈到英特尔的酷睿Ultra CPU平台,该公司表示,Phi-3型号将催化边缘人工智能进程,并将提供"个性化和响应速度"等多项优势。为此,该公司用英特尔酷睿 Ultra 7 165H 对 Phi-3 mini 机型进行了测试,板载的独立 GPU 为 Arc A770,基准测试确实显示出令人印象深刻的性能和词元生成延迟。微软Phi-3人工智能模型的首次亮相确实将为个性化人工智能计算时代打开新的大门,而凭借现代处理器所拥有的性能,运行这样的模型完全不是问题。 ... PC版: 手机版:

相关推荐

封面图片

微软推出其规模最小的人工智能模型 Phi-3

微软推出其规模最小的人工智能模型 Phi-3 微软推出了其轻量级人工智能模型 Phi-3 Mini 的下一个版本,这是该公司计划发布的三款小型模型中的第一款。Phi-3 Mini 可测量 38 亿个参数,其训练数据集比 GPT-4 等大型语言模型要小。现在可在 Azure、Hugging Face 和 Ollama 上使用。微软计划发布 Phi-3 Small (7B 参数) 和 Phi-3 Medium (14B 参数)。参数指的是模型能理解多少复杂指令。与大型人工智能模型相比,小型人工智能模型通常运行成本更低,并且在手机和笔记本电脑等个人设备上表现更好。

封面图片

微软推出小型 AI 模型 Phi-3-mini

微软推出小型 AI 模型 Phi-3-mini 微软公布了一种低成本的小型人工智能模型 Phi-3-mini,该模型可以在使用更少量数据的情况下执行内容创建和社交媒体帖子等任务。微软表示,Phi-3-mini 在各种评估语言、编码和数学能力的基准测试中,它的表现可以超过两倍于它的模型。 来源:财经慢报频道

封面图片

微软推出其规模最小的人工智能模型 Phi-3

微软推出其规模最小的人工智能模型 Phi-3 该公司于 12 月发布了 Phi-2,其性能与 Llama 2 等更大的型号不相上下。微软表示,Phi-3 的性能比前一版本更好,其响应速度接近比它大 10 倍的机型。微软Azure人工智能平台公司副总裁埃里克-博伊德(Eric Boyd)介绍说,Phi-3 Mini的性能与GPT-3.5等LLM不相上下,"只是外形尺寸更小而已"。与体积较大的同类,小型人工智能模型的运行成本通常更低,在手机和笔记本电脑等个人。据 The Information今年早些时候报道,微软正在组建一个专门研究轻量级人工智能模型的团队。 除了 Phi,该公司还建立了一个专注于解决数学问题的模型Orca-Math。微软的竞争对手也有自己的小型人工智能模型,它们大多针对文档摘要或编码辅助等较简单的任务。Google的 Gemma 2B 和 7B适合简单的聊天机器人和语言相关工作。Anthropic 的 Claude 3 Haiku可以阅读带图表的高密度研究论文并快速总结,而Meta 最近发布的 Llama 3 8B可能会用于一些聊天机器人和编码辅助工作。博伊德说,开发人员用"课程"来训练 Phi-3。他们的灵感来自于儿童是如何从睡前故事、单词较简单的书籍以及谈论较大主题的句子结构中学习的。Phi-3 只是在前几个迭代学习的基础上更进一步。Phi-1 专注于编码,Phi-2 开始学习推理,而 Phi-3 则更擅长编码和推理。虽然Phi-3系列模型知道一些常识,但它在广度上无法击败GPT-4或其他LLM从一个在整个互联网上接受过训练的LLM和一个像Phi-3这样的小型模型中得到的答案差别很大。Boyd 说,公司经常发现,像 Phi-3 这样的小型机型更适合他们的定制应用,因为对于很多公司来说,他们的内部数据集无论如何都会偏小。而且,由于这些型号使用的计算能力较低,它们的价格往往要低得多。 ... PC版: 手机版:

封面图片

英特尔为微软背书:加入Copilot按键是人工智能PC的必要条件

英特尔为微软背书:加入Copilot按键是人工智能PC的必要条件 微软希望其 OEM 合作伙伴为其人工智能 PC 的构想提供硬件和软件的组合。这包括配备神经处理单元(NPU)、最新 CPU 和 GPU 以及 Copilot 访问权限的系统。它还需要有微软今年早些时候宣布的新 Copilot 按键。这一要求意味着,一些笔记本电脑(如华硕的新款 ROG Zephyrus)已经搭载了英特尔的新款酷睿 Ultra 芯片,但在微软的严格要求下,它们在技术上还并不算是人工智能电脑,因为它们没有 Copilot 按键。但在英特尔眼中,它们仍然是人工智能电脑。"英特尔和微软联合定义,我们在Core Ultra、Copilot和Copilot key上达成了一致,"英特尔PC生态系统负责人托德-卢韦伦(Todd Lewellen)在新闻发布会上解释道。"从英特尔的角度来看,我们的 AI PC 配备了 Core Ultra,并且集成了 NPU,因为它可以释放 AI 领域的各种新能力和功能。我们与微软有很好的合作关系,但会有一些系统可能没有物理按键,但它确实集成了我们的 NPU。"我相信英特尔和微软都希望 OEM 厂商能够遵守微软的要求,逐步增加 Copilot 键。戴尔在今年早些时候的 CES 上就在其键盘上贴上了 Copilot 贴纸,这表明微软的 Copilot 键可能是 CES 计划中的一个迟来的附加功能。不过,目前还不清楚 OEM 厂商遵守微软自己的 AI PC 定义会得到什么回报。但该公司尚未讨论其 AI PC 计划。本月早些时候,微软确实在其最新的Surface Pro 10 和 Surface Laptop 6 等面向企业的设备上打上了 AI PC 的烙印,但是否会为笔记本电脑提供贴纸或为 OEM 提供额外的营销预算,目前还不清楚。除了 AI PC 要求之外,英特尔还在扩大其 10 月份推出的 AI PC 加速计划。该计划旨在让软件开发人员对其应用程序的人工智能功能产生兴趣,现在正通过人工智能 PC 开发人员计划扩展到小型开发人员。英特尔将在全年举办各种活动,提供动手实践时间,帮助开发人员习惯使用人工智能模型和工具,甚至还有一个人工智能 PC 硬件开发套件,实质上就是一个华硕 NUC Pro 14,里面预装了软件、驱动程序和开发工具。希望这种对开发者的关注能转化为更多的应用程序利用这种新的 NPU 硬件。目前,能利用 NPU 的应用程序还不多,微软的 Windows Studio Effects 可以模糊视频通话中的背景,并保持目光接触,这是目前 Windows 内 NPU 的主要用途。英特尔还针对硬件供应商推出了人工智能 PC 加速计划,试图让他们为英特尔的人工智能 PC 优化和启用硬件。从本质上讲,这是一场英特尔与软件和硬件开发商的竞赛,目的是在这些人工智能个人电脑推出时,让尽可能多的软件和硬件开发商站在英特尔一边,对应用程序和硬件进行优化。这场竞赛的对手是高通公司(Qualcomm),后者今年即将推出一轮骁龙 X Elite 笔记本电脑,可能会为 Windows on Arm 带来性能上的巨大飞跃。Google在本周发布了针对Arm平台Windows的Chrome浏览器优化版,这一重大改变将大大改善Chrome用户在高通Windows笔记本电脑上的使用体验。据传,微软的消费版Surface Pro 10 和 Surface Laptop 6 也将完全采用 Arm 技术。微软将于 5 月 20 日举行人工智能和 Surface 大会,届时首席执行官萨蒂亚-纳德拉(Satya Nadella)将概述公司在人工智能硬件和软件方面的愿景。 ... PC版: 手机版:

封面图片

微软发布全新多模态人工智能小语种模型Phi-3-vision

微软发布全新多模态人工智能小语种模型Phi-3-vision 新模型名为 Phi-3-vision,顾名思义,这种 SML 不仅可以处理文本提示,还可以接受图像和文本提示来生成问题答案。微软表示,使用这种模式的人可以获得有关他们提交的图表的问题答案,也可以就 Phi-3-vision 模式接收到的图像提出任何开放式问题。Phi-3-vision 包括 42 亿个参数,比 38 亿个参数的 Phi-3 迷你模式大,但比 70 亿个参数的 Phi-3 小型模式和 140 亿个参数的 Phi-3 中型模式小得多。微软表示,Phi-3-vision 可以回答有关"一般视觉推理任务以及图表、图形和表格推理"的问题。新的Phi-3-vision模型目前是预览版,但还不知道何时会全面上市。不过,Phi-3 Mini、Phi-3 Small 和 Phi-3 Medium 现在都可以通过微软的 Azure AI 模型即服务进行访问。在 Build 2024 的相关新闻中,微软表示 Azure AI Studio 现已全面可用。该公司表示:pro-code 平台支持负责任的生成式人工智能开发,包括开发协同驾驶员,以支持复杂的应用程序和任务,如内容生成、数据分析、项目管理、日常任务自动化等。该公司表示,Azure AI Studio 支持"代码优先"功能和"友好的用户界面",因此开发人员可以选择如何在自己的编码项目中使用这些工具。微软还宣布,OpenAI 的最新大型语言模型ChatGPT-4o 现在可以通过 Azure AI Studio 和 API 普遍使用。 ... PC版: 手机版:

封面图片

英特尔18A Panther Lake CPU将于2025年中推出 有望大幅提升AI性能

英特尔18A Panther Lake CPU将于2025年中推出 有望大幅提升AI性能 这一下一代芯片架构看起来是英特尔最近对人工智能计算性能关注的顶峰。Gelsinger做出了一些大胆的宣称,他表示 Panther Lake 的人工智能能力将比今年晚些时候推出的 Arrow Lake 芯片实现翻倍。如果英特尔能实现这样的逐代提升,我们可能会看到一些惊人的人工智能吞吐量数字。继流星湖(Meteor Lake)和箭湖(Arrow Lake)之后,豹湖(Panther Lake)代表了英特尔酷睿 Ultra 系列分解设计的第三次迭代。这种模块化方法将处理组件分割成多个平铺芯片,与公司之前在 Alder Lake 和 Raptor Lake 中使用的混合架构有所不同。向芯片组的转变让英特尔可以更广泛、更大胆地使用以人工智能为重点的组件。Gelsinger表示,公司的"执行引擎"时间表正在全面启动,在短短四年内就有五个新工艺节点投产,这是一个令人难以置信的积极节奏。"英特尔20A为英特尔18A铺平了道路,将于今年下半年与箭湖一起开始量产[......]我们预计将在本季度发布英特尔18A的1.0 PDK。此外,我们的主导产品 Clearwater Forest 和 Panther Lake 已经进入晶圆厂,预计将于 25 年上半年开始在这些产品中量产英特尔 18A,并于明年年中发布产品。"此前,在 2023 年第四季度的财报电话会议上,Gelsinger透露,英特尔正致力于在未来几代产品中将其 x86 处理器的人工智能性能提升多达六倍。如果英特尔真的能如期完成任务,那么这些人工智能加速芯片升级的快节奏就能帮助它在白热化的人工智能军备竞赛中,在与NVIDIA 和 AMD 等竞争对手的竞争中取得关键性的优势。与此同时,英特尔正在大力推动 12 月推出的酷睿 Ultra 系列产品的采用。随着供应紧张的缓解,该公司预计本季度的 CPU 出货量将翻一番。到今年年底,英特尔的目标是在其Meteor Lake、Arrow Lake和Lunar Lake产品堆栈中部署超过4000万台人工智能增强型PC。我们还将看到英特尔推出新的服务器芯片,Sierra Forest Xeon 6 系列基于英特尔 3 工艺,拥有 288 个核心。128 核的 Granite Rapids 将紧随 Sierra Forest 之后,用于数据中心部署。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人