微软:Phi-2 模型性能优于竞争对手 可在设备上运行

微软:Phi-2模型性能优于竞争对手可在设备上运行微软周二表示,其人工智能模型Phi-2的性能好于Meta等其他公司的竞争产品,并且能够在设备上运行。微软在一篇博客中表示:“Phi-2模型仅有27个参数,但在各种综合基准测试中,它的表现超过了欧洲AI初创公司Mistral旗下拥有70亿个参数的大语言模型(LLM)Mistral7B、以及Meta发布的参数达130亿个的AI模型Llama2。”“值得注意的是,Phi-2模型在多步推理任务(即编码和数学)上的表现优于参数达700亿的Llama2(Llama2模型系列包含70亿、130亿和700亿三种参数变体)。”

相关推荐

封面图片

微软:Phi-2模型性能优于竞争对手 可在设备上运行

微软:Phi-2模型性能优于竞争对手可在设备上运行“值得注意的是,Phi-2模型在多步推理任务(即编码和数学)上的表现优于参数达700亿的Llama2(Llama2模型系列包含70亿、130亿和700亿三种参数变体)。”微软补充称:“此外,Phi-2模型的性能与最近发布的谷歌GeminiNano2相当、甚至更好,尽管模型规模较小。”微软表示,Phi-2模型将在AzureStudio中推出。据悉,微软于今年6月发布只有13亿参数的Phi-1模型,适用于QA问答、聊天格式和代码等等场景。该模型完全基于高质量数据进行训练,在基准测试中的表现比同类模型高出10倍。微软今年9月更新发布了Phi-1.5版本,同样为13亿参数,可以写诗、写电子邮件和故事,以及总结文本。在常识、语言理解和推理的基准测试中,该模型在某些领域能够跟上多达100亿个参数的模型。微软在11月更新发布的Phi-2规模虽然比此前版本翻番,但相比较其它主流语言模型依然小很多。微软表示,Phi-2在逻辑推理和安全性方面显示出显著的改进,通过正确的微调和定制,小型语言模型是云和边缘应用程序的强大工具。...PC版:https://www.cnbeta.com.tw/articles/soft/1404019.htm手机版:https://m.cnbeta.com.tw/view/1404019.htm

封面图片

Microsoft准备推出更大更强的紧凑型语言模型Phi-2

Microsoft准备推出更大更强的紧凑型语言模型Phi-2Microsoft最近在其研究博客中宣布,其最新的紧凑型“小型语言模型”Phi-2,相比于前代产品Phi1.5大小增大了一倍,但性能依然出色。Phi-2是微软Phi模型系列中的最新成员,这些模型专注于使用仅包含“教科书质量”般的更小数据集进行训练。微软表示,尽管Phi-2的数据规模较小,但它在性能上与某些更大的开源Llama2模型相当,甚至会更好,其中一些模型拥有高达130亿参数。投稿:@TNSubmbot频道:@TestFlightCN

封面图片

微软推出其规模最小的人工智能模型 Phi-3

微软推出其规模最小的人工智能模型Phi-3该公司于12月发布了Phi-2,其性能与Llama2等更大的型号不相上下。微软表示,Phi-3的性能比前一版本更好,其响应速度接近比它大10倍的机型。微软Azure人工智能平台公司副总裁埃里克-博伊德(EricBoyd)介绍说,Phi-3Mini的性能与GPT-3.5等LLM不相上下,"只是外形尺寸更小而已"。与体积较大的同类,小型人工智能模型的运行成本通常更低,在手机和笔记本电脑等个人。据TheInformation今年早些时候报道,微软正在组建一个专门研究轻量级人工智能模型的团队。除了Phi,该公司还建立了一个专注于解决数学问题的模型Orca-Math。微软的竞争对手也有自己的小型人工智能模型,它们大多针对文档摘要或编码辅助等较简单的任务。Google的Gemma2B和7B适合简单的聊天机器人和语言相关工作。Anthropic的Claude3Haiku可以阅读带图表的高密度研究论文并快速总结,而Meta最近发布的Llama38B可能会用于一些聊天机器人和编码辅助工作。博伊德说,开发人员用"课程"来训练Phi-3。他们的灵感来自于儿童是如何从睡前故事、单词较简单的书籍以及谈论较大主题的句子结构中学习的。Phi-3只是在前几个迭代学习的基础上更进一步。Phi-1专注于编码,Phi-2开始学习推理,而Phi-3则更擅长编码和推理。虽然Phi-3系列模型知道一些常识,但它在广度上无法击败GPT-4或其他LLM--从一个在整个互联网上接受过训练的LLM和一个像Phi-3这样的小型模型中得到的答案差别很大。Boyd说,公司经常发现,像Phi-3这样的小型机型更适合他们的定制应用,因为对于很多公司来说,他们的内部数据集无论如何都会偏小。而且,由于这些型号使用的计算能力较低,它们的价格往往要低得多。...PC版:https://www.cnbeta.com.tw/articles/soft/1428349.htm手机版:https://m.cnbeta.com.tw/view/1428349.htm

封面图片

帮开发者构建生成式 AI 应用,Meta 和微软合作推出开源模型 Llama 2

帮开发者构建生成式AI应用,Meta和微软合作推出开源模型Llama2Meta和微软近日合作推出Llama2,这是Meta公司的下一代开源大型语言模型,可以免费用于研究和商业用途。微软在新闻稿中表示,Llama2旨在帮助开发者和组织,构建生成式人工智能工具和体验。Azure客户可以在Azure平台上更轻松、更安全地微调和部署7B、13B和70B参数的Llama2模型,此外通过优化可以在Windows本地运行。Llama2模型与AzureAI的结合使开发人员能够利用AzureAI的强大工具进行模型训练、微调、推理,特别是支持AI安全的功能。微软表示在Windows中加入Llama2模型,有助于推动Windows成为开发人员根据客户需求构建人工智能体验的最佳场所,并释放他们使用WindowsSubsystemforLinux(WSL)、Windows终端、MicrosoftVisualStudio和VSCode等世界级工具进行构建的能力。——、、

封面图片

微软研究院发布了Orca 2 LLM 其性能可媲美大语言模型

微软研究院发布了Orca2LLM其性能可媲美大语言模型微软在一篇博文中表示,Orca2是专为小规模LM设计的,但仍可用于回答LLM等复杂问题。Orca2有两种大小(70亿和130亿个参数),部分是利用今年早些时候微软帮助Meta推出的Llama2LLM制作的。该公司"根据量身定制的高质量合成数据"对基于Llama2的模型进行了微调。微软表示,这使得Orca2模型在处理问题时能够与其他"5-10倍大"的语言模型相媲美:Orca2使用扩展的、高度定制的合成数据集进行训练。这些训练数据的生成,向Orca2传授了各种推理技术,如逐步处理法、回忆然后生成法、回忆-推理-生成法、提取-生成法和直接回答法,同时还教会它针对不同的任务选择不同的解决策略。Orca2模型与Llama2和WizardLM等大型语言模型进行了一系列基准测试,测试内容包括"语言理解、常识推理、多步骤推理、数学问题解决、阅读理解"等。微软官方博客称:我们的初步测试结果表明,Orca2的性能大大超越了类似规模的模型。它还达到了类似或优于至少比它大10倍的模型的性能水平,展示了为更小的模型配备更好的推理能力的潜力。虽然微软承认Orca2确实存在局限性,但迄今为止的测试显示了"未来进步的潜力"。微软将把Orca2作为一个开源项目发布,以便其他人也能对其进行开发。...PC版:https://www.cnbeta.com.tw/articles/soft/1398829.htm手机版:https://m.cnbeta.com.tw/view/1398829.htm

封面图片

微软发布全新多模态人工智能小语种模型Phi-3-vision

微软发布全新多模态人工智能小语种模型Phi-3-vision新模型名为Phi-3-vision,顾名思义,这种SML不仅可以处理文本提示,还可以接受图像和文本提示来生成问题答案。微软表示,使用这种模式的人可以获得有关他们提交的图表的问题答案,也可以就Phi-3-vision模式接收到的图像提出任何开放式问题。Phi-3-vision包括42亿个参数,比38亿个参数的Phi-3迷你模式大,但比70亿个参数的Phi-3小型模式和140亿个参数的Phi-3中型模式小得多。微软表示,Phi-3-vision可以回答有关"一般视觉推理任务以及图表、图形和表格推理"的问题。新的Phi-3-vision模型目前是预览版,但还不知道何时会全面上市。不过,Phi-3Mini、Phi-3Small和Phi-3Medium现在都可以通过微软的AzureAI模型即服务进行访问。在Build2024的相关新闻中,微软表示AzureAIStudio现已全面可用。该公司表示:pro-code平台支持负责任的生成式人工智能开发,包括开发协同驾驶员,以支持复杂的应用程序和任务,如内容生成、数据分析、项目管理、日常任务自动化等。该公司表示,AzureAIStudio支持"代码优先"功能和"友好的用户界面",因此开发人员可以选择如何在自己的编码项目中使用这些工具。微软还宣布,OpenAI的最新大型语言模型ChatGPT-4o现在可以通过AzureAIStudio和API普遍使用。...PC版:https://www.cnbeta.com.tw/articles/soft/1431802.htm手机版:https://m.cnbeta.com.tw/view/1431802.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人