Meta AI 研发能在智能手机上运行的紧凑大模型

Meta AI 研发能在智能手机上运行的紧凑大模型 Meta A 的研究人员正在开发智能手机上运行的紧凑型大模型 MobileLLM。研究人员致力于优化参数规模低于 10 亿的大模型,相比下 OpenAI GPT-4 的参数规模据称超过 1 万亿。研究人员报告利用一系列新技术,MobileLLM 在基准测试任务上的表现比类似规模的模型改进了 2.7%-4.3%,3.5 亿参数规模的 MobileLLM 在某些任务的准确率与 70 亿参数规模的 LLaMA-2 模型相当。这意味着在特定任务上,紧凑型大模型能提供比更大规模大模型相似的能力,同时计算开销更低。 via Solidot

相关推荐

封面图片

Meta 新语言模型能运行在单张显卡上

Meta 新语言模型能运行在单张显卡上 Meta 上周宣布了一个新的大语言模型 LLaMA-13B,称其参数规模更小但性能强于 OpenAI 的 GPT-3 模型,且它能运行在单张显卡上。 语言模型的规模在从 70 亿到 650 亿参数,而 OpenAI GPT-3 模型有 1750 亿个参数。Meta 使用 Common Crawl、维基百科和 C4 等公开数据集训练其模型,它有可能公开其源代码和权重。今天绝大部分最先进的语言模型都没有公开源代码。Meta 称 LLaMA 为其基础模型,它将是未来该公司更先进模型的基础。它的 LLaMA-13B 模型在 BoolQ、PIQA、SIQA、HellaSwag、WinoGrande、ARC 和 OpenBookQA 等标准测试中的表现超过了 GPT-3。GPT-3 等衍生模型需要数据中心规模的计算能力进行处理,而 LLaMA-13B 能运行在单张显卡上,为在消费者硬件上实现类似 ChatGPT 的性能打开了大门。来源 , 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

封面图片

德国电信在MWC上展示智能手机概念:完全依赖AI 不运行任何应用

德国电信在MWC上展示智能手机概念:完全依赖AI 不运行任何应用 德国电信(Deutsche Telekom)在 MWC 2024 上展示了一款不运行任何应用程序的智能手机概念。在演讲中,德国电信公司首席执行官蒂姆-霍伊特吉斯(Tim Hoettges)显得信心十足,他声称 10 年后将不会再有人使用应用程序,并暗示人工智能将处理所有这些工作,这无疑是一个大胆的言论。据悉,德国电信展示的这款概念智能手机拥有一个无应用程序的用户界面,虽然它还没有准备好实际进入通信市场,但它可以实现一些功能。例如,它可以响应提示,推荐旅游目的地,或为智能手机的主人购买产品。其他可以完成的任务包括向联系人发送图片和视频,不过这些功能已经可以由应用程序通过几个单一的步骤来完成。假设所有这些功能都将以语音指令提示的形式完成,那么人工智能模型就需要接受如何准确地向其他收件人发送内容或如何提供搜索结果的训练。 ... PC版: 手机版:

封面图片

高通发布了一段视频,首次展示了在Android智能手机上运行的Stable Diffusion来创建图像。| 对应的模型是FP3

高通发布了一段视频,首次展示了在Android智能手机上运行的Stable Diffusion来创建图像。| 对应的模型是FP32 version 1-5open-source model,通过优化使其在搭载骁龙8Gen2移动平台的手机上运行。可以在15秒内在智能手机上运行Stable Diffusion进行20个推理步骤以生成512x512像素的图像。

封面图片

专为智能手机设计的高性能大型语言模型推理框架,支持高达47B参数的MoE模型,速度高达每秒11.68个token,比现有框架快2

专为智能手机设计的高性能大型语言模型推理框架,支持高达47B参数的MoE模型,速度高达每秒11.68个token,比现有框架快22倍。即使在7B模型上,通过在手机上放置50%的FFN权重,也能保持领先速度 | #框架

封面图片

中国智能手机需求大幅下滑

中国智能手机需求大幅下滑 中国的智能手机需求正在迅速降温,因为新冠疫情的再次爆发削弱了消费者支出,促使包括苹果公司(Apple Inc., AAPL)在内的手机制造商以及芯片制造商在最近几周对这个全球最大的智能手机市场发出警告。 中国工业和信息化部下属的中国信息通信研究院(CAICT)本周的数据显示,中国4月份的智能手机发货量同比下降了34%,至1,770万部。该机构表示,今年头四个月智能手机发货量下降30%,至约8,600万部。 苹果公司曾于4月底警告说,中国新一波新冠疫情可能会使本季度销售额减少多达80亿美元。中国智能手机制造商小米集团(Xiaomi Corp.,)本月表示,其1-3月的智能手机收入比上年同期下降了11%,一定程度上因为中国严格的新冠防控政策导致国内物流紧缩、商店关闭和零部件短缺。 华尔街日报

封面图片

智能手机经济圈笼罩阴影

智能手机经济圈笼罩阴影 智能手机市场的萎缩仍未停止。预计2023年的出货量将低于2022年,创出10年来的最低水平。全球通货膨胀、中国需求低迷、智能手机功能趋于成熟、二手市场也在扩大,在这些背景因素下,更新换代周期延长。智能手机的全球普及率达到76%,增长空间比较小。一直引领各种技术创新的“智能手机经济”正在迎来平台期。 智能手机能否重回增长轨道尚不明朗。虽然也有观点认为,如果积压的库存能够消化,到2023年下半年将会触底,但英国调查公司Omdia的杉山和弘表示,“根据中国经济的动向,也存在走弱的可能性”。村田制作所的会长村田恒夫表示,市场规模要恢复至13亿部,“需要数年时间”,对增长放缓的担忧日益加剧。() 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人