面壁智能开源业内首个端侧大模型工具集 MobileCPM

面壁智能开源业内首个端侧大模型工具集 MobileCPM 7 月 5 日,在 WAIC2024 “模型即服务(Mass)加速大模型应用落地” 论坛上,面壁智能发布新一代高效稀疏架构大模型 MiniCPM-S。同时,面壁智能开源了业内首个端侧大模型工具集 “MobileCPM”,包含开源端侧大模型、SDK 开发套件以及翻译、摘要等意图,可降低开发门槛,更灵活定制大模型 App,帮助开发者提高集成大模型到 APP 的效率。目前,MobileCPM 已默认集成 MiniCPM-S。

相关推荐

封面图片

开放麒麟发布AIPC版本:支持端侧大模型

开放麒麟发布AIPC版本:支持端侧大模型 openKylin for AIPC版本与AI技术深度融合,提供了统一的AI接口能力,与桌面环境无缝集成,并推出包括AI助手、智能文生图、智能模糊搜索等在内的一系列智能化功能,有望极大提升用户在国产操作系统上的办公效率和创作体验。特别通过应用端侧大模型技术,将硬件和软件的深度集成,用户能够在本地独立运行复杂的AI任务无需依赖云端计算资源,从根本上改变和重塑用户体验。据悉,开放麒麟1.0版本在去年7月份正式发布,是我国首个开源桌面操作系统,标志着我国拥有了操作系统组件自主选型、操作系统独立构建的能力。系统适配支持X86、ARM、RISC-V三个架构的个人电脑、平板电脑及教育开发板。 ... PC版: 手机版:

封面图片

最近一个被称为「ChatGPT Plugins国产替代系统」的开源项目在GitHub上星标猛增,该叫BMTools,面壁智能

最近一个被称为「ChatGPT Plugins国产替代系统」的开源项目在GitHub上星标猛增,该项目叫BMTools,面壁智能自研的大模型工具学习引擎。|| 面壁智能联合来自清华、人大、腾讯的研究人员共同发布了中文领域首个基于交互式网页搜索的问答开源模型WebCPM,这一创举填补了国产大模型该领域的空白。面壁智能自研工具学习引擎BMTools也因此被成功实践。 BMTools的重要场景,就是使用搜索引擎,开源版本 WebCPM 工作最近已被 ACL 2023 录用 ||

封面图片

昆仑万维宣布Opera浏览器接入端侧AI大模型

昆仑万维宣布Opera浏览器接入端侧AI大模型 昆仑万维表示,即日起,端侧AI大模型将被正式集成进Opera浏览器旗舰产品中,覆盖Windows、MacOS和Linux等全部设备。据介绍,2024年4月,Opera已通过AI Feature Drops计划,在Opera开发者版浏览器中引入了端侧AI访问功能,成为全球第一个引入本地AI模型访问功能的浏览器。此后,Opera在浏览器中陆续集成了超过60个大模型家族系列、超过2000个本地大型语言模型变体,让用户能够通过浏览器内置功能轻松访问和管理本地大模型。值得一提的是,本周起,Opera原生浏览器AI助手Aria将新增AI图像理解与图像问答功能。用户可在侧边栏聊天中上传图片给Aria,并向其询问有关图像的问题,Aria将理解图像内容,并围绕图像及相关背景信息为用户提供答案。相关文章:Opera的Aria人工智能助手现在可以在Android上总结网页内容Opera与Google达成合作 将Gemini人工智能引入其浏览器 ... PC版: 手机版:

封面图片

国内首个类ChatGPT模型MOSS将于三月底开源

国内首个类ChatGPT模型MOSS将于三月底开源 根据邱锡鹏近日在2023年世界人工智能开发者先锋大会上的说法,如果优化一切顺利,团队将在三月底开源MOSS。 据悉,MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。 不过,现阶段MOSS在中文水平上仍有所欠缺。 根据开发团队说法,这一情况的出现,是由于互联网上中文内容中,如广告等干扰信息过多,清理难度过大导致的。 这也使得团队在演示时,选择使用英文输入指令,展示了MOSS多轮交互、表格生成、代码生成和解释能力。

封面图片

中国发布首个支持30种方言混说语音大模型

中国发布首个支持30种方言混说语音大模型 中国运营商发布首个支持30种方言混说语音大模型。 综合中新社和《证券时报》报道,中国电信人工智能研究星期六(5月25日)在第七届数字中国建设峰会上,发布业内首个支持30种方言自由混说的语音识别大模型星辰超多方言语音识别大模型,打破单一模型只能识别特定单一方言的困境。 该大模型可识别理解粤语、上海话、四川话、温州话等30多种方言,是中国支持最多方言的语音识别大模型。 星辰语音大模型也是业内首个开源的基于离散语音表征的语音识别大模型,通过“从语音到token再到文本”的建模新范式,将推理时语音传输比特率降低数十倍。 目前,星辰语音大模型已在福建、江西、广西、北京、内蒙等地的中国电信万号智能客服试点应用。接入星辰大模型以后,智能客服秒懂30种方言,实现日均处理约200万通电话。 2024年5月26日 10:01 PM

封面图片

端侧模型 + 硬件会是 AI 爆发的下一个机会吗?

端侧模型 + 硬件会是 AI 爆发的下一个机会吗? 段小草的回答 我觉得端侧模型 + 硬件会是下一个机会。 首先还是澄清一下概念,端侧模型应该是相对于云端模型而言的,可以在硬件设备本地运行的模型。端侧模型不一定是开源模型,比如苹果在打算在 iPhone 上内置的 AI 模型 Apple Intelligence,就并不开源: 又或者谷歌在 Chrome 浏览器中内置的 Gemini-nano[1]: 当然,很多开源的小模型只要可以自行在消费级设备上部署,也可以看作端侧模型,比如面壁智能的可以在手机上运行的 MiniCPM。 AI 硬件,则是指广泛的消费级的硬件,而非专业的数据中心计算硬件。在我的理解上,AI 硬件大体上又可以分为 AI PC、AI 手机和其他新形态的 AI 硬件(比如一些可穿戴的、或者新交互方式的 AI 硬件)。比如这张图中所展示的[2]: 端侧模型和 AI 硬件结合在一起,我觉得主要有三方面优势: ● 隐私:隐私和数据安全显然是端侧模型最明显最直接的优势,特别是在个人信息、内部资料、数据分析方面,用户会倾向于使用可控的本地模型。 ● 成本:虽然现在很多 AI 应用都是免费的,但 API 并不免费,某种意义上讲,端侧模型激活了边缘算力,其实降低了 AI 调用的成本。 ● 普及:端侧模型 + AI 硬件的方式,有可能会给带来新的破圈的机会,让之前没有接触 AI 的普通人有机会用到 AI 工具和 AI 能力。 我甚至会觉得,第三点才是最重要的原因。我最近一段时间写 AI 话题,遇到最大的困扰就是,即便圈内已经非常火热的话题,在普通人眼中,要么是冷漠不关心,要么是质疑加嘲讽。 这里面当然有一部分人是了解过用过之后觉得空炒概念,但还有相当一部分人实际上没有自己用过,只是看了一些更反智和煽动的话语就给先入为主地觉得 AI 没有用。 对于这部分人来说,他们大概不会去主动注册或者使用 AI 应用,但如果 AI 润物无声地进入 PC、手机,提供更简洁方便的使用体验,相当于喂饭级功能,也许会大大增加 AI 的普及程度。 via 知乎热榜 (author: 段小草)

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人