通义大模型落地手机芯片

通义大模型落地手机芯片阿里云与知名半导体公司MediaTek联合宣布,通义千问18亿、40亿参数大模型已成功部署进天玑9300移动平台,可离线流畅运行即时且精准的多轮AI对话应用,连续推理功耗增量不到3W,实现手机AI体验的大幅提升。这是通义大模型首次完成芯片级的软硬适配,仅依靠终端算力便能拥有极佳的推理性能及功耗表现,标志着Model-on-Chip(片上大模型)的探索正式从验证走向商业化落地新阶段。

相关推荐

封面图片

阿里云联发科联手 实现大模型在手机芯片端深度适配

阿里云联发科联手实现大模型在手机芯片端深度适配联发科是全球智能手机芯片出货量最高的半导体公司,2023年第4季度出货超1.17亿部,苹果以7800万出货量位居第二。前不久,阿里通义千问推出免费的文档解析功能,可解析网页、文档、论文、图书,突破当前大模型长文档处理的天花板。针对单个文档,通义千问能够处理超万页的极长资料,换算成中文篇幅约1000万字。针对多个文档,可一键速读100份不同格式的资料,还可解析在线网页。此外,通义千问免费开放1000万字的长文档处理功能,成为全球文档处理容量第一的AI应用。目前通义千问的文档处理容量和能力,已超越ChatGPT等全世界市场上所有的AI应用。...PC版:https://www.cnbeta.com.tw/articles/soft/1425330.htm手机版:https://m.cnbeta.com.tw/view/1425330.htm

封面图片

华尔街见闻3月28日获悉,全球最大的智能手机芯片厂商MediaTek联发科,已成功在天玑9300等旗舰芯片上部署通义千问大模型,

华尔街见闻3月28日获悉,全球最大的智能手机芯片厂商MediaTek联发科,已成功在天玑9300等旗舰芯片上部署通义千问大模型,首次实现大模型在手机芯片端深度适配。通义千问在离线情况下依然可以流畅运行多轮AI对话。阿里云方面表示,将和联发科深度合作,向全球手机厂商提供端侧大模型解决方案。联发科是全球智能手机芯片出货量最高的半导体公司,2023年第4季度出货超1.17亿部,苹果以7800万出货量位居第二。(全天候科技)

封面图片

火山引擎回应阿里通义大模型降价

火山引擎回应阿里通义大模型降价5月21日,阿里云宣布通义千问GPT-4级主力模型降价,对此,火山引擎相关负责人回应称,非常欢迎通义千问大模型降价,共同助力企业以更低成本探索AI转型,加速大模型应用场景落地。据介绍,豆包大模型在大幅降价同时,还为客户提供了业内最高标准的TPM(每分钟Tokens)和RPM(每分钟请求数),每分钟处理Tokens限额达到业内同规格模型的数倍,能够支持大量并发请求,有助于企业在生产系统调用大模型。(第一财经)

封面图片

海通证券:小模型展现性能,边缘 AI 芯片有望加速落地

海通证券:小模型展现性能,边缘AI芯片有望加速落地小模型展现性能,边缘AI芯片有望加速落地。边缘AI芯片有望搭载小模型弥补大模型局限。尽管云端大模型在性能上全面超越小模型,但它们也存在一些局限性,包括较高的成本、运行速度以及对互联网连接的依赖。相比之下,Phi—3mini的小模型允许用户在没有网络的情况下与虚拟助手进行互动,能够在不上传数据的前提下实现内容总结,解决了AI领域的一部分弊端。未来这类模型有望与智能手机集成,甚至可能内置于常用家电中,为用户的生活提供个性化建议。在AI时代浪潮下,边缘AI芯片具有独特的部署优势且市场前景可观。

封面图片

阿里云AI大模型通义千问正式开放

阿里云AI大模型通义千问正式开放阿里云星期三(9月13日)宣布通义千问大模型已首批通过备案,并正式向公众开放。据“阿里云”公众号消息,阿里云方面介绍,通义千问在技术创新和行业应用上均位居大模型行业前列。IDC最新的AI大模型评估报告显示,通义千问在全部11项测试中获得通用能力、服务能力、创新能力、服务能力、平台能力、生态合作、电商行业应用六项满分,名列前茅。用户可登录通义千问官网体验,企业用户可以通过阿里云调用通义千问API。据阿里云方面介绍,今年4月,阿里云通义千问开启邀测,仅一个月就有超20万企业和机构用户申请接入通义千问测试。目前,OPPO、得物、钉钉、淘宝、浙江大学等已与阿里云达成合作,基于通义千问训练自己的专属大模型或开发大模型应用。阿里云是中国首个开源自研大模型的科技大厂。阿里云方面表示,近期将开源一个更大参数规模的大模型版本,供全社会免费商用。阿里云希望和全行业共建大模型开源生态,降低大模型使用的门槛,让大模型技术更好地为每个企业和个人所用。

封面图片

阿里巴巴通义大模型成为奥运首个AI大模型应用技术提供方

阿里巴巴通义大模型成为奥运首个AI大模型应用技术提供方7月24日,阿里巴巴通义大模型在与众多国际科技公司的竞争中获胜后,成为奥运首个AI大模型应用的技术提供方。在即将开幕的巴黎奥运会上,将有一系列AI应用亮相。其中就包括阿里AI技术支持的360度直播特效、黑白影像AI彩色修复、碳减排辅助等应用。另外,巴黎奥运会还将上线首个大模型应用,由阿里通义千问提供技术支持,开放给国际奥组委官方解说员使用,辅助各项赛事解说。关注频道@ZaiHuaPd投稿爆料@ZaiHuabot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人