荣耀CEO赵明:功耗是端侧大模型亟待解决的问题

荣耀CEO赵明:功耗是端侧大模型亟待解决的问题对于未来端侧大模型的趋势,荣耀CEO赵明今天(27日)接受媒体采访时认为,大模型在手机上的落地会是恰到好处,不用刻意追求更大的模型,像ChatGPT这种能力未来在手机侧很难复刻,也不是核心应用场景。端侧AI是个人工具,要让个人在AI世界变得更强大,更好地管理和使用网络大模型。“目前,端侧70亿参数大模型还不能长期持久地使用。跑两小时,手机可能就没电了。低功耗的70亿参数大模型才是有价值的。未来随着端侧大模型逐步把能力构建起来,20亿模型就能实现70亿的效果。未来,大模型也会有不同的参数,比如10亿、20亿、30亿,而不是任何时候都用大参数的模型。”——

相关推荐

封面图片

【赵明:今年荣耀能实现在12GB手机内存部署7B端侧AI大模型并保证体验流畅】

【赵明:今年荣耀能实现在12GB手机内存部署7B端侧AI大模型并保证体验流畅】荣耀CEO赵明对华尔街见闻独家透露,2024年荣耀将能于12GB(RAM/运存)智能手机端侧部署参数规模为7B的AI大模型。赵明说,“荣耀平台级AI技术能将LLM大模型在端侧实现超高压缩率。7B模型能在12G设备上快速启动,同时保证用户常用应用体验不受影响。”一般来说,要在智能手机端侧部署7B参数规模的LLM大模型,需要24GB运存。12GB运存智能手机端侧实现7B大模型部署,同时还能保证用户的日常流畅应用,以荣耀平台级AI能力的底层技术特性,可大幅提升和扩展荣耀多价位智能手机的AI体验。(作者周源)

封面图片

荣耀CEO赵明对华尔街见闻独家透露,2024年荣耀将能于12GB(RAM/运存)智能手机端侧部署参数规模为7B的AI大模型。赵明

荣耀CEO赵明对华尔街见闻独家透露,2024年荣耀将能于12GB(RAM/运存)智能手机端侧部署参数规模为7B的AI大模型。赵明说,“荣耀平台级AI技术能将LLM大模型在端侧实现超高压缩率。7B模型能在12G设备上快速启动,同时保证用户常用应用体验不受影响。”一般来说,要在智能手机端侧部署7B参数规模的LLM大模型,需要24GB运存。12GB运存智能手机端侧实现7B大模型部署,同时还能保证用户的日常流畅应用,以荣耀平台级AI能力的底层技术特性,可大幅提升和扩展荣耀多价位智能手机的AI体验。(作者周源)

封面图片

荣耀CEO赵明:功耗是端侧大模型亟待解决的问题https://www.bannedbook.org/bnews/itnews/2

封面图片

荣耀 CEO 赵明:苹果发布的全新 AI 战略,跟随了荣耀的端侧 AI 方向

荣耀CEO赵明:苹果发布的全新AI战略,跟随了荣耀的端侧AI方向2024MWC上海今日开幕,荣耀CEO赵明发表演讲。他介绍了荣耀AI四层架构:AI的端云协同,Al在端侧的应用,AI重构操作系统,Al使能跨系统融合。他认为,端侧AI赋能个人具有天然优势,是AI创新的主赛道。端侧AI赋能传统硬件,会带来巨大的想象空间。比如电池,屏幕,影像,通信,音频。比如AI使能屏幕,让屏幕呈现离焦镜效果,首次实现视力舒缓,阅读25分钟短暂性近视指标平均降低13度,最大降低75度;荣耀的AI换脸检测技术也亮相,首次实现端侧AI反诈。“端侧AI,看到了苹果在跟随荣耀,还会有更多厂商跟随这一方向。”赵明说,苹果发布的全新AI战略,正是遵循了荣耀的AI策略。(新浪科技)

封面图片

赵明:荣耀在端侧 AI 要整体领先苹果,未来会把端侧 AI 能力和服务在海外发布

赵明:荣耀在端侧AI要整体领先苹果,未来会把端侧AI能力和服务在海外发布在2024MWC上海期间,荣耀CEO赵明接受媒体采访。他表示,过去三年,荣耀一直重点投入AI,刚开始是打基础的,现在逐渐呈现出来。荣耀与苹果竞争走出了独特的差异化路线,在端侧AI,荣耀要整体领先苹果,也看到了苹果的快速反应能力和纠错能力,“我们非常尊敬苹果,荣耀也要拿出自己的能力。”他透露,未来荣耀会把端侧AI的能力和服务在海外发布。去年他提到,要打破苹果一家独大,赵明表示,苹果过去一年在中国市场发生了很大的变化,这是大家努力竞争的结果。折叠屏领域荣耀取得了很大的认知,要用创新去挑战苹果。挑战一年的结果是,苹果加入平台级AI,看到了行业良好的变化。(新浪科技)

封面图片

华金证券:AI 模型轻量化趋势,赋能端侧生产力

华金证券:AI模型轻量化趋势,赋能端侧生产力华金证券4月18日研报指出,AI模型轻量化趋势,赋能端侧生产力。斯坦福大学研究人员近日推出的Octopusv2大模型拥有20亿个参数的高级开源语言模型,可跑通端侧,专为AndroidAPI量身定制。不仅性能与GPT-4相当,还显著提升了推理速度。端侧的火热来源于toC端对内容创作的强需求,叠加国内AI技术进步,有望长效赋能端侧内容生产。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人