荣耀CEO赵明:功耗是端侧大模型亟待解决的问题

None

相关推荐

封面图片

荣耀CEO赵明:功耗是端侧大模型亟待解决的问题

荣耀CEO赵明:功耗是端侧大模型亟待解决的问题 对于未来端侧大模型的趋势,荣耀CEO赵明今天 (27日) 接受媒体采访时认为,大模型在手机上的落地会是恰到好处,不用刻意追求更大的模型,像ChatGPT这种能力未来在手机侧很难复刻,也不是核心应用场景。端侧AI是个人工具,要让个人在AI世界变得更强大,更好地管理和使用网络大模型。“目前,端侧70亿参数大模型还不能长期持久地使用。跑两小时,手机可能就没电了。低功耗的70亿参数大模型才是有价值的。未来随着端侧大模型逐步把能力构建起来,20亿模型就能实现70亿的效果。未来,大模型也会有不同的参数,比如10亿、20亿、30亿,而不是任何时候都用大参数的模型。”

封面图片

荣耀CEO赵明:借壳从来不是荣耀的选择

荣耀CEO赵明:借壳从来不是荣耀的选择 荣耀CEO赵明在接受界面新闻等媒体采访时表示,借壳从来不是荣耀的选择,荣耀成立以来始终遵循最严苛的财务标准,目前现金流兑现率是130%,荣耀愿意以最透明的方式接受审视。 消息来源:

封面图片

第一财经 - 直播区<b>荣耀CEO赵明谈芯片战略:既不盲目乐观,也不妄自菲薄 |</b> 5月29日下午,荣耀CEO赵明在荣耀

第一财经 - 直播区 <b>荣耀CEO赵明谈芯片战略:既不盲目乐观,也不妄自菲薄 |</b> 5月29日下午,荣耀CEO赵明在荣耀90发布会上谈及芯片战略时表示,将会根据需求定制芯片。“我们既...| #财经 #新闻 #资讯

封面图片

荣耀CEO赵明:2023年,荣耀海外市场同比增长将超过100% #抽屉IT

封面图片

开放麒麟发布AIPC版本:支持端侧大模型

开放麒麟发布AIPC版本:支持端侧大模型 openKylin for AIPC版本与AI技术深度融合,提供了统一的AI接口能力,与桌面环境无缝集成,并推出包括AI助手、智能文生图、智能模糊搜索等在内的一系列智能化功能,有望极大提升用户在国产操作系统上的办公效率和创作体验。特别通过应用端侧大模型技术,将硬件和软件的深度集成,用户能够在本地独立运行复杂的AI任务无需依赖云端计算资源,从根本上改变和重塑用户体验。据悉,开放麒麟1.0版本在去年7月份正式发布,是我国首个开源桌面操作系统,标志着我国拥有了操作系统组件自主选型、操作系统独立构建的能力。系统适配支持X86、ARM、RISC-V三个架构的个人电脑、平板电脑及教育开发板。 ... PC版: 手机版:

封面图片

郭明𫓹解密Apple Intelligence:端侧模型对DRAM需求约为2GB或更低

郭明𫓹解密Apple Intelligence:端侧模型对DRAM需求约为2GB或更低 郭明琪表示,M1的AI算力约为11 TOPS,低于A16的17 TOPS。但A16的DRAM为6GB,低于M1的8GB。因此,目前的Apple Intelligence装置端AI LLM对DRAM的需求约为2GB或更低。他进一步指出,Apple Intelligence采用端侧3B LLM(应为FP16,M1的NPU/ANE对FP16有很好的支持),经过压缩后(采用2-bit与4-bit的混合配置),随时需要预留约0.7-1.5GB DRAM来运作Apple Intelligence的端侧LLM。郭明琪的分析认为,对于现有的设备端应用,如果要通过AI进行增强,至少需要部署3B LLM。在此基础上,再根据压缩方式决定DRAM规格。(最有可能升级到7B LLM),届时需要更大DRAM才能运作。苹果是否会以此作为高低端机种的产品区隔策略值得观察。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人