联想集团副总裁、中国区消费业务群总经理张华在12月26日表示,AI时代浪潮之下,真正让AI应用落地的将是内嵌AI的全终端布局:具
联想集团副总裁、中国区消费业务群总经理张华在12月26日表示,AI时代浪潮之下,真正让AI应用落地的将是内嵌AI的全终端布局:具备内嵌轻量化模型、场景化应用、类脑化能力三大“特质”。比如内嵌轻量化模型将结合AI终端算力水平,在终端平台运行的大模型需要通过混合AI框架进行模型的蒸馏、压缩及微调。在保留AI核心能力的前提下,降低对终端的算力要求,让小设备也能跑得起大模型。以AIPC为例,以本地推理为主,边缘和云端推理为辅的混合模型架构,可合理调配任务,在充分满足用户需求的同时,实现终端的模型轻量化。
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人