昆仑万维方汉:AI “摩尔定律” 已出现 端侧推理才是最终解决方案

昆仑万维方汉:AI“摩尔定律”已出现端侧推理才是最终解决方案12月14日,昆仑万维董事长、总经理方汉在2023智能未来大会上表示,参考互联网时代发展历程,基于免费模式才能使得AI大模型最大程度普及,这需要通过技术迭代、端侧推理和内容革命等方面实现。目前人工智能(AI)的“摩尔定律”已经出现,即大模型的能力是每年10倍的往上涨,推断成本是每年10倍的往下降。另外,只有端侧推理才是最终的解决方案,随着手机移动设备实现更高参数的推理能力,真正杀手级应用才会出现。据介绍,昆仑万维已经推出了AI游戏、AI音乐和AI漫画。

相关推荐

封面图片

昆仑万维董事长、总经理方汉在2023智能未来大会上表示,参考互联网时代发展历程,基于免费模式才能使得AI大模型最大程度普及,这需

昆仑万维董事长、总经理方汉在2023智能未来大会上表示,参考互联网时代发展历程,基于免费模式才能使得AI大模型最大程度普及,这需要通过技术迭代、端侧推理和内容革命等方面实现。目前人工智能(AI)的“摩尔定律”已经出现,即大模型的能力是每年10倍的往上涨,推断成本是每年10倍的往下降。另外,只有端侧推理才是最终的解决方案,随着手机移动设备实现更高参数的推理能力,真正杀手级应用才会出现。据介绍,昆仑万维已经推出了AI游戏、AI音乐和AI漫画。(证券时报)

封面图片

昆仑万维:Opera 成为全球首个接入端侧 AI 大模型的主流浏览器

昆仑万维:Opera成为全球首个接入端侧AI大模型的主流浏览器据昆仑万维官微消息,5月29日,昆仑万维旗下海外信息分发与元宇宙平台Opera宣布,其旗舰浏览器OperaOne以及游戏浏览器OperaGX将正式接入端侧AI大模型,成为全球第一个接入端侧AI大模型的主流浏览器。2024年4月,Opera已在开发者版本浏览器中首次接入了端侧AI大模型,并进行了全面测试。即日起,端侧AI大模型将被正式集成进Opera浏览器旗舰产品中,覆盖Windows、MacOS和Linux等全部设备。

封面图片

昆仑万维宣布Opera浏览器接入端侧AI大模型

昆仑万维宣布Opera浏览器接入端侧AI大模型昆仑万维表示,即日起,端侧AI大模型将被正式集成进Opera浏览器旗舰产品中,覆盖Windows、MacOS和Linux等全部设备。据介绍,2024年4月,Opera已通过AIFeatureDrops计划,在Opera开发者版浏览器中引入了端侧AI访问功能,成为全球第一个引入本地AI模型访问功能的浏览器。此后,Opera在浏览器中陆续集成了超过60个大模型家族系列、超过2000个本地大型语言模型变体,让用户能够通过浏览器内置功能轻松访问和管理本地大模型。值得一提的是,本周起,Opera原生浏览器AI助手Aria将新增AI图像理解与图像问答功能。用户可在侧边栏聊天中上传图片给Aria,并向其询问有关图像的问题,Aria将理解图像内容,并围绕图像及相关背景信息为用户提供答案。相关文章:Opera的Aria人工智能助手现在可以在Android上总结网页内容Opera与Google达成合作将Gemini人工智能引入其浏览器...PC版:https://www.cnbeta.com.tw/articles/soft/1433001.htm手机版:https://m.cnbeta.com.tw/view/1433001.htm

封面图片

AMD苏姿丰:摩尔定律未死 但推进已放慢

AMD苏姿丰:摩尔定律未死但推进已放慢苏姿丰在接受巴伦周刊(Barron's)采访时表示,她不认为摩尔定律已死,她认为摩尔定律已放慢,必须以不同行动延续,获得摩尔定律的能效和能源效益。至于“摩尔定律放慢”是否部分是因为晶圆价格的关系,苏姿丰表示,晶体管成本、以及从密度与整体耗能降低获得的改善程度,每一代都在降低,但AMD仍不断前进,正在从事许多3纳米制程的工作,也已放眼2纳米制程,AMD将持续运用小芯片(Chiplet)这类架构,试着绕过摩尔定律的一些挑战。摩尔定律是否已经失效,是近年来半导体产业最常被提及的议题。然而2004年90纳米推出之后,历经65纳米、45纳米等制程微缩,至2012年的22纳米为止,仍然符合摩尔定律。但22纳米到2015年进入14纳米,至今再进入10纳米或7纳米,摩尔定律的推进已经明显放慢。去年,英伟达发布了新一代AdaLovelace架构GPU,由于价格调涨引发用户质疑。对此英伟达CEO黄仁勋表示,“摩尔定律已死”,是公司不得不涨价的原因。...PC版:https://www.cnbeta.com.tw/articles/soft/1358151.htm手机版:https://m.cnbeta.com.tw/view/1358151.htm

封面图片

昆仑万维开源 2 千亿稀疏大模型天工 MoE,全球首创能用 4090 推理

昆仑万维开源2千亿稀疏大模型天工MoE,全球首创能用4090推理据昆仑万维官微,2024年6月3日,昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE,性能强劲,同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来,是首个完整将MoEUpcycling技术应用并落地的开源千亿MoE大模型,也是首个支持用单台4090服务器推理的开源千亿MoE大模型。

封面图片

昆仑万维旗下 Opera 全新 AI 服务器集群落地 大模型推理速度提高 30 倍

昆仑万维旗下Opera全新AI服务器集群落地大模型推理速度提高30倍据昆仑万维消息,近日,昆仑万维旗下海外信息分发及元宇宙平台Opera宣布,公司在冰岛凯夫拉维克部署了一套全新的、完全由绿色能源驱动的人工智能(AI)服务器集群。该集群能够为Opera提供先进的AI超级计算能力,并有效简化生产级AI应用的开发和部署过程,为Opera未来更多生成式AI服务打下基础。与上一代GPU相比,搭载NVIDIAH100TensorCoreGPU的方案能让AI训练速度提高4倍,大语言模型推理速度提高30倍。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人