郭明𫓹:目前 Apple Intelligence 装置端 AI 大模型对 DRAM 的需求约为 2GB 或更低

郭明𫓹:目前AppleIntelligence装置端AI大模型对DRAM的需求约为2GB或更低跟踪苹果产业链多年的天风国际证券分析师郭明𫓹发布报告指出,从配备A16的iPhone15无法支持AppleIntelligence,但M1的机型可以支持,这推论出能否支持目前AppleIntelligence装置端模型的关键应该是DRAM大小,而较不是AI算力(TOPS)。M1的AI算力约为11TOPS,低于A16的17TOPS。但A16的DRAM为6GB,低于M1的8GB。因此,目前的AppleIntelligence装置端AILLM对DRAM的需求约为2GB或更低。

相关推荐

封面图片

郭明𫓹解密Apple Intelligence:端侧模型对DRAM需求约为2GB或更低

郭明𫓹解密AppleIntelligence:端侧模型对DRAM需求约为2GB或更低郭明琪表示,M1的AI算力约为11TOPS,低于A16的17TOPS。但A16的DRAM为6GB,低于M1的8GB。因此,目前的AppleIntelligence装置端AILLM对DRAM的需求约为2GB或更低。他进一步指出,AppleIntelligence采用端侧3BLLM(应为FP16,M1的NPU/ANE对FP16有很好的支持),经过压缩后(采用2-bit与4-bit的混合配置),随时需要预留约0.7-1.5GBDRAM来运作AppleIntelligence的端侧LLM。郭明琪的分析认为,对于现有的设备端应用,如果要通过AI进行增强,至少需要部署3BLLM。在此基础上,再根据压缩方式决定DRAM规格。(最有可能升级到7BLLM),届时需要更大DRAM才能运作。苹果是否会以此作为高低端机种的产品区隔策略值得观察。...PC版:https://www.cnbeta.com.tw/articles/soft/1434478.htm手机版:https://m.cnbeta.com.tw/view/1434478.htm

封面图片

天风国际分析师郭明分析认为,从配备A16的iPhone15无法支持AppleIntelligence,但M1的机型可以支持,这

天风国际分析师郭明𫓹分析认为,从配备A16的iPhone15无法支持AppleIntelligence,但M1的机型可以支持,这推论出能否支持目前AppleIntelligence装置端模型的关键应该是DRAM大小,而较不是AI算力(TOPS)。M1的AI算力约为11TOPS,低于A16的17TOPS。但A16的DRAM为6GB,低于M1的8GB。因此,目前的AppleIntelligence装置端AILLM对DRAM的需求约为2GB或更低。

封面图片

郭明𫓹:AI 装置成 PC / 手机未来数年换机需求关键

郭明𫓹:AI装置成PC/手机未来数年换机需求关键天风国际分析师郭明𫓹25日发布《2024年消费电子产业三大关键投资趋势:Android库存回补、VisionPro与AIPC/手机》。其中提出,AI装置/PC/手机为未来数年换机需求关键。从建立用户对AI装置认知、建立使用者行为与支援第三方开发商的角度,在相关业者中(作业系统、软体服务、终端品牌、处理器与零组件),作业系统业者对AI装置趋势的影响力最大。2024年AI装置的主流硬体规格将包括内建7–10BLLM(用于推理)、40–50TOPS的AI算力、10–20token/s或以上的推理速度、8–16GB或以上的DRAM等。投资机会来自上述主流规格所创造的使用者体验之验证与带动之规格升级。可预期所有相关业者均会将AIPC/手机作为2024年的宣传重点,故2024年所有的电子产品展会均有可能出现AIPC/手机的相关厂商股价之催化剂,包括CES(1月)、MWC(2月)、WWDC(6月)、Computex(6月)、GoogleI/O(5月)、Apple新iPhone发布会(9月)、IFA(9月)、Apple新Mac发布会(4Q)、微软新品发布会(2H)、与各主要品牌的新品发布会等。

封面图片

【赵明:今年荣耀能实现在12GB手机内存部署7B端侧AI大模型并保证体验流畅】

【赵明:今年荣耀能实现在12GB手机内存部署7B端侧AI大模型并保证体验流畅】荣耀CEO赵明对华尔街见闻独家透露,2024年荣耀将能于12GB(RAM/运存)智能手机端侧部署参数规模为7B的AI大模型。赵明说,“荣耀平台级AI技术能将LLM大模型在端侧实现超高压缩率。7B模型能在12G设备上快速启动,同时保证用户常用应用体验不受影响。”一般来说,要在智能手机端侧部署7B参数规模的LLM大模型,需要24GB运存。12GB运存智能手机端侧实现7B大模型部署,同时还能保证用户的日常流畅应用,以荣耀平台级AI能力的底层技术特性,可大幅提升和扩展荣耀多价位智能手机的AI体验。(作者周源)

封面图片

荣耀CEO赵明对华尔街见闻独家透露,2024年荣耀将能于12GB(RAM/运存)智能手机端侧部署参数规模为7B的AI大模型。赵明

荣耀CEO赵明对华尔街见闻独家透露,2024年荣耀将能于12GB(RAM/运存)智能手机端侧部署参数规模为7B的AI大模型。赵明说,“荣耀平台级AI技术能将LLM大模型在端侧实现超高压缩率。7B模型能在12G设备上快速启动,同时保证用户常用应用体验不受影响。”一般来说,要在智能手机端侧部署7B参数规模的LLM大模型,需要24GB运存。12GB运存智能手机端侧实现7B大模型部署,同时还能保证用户的日常流畅应用,以荣耀平台级AI能力的底层技术特性,可大幅提升和扩展荣耀多价位智能手机的AI体验。(作者周源)

封面图片

美国 5 月核心 CPI 同比降至三年低位,环比增速 0.2% 不及预期。

美国5月核心CPI同比降至三年低位,环比增速0.2%不及预期。欧盟宣布将在7月初对自中国进口的电动汽车加征关税,中方已表示将采取措施维权。IEA:本十年末全球石油将出现重大过剩,大幅下调今年需求增长预测至96万桶/日。三星电子聘请苹果Siri项目前负责人MuratAkbacak加入北美人工智能团队,成立新AI中心。甲骨文美股盘前一度涨超9%,公司财报逊色但和OpenAI及谷歌达成合作。台积电美股盘前涨近4%,报道称台积电南科嘉义园区新厂开始采购设备,冲刺CoWoS先进封装。知乎美股盘前涨超3%,公司一季度总收入9.609亿元,超出市场预期。蔚来全球业务大调整:新设八个部门,“出海老将”亲自抓中东。极氪宣布,将新增16%营销服务人员,年内门店数量达520家特斯拉官宣:已在工厂部署两个自动执行任务的Optimus机器人。郭明𫓹:目前AppleIntelligence装置端AI大模型对DRAM的需求约为2GB或更低。日经225指数收跌0.7%,沪指收涨0.31%,恒生指数收跌1.31%。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人