高通与Meta合作优化Llama 3大语言模型在骁龙终端的运行

高通与Meta合作优化Llama3大语言模型在骁龙终端的运行Meta公司推出了下一代大语言模型Llama3，该模型有两种版本：80亿参数和700亿参数，被宣称为最强大的开源大语言模型。高通公司宣布将支持Llama3在骁龙终端上的运行，这包括智能手机、PC、VR/AR头显和汽车等设备。双方合作的目标是优化Llama3在这些终端上的执行，以提升响应能力、增强隐私性和可靠性，并为用户带来更加个性化的体验。开发者将能够利用高通AIHub中的资源和工具，以实现在骁龙平台上的优化运行，缩短产品上市时间并充分发挥终端侧AI的优势。关注频道：@TestFlightCN频道投稿：@TNSubmBot

高通将与Meta合作 为智能手机和个人电脑增加Llama 2 AI模型支持

高通将与Meta合作为智能手机和个人电脑增加Llama2AI模型支持高通公司在一份新闻稿中表示，双方合作的目的是让这些终端能够运行基于Llama2的应用程序和服务，而无需像当前其他生成式人工智能产品（如ChatGPT和BingChat）那样连接到云服务。高通公司表示：在智能手机、个人电脑、VR/AR头显和车辆等终端上运行Llama2等生成式AI模型的能力使开发人员能够节省云成本，并为用户提供更私密、更可靠和个性化的体验。在终端上运行像Llama2这样的大型语言模型有很多优势。与使用基于云的LLM相比，它的成本效益更高，性能也更好，因为它无需连接到在线服务。同时，设备上的LLM可以提供更加个性化的人工智能服务。与连接云服务器相比，它还可以更加安全和私密。目前，高通公司计划于2024年开始在使用骁龙芯片的设备上支持基于Llama2的人工智能服务。至于它是否需要最新一代的高通芯片才能工作，或者这种支持能否向后兼容当前的骁龙芯片，目前还没有任何消息。Meta公司称，Llama2的训练数据比第一代LlamaLLM多40%。该公司已经宣布与微软合作，在微软的Azure服务上向商业和研究用户免费提供Llama2，并提供在WindowsPC上本地下载和运行LLM的方法。...PC版：https://www.cnbeta.com.tw/articles/soft/1371759.htm手机版：https://m.cnbeta.com.tw/view/1371759.htm