苹果取得技术突破：有望在 iPhone 上运行大型语言模型

苹果取得技术突破：有望在 iPhone 上运行大型语言模型 IT之家消息：苹果的人工智能研究人员表示，他们已取得一项重大突破，通过一种创新的闪存利用技术，成功地在内存有限的苹果设备上部署了大型语言模型（LLM）。这一成果有望让更强大的 Siri、实时语言翻译以及融入摄影和增强现实的尖端 AI 功能登陆未来 iPhone。|

【 #苹果 开源大模型OpenELM来了，它可能用在下一代iPhone上】

【 #苹果 开源大模型OpenELM来了，它可能用在下一代iPhone上】 据VentureBeat报道，苹果近日在AI代码社区Hugging Face上发布了OpenELM大模型。这是一个由不同参数大小构成的一系列开源大型语言模型，可运行在端侧设备上。据了解，该系列模型包含2.7亿、4.5亿、11亿和30亿共4个不同参数版本。基于较小的参数量，这些模型可在端侧设备上独立运行，而不必连接云端服务器。具体而言，其一共包括4个预训练模型和4个指令调优模型。这些模型可运行在笔记本电脑甚至智能手机上，苹果举例称，其中一台是配备M2 Max芯片、64GB RAM，运行macOS 14.4.1的MacBook Pro。（界面）

：快捷命令激活iPhone上的大模型进行对话与搜索

：快捷命令激活iPhone上的大模型进行对话与搜索 Siri-Ultra是一个基于云的智能助手，可以在Cloudflare Workers上运行，并且可以与任何大型语言模型（LLM）配合使用。它利用了LLaMA 3模型，并且通过自定义函数调用来获取天气数据和在线搜索。这个项目允许用户通过Apple Shortcuts来使用Siri，从而消除了对专用硬件设备的需求。 目标受众为希望在没有专用硬件的情况下使用智能助手的用户。Siri-Ultra通过提供一种灵活的、基于云的解决方案，满足了那些希望简化其技术栈并利用最新AI技术来增强个人效率的用户需求。 使用场景示例： 用户可以通过Siri-Ultra获取天气预报 利用Siri-Ultra进行在线搜索查询 通过Siri-Ultra快速获取日常信息，如新闻摘要或日程安排 产品特色： 支持自定义模型，API基础和系统提示 使用Cloudflare Workers进行部署 创建KV命名空间来存储对话数据 通过API密钥进行身份验证和数据调用 更新系统提示以适应不同的使用场景 部署到Cloudflare后，可以通过Apple Shortcuts进行配置和使用 使用教程： 克隆仓库并导航到根目录 运行npm install安装必要的依赖 通过运行npx wrangler login来验证Cloudflare账户 运行npx wrangler kv:namespace create chats创建KV命名空间并记下ID 更新wrangler.toml文件，填入命名空间ID 设置API密钥，包括GROQ或OpenAI API密钥，OpenWeather API密钥和SEARCH1API_KEY 更新LLMs Vars，包括API_BASE和MODEL等 运行npx wrangler deploy部署Worker 使用提供的链接安装并配置Apple Shortcut

苹果开源大模型OpenELM来了，可能用在下一代iPhone上

苹果开源大模型OpenELM来了，可能用在下一代iPhone上 苹果最近在AI代码社区HuggingFace上发布了OpenELM大模型。该模型是一系列开源大型语言模型，具有不同的参数大小，可在端侧设备上运行。据了解，该系列模型包含4个不同参数版本，分别为2.7亿、4.5亿、11亿和30亿。由于参数较小，这些模型可以在端侧设备上独立运行，而无需连接云端服务器。总体而言，该系列包括4个预训练模型和4个指令调优模型。这些模型可以在笔记本电脑甚至智能手机上运行。苹果举例称，其中一款模型在MacBookPro上运行，配备了M2Max芯片和64GBRAM，操作系统为macOS14.4.1。 来源：格隆汇

Rabbit R1不像是iPhone杀手 因为它的AI应用也可以在苹果硬件上运行

Rabbit R1不像是iPhone杀手 因为它的AI应用也可以在苹果硬件上运行 Flutterflow 的威尔-霍比克（Will Hobick）在周一的 X 条推文中表示，他将在本周晚些时候发布 Rabbit R1 应用程序的"可克隆模板"。在周二的跟帖中，他演示了在 iPhone 上运行该应用程序的版本。基于应用程序的版本提供的核心功能与设备本身基本相同。一段视频显示，该应用回答了一个口头询问，并配有与实体版相同的动画。作者说，该应用程序可调用设备时间、电池寿命、触觉触摸、摄像头等功能。他只用了几个小时就完成了构建，并以 PWA、IOS 和 Android 的形式运行（参见主题）。该演示是使用@FlutterFlow制作的。这款应用还能调用线上的AI来回答视觉问题。在拍摄桌子上AirPods的照片并询问照片中的内容后，该应用程序就会给出准确的答复。虽然看起来很准确，但目前还不清楚该应用程序是否真的在运行 Rabbit R1 的操作系统。但该应用程序被设计为使用各种现有库进行语音识别，并向 ChatGPT 等服务发送查询请求以获取答案，这倒是有可能的。据传，苹果公司正在努力创建一个人工智能应用商店，这是一个用于销售和分发人工智能应用的店面版本。如果成为现实，像基于 PWA 的演示这样的应用程序当然可以在店面中提供。相关文章:Rabbit R1买家秀翻车：比Siri还磨叽、响应速度远不及发布Rabbit R1 AI数码设备被发现实际上只运行了一个Android应用爆火Rabbit R1大翻车：被曝套壳安卓 质疑者IP已遭屏蔽 ... PC版： 手机版：

#小众软件Jan – 免费的 ChatGPT 开源替代：使用开源 AI 模型，在自己电脑上运行大语言模型，100% 离线

#小众软件 Jan – 免费的 ChatGPT 开源替代：使用开源 AI 模型，在自己电脑上运行大语言模型，100% 离线 Tags: #AI, #linux, #macOS, #Windows, #ChatGPT, #大语言模型, #开源