端侧模型 + 硬件会是 AI 爆发的下一个机会吗？
端侧模型 + 硬件会是 AI 爆发的下一个机会吗？
段小草的回答
我觉得端侧模型 + 硬件会是下一个机会。
首先还是澄清一下概念，端侧模型应该是相对于云端模型而言的，可以在硬件设备本地运行的模型。端侧模型不一定是开源模型，比如苹果在打算在 iPhone 上内置的 AI 模型 Apple Intelligence，就并不开源：
又或者谷歌在 Chrome 浏览器中内置的 Gemini-nano[1]：
当然，很多开源的小模型只要可以自行在消费级设备上部署，也可以看作端侧模型，比如面壁智能的可以在手机上运行的 MiniCPM。
AI 硬件，则是指广泛的消费级的硬件，而非专业的数据中心计算硬件。在我的理解上，AI 硬件大体上又可以分为 AI PC、AI 手机和其他新形态的 AI 硬件（比如一些可穿戴的、或者新交互方式的 AI 硬件）。比如这张图中所展示的[2]：
端侧模型和 AI 硬件结合在一起，我觉得主要有三方面优势：
● 隐私：隐私和数据安全显然是端侧模型最明显最直接的优势，特别是在个人信息、内部资料、数据分析方面，用户会倾向于使用可控的本地模型。
● 成本：虽然现在很多 AI 应用都是免费的，但 API 并不免费，某种意义上讲，端侧模型激活了边缘算力，其实降低了 AI 调用的成本。
● 普及：端侧模型 + AI 硬件的方式，有可能会给带来新的破圈的机会，让之前没有接触 AI 的普通人有机会用到 AI 工具和 AI 能力。
我甚至会觉得，第三点才是最重要的原因。我最近一段时间写 AI 话题，遇到最大的困扰就是，即便圈内已经非常火热的话题，在普通人眼中，要么是冷漠不关心，要么是质疑加嘲讽。
这里面当然有一部分人是了解过用过之后觉得空炒概念，但还有相当一部分人实际上没有自己用过，只是看了一些更反智和煽动的话语就给先入为主地觉得 AI 没有用。
对于这部分人来说，他们大概不会去主动注册或者使用 AI 应用，但如果 AI 润物无声地进入 PC、手机，提供更简洁方便的使用体验，相当于喂饭级功能，也许会大大增加 AI 的普及程度。
via 知乎热榜 (author: 段小草)
