谷歌发文解释为什么要在Chrome中内置本地AI模型:为开发者提供设备端应用
谷歌发文解释为什么要在Chrome中内置本地AI模型:为开发者提供设备端应用谷歌目前已经尝试在Chrome浏览器中内置AI模型,该模型需要下载到本地后使用,模型版本为GoogleGeminiNano版。这个模型并不是面向普通用户提供的,主要是给开发者使用,让开发者可以在网站或PWA应用里调用本地AI模型执行运算,而不需要调用某些云端模型。最重要的是经过谷歌的优化,GeminiNano版可以在本地使用硬件加速功能,无论是GPU、NPU甚至是CPU都可以用来运算。使用本地模型的好处有很多:本地处理敏感数据:设备端AI可以改进隐私保护,例如处理敏感数据时可以通过端到端加密为用户提供AI功能。流畅的用户体验:在某些情况下无需来回往返服务器即可获得近似实时的回答。对AI的访问权限更高:设备端可以承担一些处理负载,以换取对功能的更多访问权限,即如果使用云端AI用户可能需要额外付费分摊开发者的token费用,如果仅在本地处理那么这些费用就可以省了。离线使用AI:显然设备端的本地AI是可以在离线状态下使用的,这意味着某些PWA类应用在离线情况下也可以处理内容。亦或者采用混合架构:对于简单的任务使用本地AI处理是可以的,但如果需要进行复杂的任务开发者应当考虑使用服务端实现,也就是继续调用云端AI。第二种是保持AI功能的弹性,当网络连接顺畅的情况下开发者可以调用云端AI,如果网络不畅或者离线则可以回退到本地AI处理。第三种是安全回退:采用内置AI的浏览器需要一定的时间,而且某些型号或某些太旧的设备可能无法使用本地AI,这种情况下开发者可以继续调用云端AI。Chrome内置AI为所有开发者提供通用模型:现阶段开发者通过浏览器运行AI要么直接调用云端AI要么需要下载本地模型,而不同的开发者和不同的网站采用的AI模型不同,用户可能需要下载一大堆模型。Chrome内置AI模型为所有开发者提供通用模型,这些模型一次下载即可使用,在用户已经下载过模型的情况下,调用模型的PWA应用可以做到开箱即用。这种方式应该可以大幅度提高PWA应用对AI功能的采用率,提高用户体验的同时也可以减少开发者很多繁杂的工作。...PC版:https://www.cnbeta.com.tw/articles/soft/1434218.htm手机版:https://m.cnbeta.com.tw/view/1434218.htm
在Telegram中查看相关推荐
![](https://soso.news/wp-content/uploads/2023/09/coin-300x85.png)
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人