谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用

谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用谷歌目前已经尝试在Chrome浏览器中内置AI模型，该模型需要下载到本地后使用，模型版本为GoogleGeminiNano版。这个模型并不是面向普通用户提供的，主要是给开发者使用，让开发者可以在网站或PWA应用里调用本地AI模型执行运算，而不需要调用某些云端模型。最重要的是经过谷歌的优化，GeminiNano版可以在本地使用硬件加速功能，无论是GPU、NPU甚至是CPU都可以用来运算。使用本地模型的好处有很多：本地处理敏感数据：设备端AI可以改进隐私保护，例如处理敏感数据时可以通过端到端加密为用户提供AI功能。流畅的用户体验：在某些情况下无需来回往返服务器即可获得近似实时的回答。对AI的访问权限更高：设备端可以承担一些处理负载，以换取对功能的更多访问权限，即如果使用云端AI用户可能需要额外付费分摊开发者的token费用，如果仅在本地处理那么这些费用就可以省了。离线使用AI：显然设备端的本地AI是可以在离线状态下使用的，这意味着某些PWA类应用在离线情况下也可以处理内容。亦或者采用混合架构：对于简单的任务使用本地AI处理是可以的，但如果需要进行复杂的任务开发者应当考虑使用服务端实现，也就是继续调用云端AI。第二种是保持AI功能的弹性，当网络连接顺畅的情况下开发者可以调用云端AI，如果网络不畅或者离线则可以回退到本地AI处理。第三种是安全回退：采用内置AI的浏览器需要一定的时间，而且某些型号或某些太旧的设备可能无法使用本地AI，这种情况下开发者可以继续调用云端AI。Chrome内置AI为所有开发者提供通用模型：现阶段开发者通过浏览器运行AI要么直接调用云端AI要么需要下载本地模型，而不同的开发者和不同的网站采用的AI模型不同，用户可能需要下载一大堆模型。Chrome内置AI模型为所有开发者提供通用模型，这些模型一次下载即可使用，在用户已经下载过模型的情况下，调用模型的PWA应用可以做到开箱即用。这种方式应该可以大幅度提高PWA应用对AI功能的采用率，提高用户体验的同时也可以减少开发者很多繁杂的工作。...PC版：https://www.cnbeta.com.tw/articles/soft/1434218.htm手机版：https://m.cnbeta.com.tw/view/1434218.htm

在Telegram中查看

相关推荐

苹果新发布20个Core ML模型和4个数据集全部开源供开发者们使用

苹果新发布20个CoreML模型和4个数据集全部开源供开发者们使用苹果日前在知名AI模型托管平台HuggingFace上新发布了20个CoreML模型和4个数据集，这些模型全部采用Apache2.0许可证进行开源，所有开发者均可使用。这些采用CoreML框架的新模型在功能上都有所不同，不过侧重点都是在设备端本地运行AI模型执行任务，这样数据不需要上云解决潜在的隐私问题。例如开发者可以构建一款用于图像分类的应用程序，在获得用户授权图库访问权限后，可以调用设备端模型进行处理；或者构建一个可以快速去除图像背景的应用程序，使用设备端模型也可以不上传图片，解决用户的隐私担忧。当然采用设备端模型还有个好处就是响应速度会非常快，借助云端处理开发者需要提供性能更强的服务器才能支撑并发使用，而服务器响应和处理都需要使用，本地处理则不需要使用网络，因此也免去了响应时间问题。目前设备端运行AI模型最大的问题在于芯片性能，例如苹果推出的苹果智能仅支持A17Pro和AppleM系列芯片，对于更旧的芯片还是得第三方开发者们提供支持，虽然这也会存在性能问题。HuggingFace创始人称这是一次重大更新，苹果将许多基于CoreML的新模型上传到了HuggingFace存储库，而CoreML模型严格在设备端运行无需网络连接，这可以让开发者的应用保持“闪电般”的速度，还可以确保用户数据的私密性。有兴趣的开发者们可以访问HuggingFace上的苹果主页获取这些模型，苹果也为部分模型提供了论文描述，开发者可以根据论文说明快速了解这些模型的性能：https://huggingface.co/apple...PC版：https://www.cnbeta.com.tw/articles/soft/1435170.htm手机版：https://m.cnbeta.com.tw/view/1435170.htm

Opera 成为首个内置本地 AI 模型的浏览器

Opera成为首个内置本地AI模型的浏览器当地时间4月3日，Opera宣布将在开发者流中为其OperaOne浏览器中添加对来自大约50个模型系列的150个本地LLM(大型语言模型)变体的实验性支持。此举标志着首次可以通过内置功能从浏览器轻松访问和管理本地LLM。本地AI模型是Opera在线AriaAI服务的免费补充。支持的本地LLM包括：Meta的Llama、Vicuna、谷歌的Gemma、MistralAI的Mixtral等。使用本地大型语言模型意味着用户的数据保存在本地设备上，使他们能够使用生成式人工智能，而无需将信息发送到服务器。——

Google 似乎正在将 Gemini Nano 的 API 及其本地模型集成进 Android 14

Google似乎正在将GeminiNano的API及其本地模型集成进Android14AndroidAICore是一项全新的系统服务，它允许用户在设备上直接使用AI基础模型。通过AICore，用户的Android应用能够接入GeminiNano，这是Google推出的一种小型但高效的基础模型，专为支持的设备而设计。值得注意的是，这种处理完全是本地进行的。这种本地化的处理方式有助于开发者在不将用户数据上传至云端的情况下处理敏感数据，例如，实现消息传递应用的端到端加密功能。

Google Chrome浏览器将内置本地运行的AI助手Gemini Nano

GoogleChrome浏览器将内置本地运行的AI助手GeminiNanoGeminiNano是Google去年引入Pixel8Pro和Pixel8手机的轻量级大型语言模型。为了将其带入Chrome浏览器，Google对模型进行了优化调整，并确保浏览器能够快速加载该AI模型。得益于这项新功能，用户将能在Chrome浏览器中直接生成产品评论、社交媒体帖子等内容。这与微软在Edge浏览器中集成CopilotAI助手的做法类似，不过不同的是Copilot需要连接云端服务器，而GeminiNano则是在本地运行。此外，Google还透露，GeminiAI将会集成到ChromeDevTools开发工具中，为开发者提供错误信息解释和编码问题修复建议等功能。我们期待在Chrome126版本中亲自体验这项新功能，感受GeminiAI助手的魅力。...PC版：https://www.cnbeta.com.tw/articles/soft/1430926.htm手机版：https://m.cnbeta.com.tw/view/1430926.htm

谷歌Chrome 126将集成Gemini Nano模型，实现本地文本生成功能

谷歌Chrome126将集成GeminiNano模型，实现本地文本生成功能在2024年I/O开发者大会上，谷歌宣布其Chrome126浏览器将引入GeminiNano模型，该模型能够在本地执行文本生成等功能，如生成产品评论、社交媒体帖子和其他简介，并针对Chrome浏览器进行了优化，显著提高了加载速度。此外，谷歌还计划在ChromeDevTools中提供Gemini功能，以便开发人员调试和优化应用程序，Gemini将能够解释错误信息并提供编码问题的解决建议。与此相比，微软的Edge浏览器中的人工智能助手Copilot并不在本地运行。关注频道@ZaiHuaPd频道投稿@ZaiHuabot

Google将使用AI改进Chrome历史记录搜索功能帮你找网页但数据会被共享

Google将使用AI改进Chrome历史记录搜索功能帮你找网页但数据会被共享这种查找逻辑简单易用然而有时候用户不记得标题和网站后，只使用页面中出现的关键词可能无法查到历史内容，有AI加持后这些问题迎刃而解。图片来自：@Leopeva64Google称使用人工智能技术后历史记录查找功能可以使用自然语言进行搜索，提交自然语言描述后人工智能会处理数据并找出匹配度最高的网页供用户浏览。既然需要使用人工智能那必然存在数据共享问题，至少现阶段这个AI模型不是本地运行的，因此开启此功能后Google会收集用户的这些浏览数据。Google也强调页面内容会以加密形式保存在设备本地，Google为了改进此功能会收集数据并可能会经由人工审核人员对内容进行检查以确保搜索功能的准确性。所以对用户来说这些功能就是双刃剑，为了方便实用就需要共享数据，除非未来AI模型都在设备端运行，这样所有数据都在本地处理不需要发生到云端。Google现在已经尝试在Chrome中集成GeminiNano版模型，该模型现阶段主要是给开发者使用的，开发者可以构建PWA应用调用本地模型处理数据，不过这种模型暂时还无法支撑Google对Chrome更多AI功能的需求。最后现在还不清楚AI搜索功能是否会被默认开启，如果默认开启那至少在欧盟是肯定违反GDPR规定的，所以有可能不会默认开启避免引起隐私争议。...PC版：https://www.cnbeta.com.tw/articles/soft/1435325.htm手机版：https://m.cnbeta.com.tw/view/1435325.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人