谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用

谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用 谷歌目前已经尝试在 Chrome 浏览器中内置 AI 模型，该模型需要下载到本地后使用，模型版本为 Google Gemini Nano 版。这个模型并不是面向普通用户提供的，主要是给开发者使用，让开发者可以在网站或 PWA 应用里调用本地 AI 模型执行运算，而不需要调用某些云端模型。最重要的是经过谷歌的优化，Gemini Nano 版可以在本地使用硬件加速功能，无论是 GPU、NPU 甚至是 CPU 都可以用来运算。使用本地模型的好处有很多：本地处理敏感数据：设备端 AI 可以改进隐私保护，例如处理敏感数据时可以通过端到端加密为用户提供 AI 功能。流畅的用户体验：在某些情况下无需来回往返服务器即可获得近似实时的回答。对 AI 的访问权限更高：设备端可以承担一些处理负载，以换取对功能的更多访问权限，即如果使用云端 AI 用户可能需要额外付费分摊开发者的 token 费用，如果仅在本地处理那么这些费用就可以省了。离线使用 AI：显然设备端的本地 AI 是可以在离线状态下使用的，这意味着某些 PWA 类应用在离线情况下也可以处理内容。亦或者采用混合架构：对于简单的任务使用本地 AI 处理是可以的，但如果需要进行复杂的任务开发者应当考虑使用服务端实现，也就是继续调用云端 AI。第二种是保持 AI 功能的弹性，当网络连接顺畅的情况下开发者可以调用云端 AI，如果网络不畅或者离线则可以回退到本地 AI 处理。第三种是安全回退：采用内置 AI 的浏览器需要一定的时间，而且某些型号或某些太旧的设备可能无法使用本地 AI，这种情况下开发者可以继续调用云端 AI。Chrome 内置 AI 为所有开发者提供通用模型：现阶段开发者通过浏览器运行 AI 要么直接调用云端 AI 要么需要下载本地模型，而不同的开发者和不同的网站采用的 AI 模型不同，用户可能需要下载一大堆模型。Chrome 内置 AI 模型为所有开发者提供通用模型，这些模型一次下载即可使用，在用户已经下载过模型的情况下，调用模型的 PWA 应用可以做到开箱即用。这种方式应该可以大幅度提高 PWA 应用对 AI 功能的采用率，提高用户体验的同时也可以减少开发者很多繁杂的工作。 ... PC版： 手机版：

：旨在帮助小白开发者通过实践构建个人知识库助手，学习大模型应用开发的基础入门

：旨在帮助小白开发者通过实践构建个人知识库助手，学习大模型应用开发的基础入门 主要内容包括： 大模型简介，何为大模型、大模型特点是什么、LangChain 是什么，针对小白开发者的简单介绍； 如何调用大模型 API，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装； 大模型开发流程及架构，大模型应用开发的基本流程、一般思想和本项目的架构分析； 数据库搭建，不同类型知识库文档的加载、处理，向量数据库的搭建； Prompt 设计，如何设计 Prompt 来让大模型完成特定任务，Prompt Engineering 的原则和技巧有哪些； 验证迭代，大模型开发如何实现验证迭代，一般的评估方法有什么； 前后端开发，如何使用 Gradio、FastAPI 等框架快速开发大模型 Demo，展示应用能力。

苹果新发布20个Core ML模型和4个数据集 全部开源供开发者们使用

苹果新发布20个Core ML模型和4个数据集 全部开源供开发者们使用 苹果日前在知名 AI 模型托管平台 HuggingFace 上新发布了 20 个 Core ML 模型和 4 个数据集，这些模型全部采用 Apache 2.0 许可证进行开源，所有开发者均可使用。这些采用 Core ML 框架的新模型在功能上都有所不同，不过侧重点都是在设备端本地运行 AI 模型执行任务，这样数据不需要上云解决潜在的隐私问题。例如开发者可以构建一款用于图像分类的应用程序，在获得用户授权图库访问权限后，可以调用设备端模型进行处理；或者构建一个可以快速去除图像背景的应用程序，使用设备端模型也可以不上传图片，解决用户的隐私担忧。当然采用设备端模型还有个好处就是响应速度会非常快，借助云端处理开发者需要提供性能更强的服务器才能支撑并发使用，而服务器响应和处理都需要使用，本地处理则不需要使用网络，因此也免去了响应时间问题。目前设备端运行 AI 模型最大的问题在于芯片性能，例如苹果推出的苹果智能仅支持 A17 Pro 和 Apple M 系列芯片，对于更旧的芯片还是得第三方开发者们提供支持，虽然这也会存在性能问题。HuggingFace 创始人称这是一次重大更新，苹果将许多基于 Core ML 的新模型上传到了 HuggingFace 存储库，而 Core ML 模型严格在设备端运行无需网络连接，这可以让开发者的应用保持 “闪电般” 的速度，还可以确保用户数据的私密性。有兴趣的开发者们可以访问 HuggingFace 上的苹果主页获取这些模型，苹果也为部分模型提供了论文描述，开发者可以根据论文说明快速了解这些模型的性能： ... PC版： 手机版：

CSDN 推出了自己的 AI 产品“ChitGPT”，CSDN 自称：这是专门为开发者设计的大型语言模型，能够帮助用户解决在学习

CSDN 推出了自己的 AI 产品“ChitGPT”，CSDN 自称：这是专门为开发者设计的大型语言模型，能够帮助用户解决在学习和工作中遇到的各种计算机以及开发相关的问题，例如代码生成(用js写一个冒泡排序)，代码错误追踪，代码解释，代码语言转换，内容创作等，并提供持续更新的Prompt建议，帮助用户快速提问并找到答案。 当然，一定会有耿直的用户指出它实际上就是 ChatGTP 套壳。

Google在Chrome开发者版里集成了Gemini Nano，支持离线使用内置AI模型进行简单的任务，即使在断网情况下依然可

Google在Chrome开发者版里集成了Gemini Nano，支持离线使用内置AI模型进行简单的任务，即使在断网情况下依然可以正常使用。on-device AI不仅保证了数据安全，响应速度也非常快。 体验流程 1.安装Chrome开发者版本：https:// 并登录账号 2.在Chrome开发者版访问"chrome://flags/#prompt-api-for-gemini-nano"并设置为"Enabled" 3.访问"chrome://flags/#optimization-guide-on-device-model"并设置为"Enabled BypassPerfRequirement" 4.访问"chrome://components"，搜索"Optimization Guide On Device Model"组件，检查更新并确保是最新版本 5.完成以上步骤后即可在console里调用window.ai，或访问我做的网页https:// 进行体验 对Chrome built-in AI做了些优化： 1.用对话的形式和Chrome内置AI交互 2.支持本地缓存历史生成纪录 3.支持实时对话模式，AI响应时间在200-300毫秒 4.支持离线使用，不会存储任何数据（项目已开源）

【分享】ChatTools内置多种AI模型 海量功能汇聚一身

【分享】ChatTools内置多种AI模型 海量功能汇聚一身 【软件名称】ChatTools 【软件版本】v2.5.28 【软件大小】36mb 【适用平台】安卓 【软件简介】ChatTools是一个专为中文用户设计的多模型AI对话平台，旨在为用户提供免费、无需登录的实时、精准AI对话体验。以下是对ChatTools的详细介绍： ChatTools的主要功能和优势 功能亮点 对话和聊天：ChatTools支持GPT和Claude等多种AI模型，能够进行自然语言对话，回答问题，提供信息，甚至解决问题。 处理大量文本：最新的GPT-4模型能够处理多达2.5万字的长篇内容，适合生成文本、延伸对话或分析文件。 图像分析：ChatTools引入了GPT-4.0ALL模型，具备分析图像的能力，例如分辨图片中的元素和含义。 独特优势 用户可以直接访问ChatTools，无需任何工具，即可享受ChatGPT的服务。 中文友好：提供了全中文的界面和交互体验，更适合中文用户的使用习惯。 多模型支持：不仅支持ChatGPT，还支持Claude、Gemini等多种AI模型，为用户提供更多样化的选择。 免费体验：ChatTools提供了免费的AI对话体验，让用户能够无门槛地接触和使用这些先进的AI技术。 【下载地址】 链接： 高速下载不限速 备用链接:  提取码:fx9c 拿走吱一声禁止白嫖怪 拿走吱一声禁止白嫖怪