基于WebGPU的免安装本地AI聊天机器人

基于WebGPU的免安装本地AI聊天机器人早前谷歌在GoogleChromeCanary版里发布了WebGPU项目,该项目可以让开发者基于浏览器调用本机显卡算力。所以在GitHub上有开源团队构建了项目,即基于Web的大型语言模型,一切都在浏览器内运行,不需要服务器支持、不需要安装、直接利用WebGPU特性运行。这个项目可以大幅度简化搭建AI聊天机器人的步骤,而且可以保护隐私,因为这个AI模型是“你”控制的,你提交的数据不会被共享给开发者进行模型训练。当然由于是相当于在本地运行的,所以显卡性能至关重要,根据开源团队说明,显存至少需要6.4GB,所以如果你的显卡显存比较小的话可能无法运行。必要条件:GoogleChrome113.0+、显存至少为6.4GB,使用不同的模型显存要求可能还会增加。项目地址:https://github.com/mlc-ai/web-llm演示地址:https://mlc.ai/web-llm/#chat-demo注:演示聊天使用的模型是vicuna-7b-v0。来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

相关推荐

封面图片

基于 LLaMA 的 AI 聊天机器人开源实现

基于LLaMA的AI聊天机器人开源实现Meta的大语言模型LLaMA最近引起了广泛关注,它的一大优势是参数规模更小但性能强于OpenAI的GPT-3模型,而且能运行在单张显卡上,让普通消费者的硬件也有可能提供类似ChatGPT性能的AI聊天机器人。LLaMA是一组大语言模型的集合,其参数规模从70亿到650亿,它最新的LLaMA-13B模型有130亿个参数,不到GPT-3模型1750亿个参数的十分之一。现在AI推出了首个基于人类反馈强化学习的LLaMAAI聊天机器人开源实现。来源,前文:来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

Nvidia发布可以在PC上本地运行的AI聊天机器人Chat with RTX

Nvidia发布可以在PC上本地运行的AI聊天机器人ChatwithRTX的早期版本,这是一款演示应用程序,可让您在PC上运行个人AI聊天机器人。您可以向其提供YouTube视频和您自己的文档,以创建摘要并根据您自己的数据获得相关答案。一切都在PC上本地运行,您所需要的只是具有至少8GBVRAM的RTX30或40系列GPU。Source:投稿:@TNSubmbot频道:@TestFlightCN

封面图片

AI 聊天机器人带来的挑战

AI聊天机器人带来的挑战自iPhone以来,还没有一种产品像ChatGPT那样引发如此强烈的反响。所有人都感到焦虑不安。Google也许比其他任何公司都更有理由对AI聊天机器人既爱又恨。它已宣布进入“紧急状态”,因为聊天机器人的能力可能对其1620亿美元的广告业务造成打击。但Google的云计算业务也可能是赢家,因为目前的AI聊天机器人是运行在云端。对网络出版商来说,一个严峻的挑战是当聊天机器人从网站上获取信息,但送到网站的访问者变少时,网站应该怎么办?《华尔街日报》已表示,用该报发表的文章来训练AI系统需要获得其许可。来源,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

Meta 推出由 Llama 3 提供支持的 AI 聊天机器人

Meta推出由Llama3提供支持的AI聊天机器人Meta今天采取了多项重大举措,以在其平台上推广其AI服务。该公司已使用其最新的大型语言模型Llama3升级了其AI聊天机器人,目前已在多个国家/地区的四大应用Facebook、Messenger、Instagram和WhatsApp的搜索栏中运行该聊天机器人。此外,该公司还推出了一个新的meta.ai网站,供用户访问聊天机器人。除此之外,该公司还推出了其他新功能,例如更快的图像生成和访问网络搜索结果。——

封面图片

AI 聊天机器人开发商

AI聊天机器人开发商Kore.ai完成1.5亿美元融资FTVCapital领投1月31日消息,据彭博社报道,AI聊天机器人开发商Kore.ai完成1.5亿美元融资,FTVCapital领投,英伟达等参投。Kore.ai创始人兼首席执行官RajKoneru表示,过去几年,Kore.ai的收入以三位数百分比增长,但没有透露具体细节。我们将在大约两年内具备IPO的规模和流程。Kore.ai集成了多个商业和开源大型语言模型,例如由OpenAI、Google、MetaPlatformsInc、Anthropic和Cohere构建的模型,然后对这些平台进行微调或使用新数据进一步训练它们具体任务。

封面图片

小红书内测AI聊天机器人“达芬奇”

Tech星球消息,小红书在主APP中内测了一个名为“DaVinci”(达芬奇)的AI功能,“DaVinci”可以为用户提供智能问答等AI聊天功能。该功能从9月份开始测试,持续到现在,这也是继AI群聊后,又一项新的AI应用。“DaVinci”可以提供偏向好物生活类的问答,包括旅游攻略、美食攻略、地理和文化常识、生活技巧、个人成长和心理建议,以及活动推荐等。据悉,“DaVinci”是基于Meta旗下的LLAMA的大模型进行训练的产品。via匿名标签:#小红书#AI频道:@GodlyNews1投稿:@GodlyNewsBot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人