谷歌生成式人工智能失败将逐渐削弱用户信任

谷歌生成式人工智能失败将逐渐削弱用户信任 Google对此作出回应,删除了这些回复,并表示正在利用这些错误来改进其系统。但这些事件,加上Google灾难性的 Gemini 图像生成器发布,导致该应用程序生成了历史上不准确的图像,可能会严重损害这家搜索巨头的信誉。“Google应该是互联网上的主要信息来源。”纽约大学坦登工程学院计算机科学与工程副教授 Chinmay Hegde 解释道。“如果该产品被淡化,它将慢慢侵蚀我们对Google的信任。”Google的 AI 概览问题并不是该公司自开始其生成式 AI 驱动以来第一次遇到麻烦。该公司的 Bard 聊天机器人(Google于 2 月将其更名为 Gemini)在 2023 年 2 月的宣传视频中出现了一个错误,导致Google股价下跌。然后还有它的Gemini 图像生成器软件,它可以生成不准确场景中不同群体的照片,包括 1943 年的德国士兵。人工智能一直存在偏见,Google试图通过在生成人物图像时纳入更广泛的种族多样性来克服这一问题。但该公司矫枉过正,软件最终拒绝了一些针对特定背景人物图像的请求。Google对此作出回应,暂时下线了该软件,并为此事道歉。与此同时,AI 概览问题出现的原因在于Google表示用户问了一些不常见的问题。在吃石头的例子中,Google发言人表示,似乎一个关于地质学的网站将其他来源的有关该主题的文章联合发布到他们的网站上,而这恰好包括了一篇最初出现在洋葱报上的文章。AI 概览链接到了该来源。这些都是很好的解释,但Google继续发布存在缺陷的产品并需要进行解释的事实让人感到厌倦。卡内基梅隆大学泰珀商学院商业伦理学副教授德里克·莱本 (Derek Leben) 表示:在某种程度上,你必须对自己推出的产品负责。“你不能只是说......我们将把人工智能融入到我们所有成熟的产品中,而且它处于持续的测试模式,对于它造成的任何错误或问题,我们都不会负责,甚至不会受到指责,就对产品本身的信任而言。”Google是网上查找事实的首选网站。每当我和朋友就一些无聊的话题争论时,我们中的一个总会大喊:“好吧,Google一下!”你很可能也这么做过。也许不是因为你想证明你比朋友更了解辛普森一家的一些鲜为人知的事实,但仍然如此。关键是,Google已经建立了值得信赖的声誉,而它的人工智能失误正在慢慢侵蚀这一声誉。那么,为什么会出现这样的失误呢?Hegde 说,公司只是行动太快,在产品尚未准备好时就发布,以期超越微软等竞争对手(微软) 和 OpenAI。“研究的步伐如此之快,以至于研究和产品之间的差距似乎正在显著缩小,而这导致了所有这些表面问题。”他解释道。自 2023 年 2 月微软和 OpenAI 联手发布其 Bing 搜索引擎和聊天机器人的生成式 AI 版本以来,Google一直在努力摆脱落后于微软和 OpenAI 的形象。本月早些时候,OpenAI 甚至在 I/O 开发者大会开始前一天宣布了其强大的 GPT-4o AI 模型,从而抢在了Google之前。但如果击败竞争对手意味着推出会产生错误或有害信息的产品,那么Google就有可能给用户留下这样的印象:它的生成式人工智能成果不可信,最终不值得使用。 ... PC版: 手机版:

相关推荐

封面图片

谷歌表示将保护生成式人工智能用户免受版权索赔

谷歌表示将保护生成式人工智能用户免受版权索赔 谷歌(Google)周四表示,如果谷歌云(Google Cloud)和 Workspace 平台上的生成式人工智能系统用户被指控侵犯知识产权,谷歌将为其辩护,微软、Adobe和其他公司也做出了类似承诺。 谷歌等大型科技公司一直在对生成式人工智能进行大量投资,并竞相将其纳入自己的产品。著名作家、插图画家和其他版权所有者在多起诉讼中表示,使用他们的作品来训练人工智能系统以及系统创造的内容都侵犯了他们的权利。 谷歌表示,新政策适用于软件,包括其 Vertex AI 开发平台和 Duet AI 系统,后者可在谷歌工作空间和云程序中生成文本和图像。新闻稿没有提及谷歌更知名的生成式人工智能聊天机器人程序 Bard。 该公司还表示,如果用户 "故意创建或使用生成的输出来侵犯他人的权利",则赔偿不适用。 (The Globe and Mail)

封面图片

谷歌将生成式人工智能引入 Google 地图

谷歌将生成式人工智能引入 Google 地图 当地时间2月1日,谷歌宣布推出使用生成式人工智能来发现地点的新方法。只需用户说出要寻找的内容 (无论是多么具体、独特或广泛),谷歌的大语言模型 (LLM) 就会分析 Google 地图上超过 2.5 亿个地点的详细信息以及来自超过 3 亿贡献者的社区的可信见解,从而快速提出去哪里的建议。这项早期访问实验将于本周在美国启动。

封面图片

网站生成式人工智能手册

网站生成式人工智能手册 网站功能:人工智能学习手册 网站简介:一个免费、开源的学习资源,旨在系统地组织和呈现现代人工智能(AI)系统的核心概念,尤其是大型语言模型(LLM)和其他生成式模型的最新进展。 该手册为技术背景的读者提供了一条学习路径,帮助他们深入理解生成式AI的基础和应用,特别适合那些对AI充满好奇或希望在该领域发展职业的人士。 网站链接:点击打开 频道 群聊 投稿 商务

封面图片

Google图像生成人工智能Imagen 3迎来升级

Google图像生成人工智能Imagen 3迎来升级 Google人工智能研究部门DeepMind负责人德米斯-哈萨比斯(Demis Hassabis)说,与前代产品Imagen 2相比,Imagen 3能更准确地理解文字提示,并将其转化为图像,而且在生成图像方面更具"创造性和细节"。此外,该模型产生的"干扰人工智能"和错误也更少。哈萨比斯补充说:"这也是我们目前渲染文本的最佳模型,而渲染文本一直是图像生成模型面临的挑战。"为了消除人们对深度伪造可能性的担忧,Google表示,Imagen 3 将使用 DeepMind 开发的SynthID 方法,在媒体上应用隐形加密水印。在Google的ImageFX工具中可以注册 Imagen 3 的私人预览版,Google表示,该模型将"很快"提供给使用Google企业生成式人工智能开发平台 Vertex AI 的开发人员和企业客户。Google通常不会透露太多用于训练人工智能模型的数据来源,这次也不例外。这是有原因的。大部分训练数据来自网络上的公共网站、资源库和数据集。而其中的一些训练数据,特别是未经内容创作者许可的受版权保护的数据,是知识产权相关诉讼的源头。Google的网站发布者控制功能允许网站管理员阻止搜索引擎与AI爬虫从他们的网站上获取数据,包括照片和视频。但是,Google并没有提供"退出"工具,而且与某些竞争对手不同的是,Google并没有承诺对权利人(在某些情况下是在不知情的情况下)为训练数据集做出的贡献进行补偿。缺乏透明度并不令人惊讶,但令人失望的尤其是像Google这样拥有丰富资源的公司。 ... PC版: 手机版:

封面图片

Google推出人工智能图像生成工具TextFX

Google推出人工智能图像生成工具TextFX Google在一篇博文中写道:"ImageFX 专为实验和创意而设计,它可以让你通过简单的文字提示来创建图片,然后通过使用表现力芯片的新提示方式轻松修改图片。"Google声称,它已采取措施确保 TextFX 不会被以非预期的方式使用,例如通过添加"技术保障"来限制"有问题的输出",如暴力、攻击性和色情内容。TextFX 还为"指定人物"(可能是公众人物)设置了一个提示级过滤器尽管Google在其新闻材料中并没有特别明确这一点。"我们从一开始就对训练数据的安全性进行了投资,"Google说。"根据我们的人工智能原则,我们还进行了广泛的对抗性测试和红队合作,以识别和减少潜在的有害和有问题的内容"。作为一项额外的安全措施,Google在使用ImageFX制作的图片上标注了SynthID数字水印,据称这种数字水印对图片编辑和裁剪具有很强的抵御能力。Google在博文中继续介绍道:"SynthID 水印肉眼无法察觉,但可用于识别。通过'关于此图片'中增加的洞察力,当你在Google搜索或 Chrome 浏览器中看到一张图片时,你就会知道它是否可能是由Google的人工智能工具生成的。"你可以在Google用于人工智能实验项目的网络应用程序 AI Test Kitchen 中找到 ImageFX。Imagen 2 扩展在今天的相关新闻中,Google表示,从本周开始,它将把 Imagen 2 带到更多的产品和服务中,包括下一代人工智能搜索体验和人工智能托管服务 Vertex AI 系列。现在,Imagen 2 还支持Google广告中的文本到图片功能和Google GenAI 生产力产品套件 Workspace 中的 Duet AI,它已经进入了Google的 SGE(搜索生成体验)。SGE 于去年 10 月开始在Google图片搜索中为用户提供图片生成工具,现在则利用 Imagen 2 生成图片。用户可以输入一个提示,说明他们想要什么样的图片,SGE 会在 SGE 对话体验中直接返回四个结果。Imagen 2 的另一个样本在 Vertex AI 中,Imagen 2 可通过 API 提供给Google云客户。在其他地方,Imagen 2 现在可以通过Google的人工智能聊天机器人 Bard 调用。Google解释说:"有了Imagen 2,Bard可以理解简单或复杂的提示,这样你就可以生成一系列高质量的图像。只需输入一个描述比如'创建一个狗骑冲浪板的图像'Bard就会生成定制的、范围广泛的视觉图像,帮助你把想法变为现实。"Google仍未透露用于训练 Imagen 2 的数据,这并不令人意外。像Google这样的 GenAI 供应商是否可以在公开数据(甚至是受版权保护的数据)上训练模型,然后再将该模型商业化,这是一个未决的法律问题。相关诉讼正在法院审理中,供应商认为他们受到合理使用原则的保护。但尘埃落定尚需时日。与此同时,Google对此事保持沉默,以策安全。 ... PC版: 手机版:

封面图片

【金山办公发布生成式人工智能应用WPS AI】

【金山办公发布生成式人工智能应用WPS AI】 4月18日消息,据证券时报报道,金山办公正式发布具备大语言模型能力的生成式人工智能应用,暂定代号「WPS AI」,主要包括文本生成、多轮对话、润色改写等功能。 「WPS AI」首先搭载在金山办公新一代在线内容协作编辑工具轻文档(airPage)上,未来将逐步放开公测,嵌入金山办公全线产品。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人