披萨上涂胶水、建议用户吃石头、毒蘑菇……Google又被大模型带沟里

披萨上涂胶水、建议用户吃石头、毒蘑菇……Google又被大模型带沟里 为此，Google不得不争分夺秒地手动禁用某些搜索的 AI Overview 功能，对这些问题进行修复和优化。Google的 AI Overviews 是一个增强搜索引擎结果的功能，利用人工智能技术，在搜索结果顶部提供 AI 生成的答案。在美国地区，Google主要和 Reddit 社区合作来解答用户的提问。Google表示，它将为美国用户的在线查询提供人工智能生成的答案，这是其搜索引擎 25 年来最大的更新之一。Google AI“胡说八道”引争议近日，有网友在Google搜索中查询“芝士和披萨粘不到一块”的解决办法，但 AI 给出的答案离了个大谱，“你还可以把 1/8 杯的无毒胶水加到酱料里，使其更有黏性。”更搞笑的是，有网友还找到了披萨胶水回答的出处，是十多年前名为“fucksmith”的用户在 Reddit 帖子中的恶搞评论。还有网友问：“兔子曾经在 NBA 打过球吗？”Google AI 肯定地回答“yes!”还声称一只名为 Rabbit Walthour 的兔子在 NBA 打过球，是密尔沃基鹰队的后卫，甚至给出了这只兔子的身高、体重、出生日期。更无语的是，Google AI 搜索给出了相关链接，竟是 NBA 球员 Rabbit Walthour 的个人信息。原来GoogleAI把NBA球员Rabbit Walthour和rabbit（兔子）搞混了。Google这种“口出狂言”的行为还有很多。声称前美国总统詹姆斯・麦迪逊 21 次毕业于威斯康星大学，一条狗曾在 NBA、NFL 和 NHL 打过球，以及蝙蝠侠是一名警察……Google的 AI Overview 之所以引发争议，是因为它的回答不仅愚蠢而且有害。比如，它建议人们每天至少吃一块小石头，还搬出地质学家，煞有介事地说：“为了过上健康、均衡的生活，美国人应该在早餐、午餐或晚餐中至少摄入一份鹅卵石、晶石或砾石。”（这是哪个地质学家说的？）再如，有网友发了一张毒蘑菇的图片以及“口蘑！好吃！”的文字，Gemini 丝毫没有察觉出这蘑菇可能有毒。此外，当网友问“被响尾蛇咬了该怎么办”时，Google AI 竟然让他用冰块来冷敷伤口。更有甚者，Google AI 还挑唆抑郁症患者从金门大桥上跳下去。自从Google为美国用户默认开启 AI Overview 功能后，这类可怕糟糕的搜索结果就层出不穷，也由此引发网友声讨。不过也有网友质疑其中很多示例都是P图。一位匿名的 AI 创始人吐槽道：“一家以尖端技术和高质量产品而闻名的公司，现在却以低质量输出和各种梗图而著称。”Google紧急“灭火”Google仍然坚称其 AI Overview 功能向用户提供了大量“高质量信息”。Google发言人梅根・法恩斯沃斯表示，“用户展示的事例都是不常见的查询，并不代表大多数人的经历，我们也看到了一些被篡改或我们无法复现的例子。”同时，Google正“迅速采取行动”，在某些查询中移除 AI 生成的内容。法恩斯沃斯表示，“公司已对违反其政策的行为采取行动…… 并正在利用这些『孤立的例子』继续完善产品。”实际上，Google已经测试 AI Overviews 功能一年多了。该功能于 2023 年 5 月作为 “搜索生成体验”（Search Generative Experience）的测试版推出。Google CEO 桑达尔・皮查伊表示，在此期间公司已经处理了超过 10 亿次查询。不过，皮查伊也表示，“在硬件、工程和技术突破的推动下”，Google已经将提供人工智能答案的成本降低了 80%。如今看来，这种优化似乎发生得太早了，技术并未准备好。纽约大学的 AI 专家和神经科学荣誉教授加里・马库斯（Gary Marcus）表示，许多 AI 公司正在“兜售梦想”，认为这项技术将从 80% 的正确率提高到 100%。马库斯说，达到最初的 80% 正确率相对简单，因为它涉及到大量近似人类数据，但最后的 20% 极具挑战性。实际上，马库斯认为最后的 20% 才是最难的。马库斯说：“你实际上需要进行一些推理来判断：这件事是否可信？这个来源是否合法？你必须像人类事实核查员那样做一些事情，这实际上可能需要 AGI。”马库斯和 Meta 的 AI 首席 Yann LeCun 都认为，Google Gemini 和 OpenAI 的 GPT-4 等大型语言模型将不会创造出 AGI。而Google正面临一个棘手的局面。Bing 抢在Google之前在 AI 上大做文章，OpenAI 据称也在开发自己的搜索引擎，新一代用户正转向 TikTok 寻求最佳体验。Google显然感到了竞争的压力，而这种压力正是导致这次事件的原因。马库斯指出，在 2022 年，Meta 曾发布了一个名为 Galactica 的 AI 系统，但很快就下架，因为它告诉人们吃玻璃。历史总是惊人的相似。Google对 AI Overviews 寄予厚望 目前存在的功能只是公司上周宣布的一小部分。对于复杂查询的多步骤推理，生成由 AI 组织的结果页面的能力，以及在 Google Lens 中进行视频搜索，这些才是重头戏。但现在，Google的声誉取决于能否做好最基本的事情，目前的情况并不乐观。马库斯说：“（这些模型）天生无法对自己的工作进行理性检查，而这正是这个行业的致命伤。” ... PC版： 手机版：

Google主搜索界面将小规模测试来自SGE的AI概述

Google主搜索界面将小规模测试来自SGE的AI概述 2023 年 5 月，Google开放了搜索实验室板块，供搜索者选择查看和使用Google SGE 结果，其中包含人工智能概述。现在，美国的一些用户可能会在没有特别选择查看的情况下看到这些人工智能答案。Google将向一小部分美国用户展示人工智能概述。首先从一组它认为生成式人工智能特别有用的查询开始。这些查询通常比较复杂，或者涉及从一系列网页中获取信息可能会有帮助的问题，比如"如何去除油漆墙壁上的痕迹"。对于这些测试，Google表示它对这些查询的质量和给用户带来的价值很有信心。一般来说，当人工智能确实具有附加作用，而且人们会得到比现在在"搜索"上看到的更好的回复时，它就会显示人工智能概述。Google将测试几种不同的变体，因此搜索者在实验中看到的内容可能不会在本次测试中向所有用户广泛推出。Google希望从没有专门选择 SGE 的搜索用户那里获得反馈,这样他们就可以获得反馈，了解更多的人将如何发现这项技术的帮助，与此同时，Google将继续在这些新的人工智能概述体验中和周围显示广告。这些人工智能答案可能会拉低标准搜索广告出现的位置，这可能会导致流量减少，也可能会增加，这取决于引用的来源和Google投放广告的位置。可能的情况是，与当前的Google搜索结果相比，这些体验可能会减少网站的总体流量。时间会证明Google何时全面推出这项功能，但现在，你不再需要在 SGE 实验室里才能看到人工智能概述，Google正在外部进行测试。 ... PC版： 手机版：

ℹ披萨加胶水防起司滑落？Google AI Overviews 建议引发热议，实测真的有效但别尝试！#

ℹ披萨加胶水防起司滑落？Google AI Overviews 建议引发热议，实测真的有效但别尝试！# Business Insider 的记者 Katie Notopoulos 为了验证 Google AI Overviews 提供的答案是...

谷歌改进AI概述功能 以响应用户投诉

谷歌改进AI概述功能 以响应用户投诉 在谷歌面向美国用户推出基于人工智能输出答案的服务数周后，出现了一些离奇的查询结果。有用户报告称出现一些奇怪和不正确的答案，如提倡食用石头有益健康和使用胶水把奶酪粘在披萨上。谷歌表示，能够观察到问题发生的规律，并对该功能进行了十几项技术改进。谷歌搜索副总裁莉兹·里德在周四发表的博客文章中说：“我们以高标准要求自己，我们的用户也是如此，因此我们期待并感谢用户的反馈，并会认真对待。”“我们还看到了一些无意义的新搜索，似乎是为了生成错误的结果。”谷歌表示，此前存在大量假装显示该公司人工智能概述结果的假截图。针对出现的奇怪、不准确或无帮助的概述，谷歌建立了一个更好的检测系统来确定荒谬的查询，现在这些查询将不会显示此类人工智能生成的结果了。

Google将搜索服务中集成AI 时顶部展示概述和回答

Google将搜索服务中集成AI 搜索时顶部展示概述和回答 但谷歌搜索集成的人工智能服务还不是完全由 Google Gemini 提供，谷歌称将使用多个信息来源来创建摘要内容，摘要部分还会附加信息源的链接，在用户有需要的时候可以点击了解进入对应的网站查看更多内容。这种服务看起来应该会减少网站的流量不利于出版商获得收入，但谷歌表示与传统网络列表相比，AI 概述中包含的链接点击次数更多，这样也可以为出版商和创作者提供更多有价值的流量。不过无论如何这种简化用户操作的步骤都会减少用户在搜索结果上甄别内容、点击、阅读的时间，或许未来搜索引擎优化要变成针对人工智能的优化。新的谷歌搜索人工智能概述功能目前已经在美国市场推出，未来几个月谷歌将逐渐将这个新版本扩展支持到全球更多市场。同时谷歌还在规划一系列新功能，将谷歌搜索变成 Gemini 人工智能的交互位置，例如你可以搜索如何计划下一个假期，这时候谷歌会直接根据用户提示词输出完整的计划安排，如果用户觉得没问题那还可以导入 Google Docs 或 Gmail 中，这个步骤实际上都省去了用户专门去 Gemini 里对话的步骤。未来所有搜索引擎可能都会逐渐转变为人工智能 + 搜索引擎的模式，毕竟如果传统搜索引擎不转型的话，那么用户可能会逐渐转向人工智能平台到时候对谷歌这类依赖搜索引擎的公司会产生不利影响。 ... PC版： 手机版：

Google Maps将很快把生成式AI的使用范围扩大到所有愿意加入的用户

Google Maps将很快把生成式AI的使用范围扩大到所有愿意加入的用户 在最新版本的Google地图测试版 Android 应用程序中发现的代码字符串表明，实验性的生成式人工智能功能可能正朝着实验室的方向发展。由于实验室是任何感兴趣的人都可以注册试用Google正在开发的新实验功能的地方，因此生成式人工智能可能很快就会在Google地图中向所有人开放。以下是在最新的 Google 地图测试版中发现的代码字符串：让地图成为您的向导，现在有了生成式人工智能实验室的生成式人工智能实验利用生成式人工智能为您的搜索增添动力。更快地找到新想法、新灵感和新冒险、更轻松的方式找到新想法、新灵感和新冒险。"这是一项早期试验，地图不会总是正确的。有了你们的反馈，它每天都会更好。%1$s""为了继续提高质量，与您的使用情况、查询和位置有关的一些数据可能会在以后由人工进行审查，但这些数据不会与您的Google账户相关联。可能会由人工审核，但这些数据与您的Google账户无关"。如果 %1$s 关闭，则使用生成式人工智能进行的搜索会暂时存储并与您的……最长 24 小时，以提供情景化体验。如果您继续，则表示您同意 %1$s 服务条款。要关闭使用生成式人工智能的搜索、访问设置中的实验室。据Google介绍，地图的人工智能生成功能允许用户使用人工智能来帮助发现当地的新地点、餐馆、活动等。官方还举例说明了在旧金山寻找古董店的过程，然后地图会根据评论、附近商家的信息、评级等进行分析并显示结果。搜索结果分为服装店、黑胶唱片店和跳蚤市场等类别，并附有图片，可帮助您找到所需的信息。此外，用户还可以向地图提出后续问题，以获得与主题相关的结果。到目前为止，还不清楚Google计划何时将地图生成人工智能功能引入实验室。 ... PC版： 手机版：