Google人工智能概览因给出笑话百出且甚至危险的错误答案受到批评

Google人工智能概览因给出笑话百出且甚至危险的错误答案受到批评 AI 概览在 Google 搜索的最顶部显示搜索问题答案的简要摘要。例如，如果用户搜索清洁皮靴的最佳方法，结果页面可能会在顶部显示AI 概览，其中包含多步清洁过程，这些信息是从网络上综合收集的信息中收集的。但社交媒体用户分享了大量截图，显示人工智能工具给出了不正确且有争议的回答。Google、微软、OpenAI 和其他公司正处于生成式人工智能军备竞赛的主导地位， 似乎每个行业的公司都在争相添加人工智能聊天机器人和代理，以避免被竞争对手甩在后面 。预计该市场的收入将在十年内超过 1 万亿美元。根据用户分享的截图，以下是 AI Overview 产生的一些错误示例：当被问及美国有过多少位穆斯林总统时，AI Overview回答道：美国有过一位穆斯林总统，即巴拉克·侯赛因·奥巴马。当用户搜索奶酪不粘在披萨上时，该功能建议添加“约 1/8 杯无毒胶水到酱汁中”。社交媒体用户找到了一条11 年前的 Reddit 评论，似乎是该评论的来源。归因对于 AI Overview 来说也可能是一个问题，尤其是在将不准确的信息归因于医疗专业人员或科学家时。例如，当被问及“为了获得最佳健康，我应该盯着太阳看多长时间”时，该工具回答道，“根据 WebMD 的说法，科学家表示，盯着太阳看 5-15 分钟，或者如果你的皮肤较黑则最多盯着 30 分钟，一般来说是安全的，并且对健康最有益。”当被问及“我每天应该吃多少块石头”时，该工具回答道：“根据加州大学伯克利分校地质学家的说法，人们每天应该至少吃一块小石头”，并列出了其维生素和消化益处。当被问及Google搜索是否违反反垄断法时，AI Overview表示，“是的，美国司法部和 11 个州正在起诉Google违反反垄断法。”另一位用户发帖称， Google AI 摘要称非洲 54 个公认国家中没有一个以字母K开头显然忘记了肯尼亚。Google周五向 CNN 证实，这两项查询的 AI 概述因违反公司政策而被删除。Google发言人科莱特·加西亚 (Colette Garcia) 在一份声明中表示：绝大多数人工智能概述都提供了高质量的信息，并提供了深入挖掘网络的链接。她还补充说，其他一些流行的Google人工智能失误的例子似乎是被操纵的图像。“我们在推出这一新体验之前进行了广泛的测试，与我们在搜索中推出的其他功能一样，我们非常感谢大家的反馈。我们会根据我们的内容政策迅速采取行动。”每个 Google AI 搜索概述的底部都承认生成式 AI 是实验性的。该公司表示，它进行了旨在模仿潜在不良行为者的测试，以防止虚假或低质量的结果出现在 AI 摘要中。Google的搜索概览是该公司将其 Gemini AI 技术融入其所有产品的更大努力的一部分，该公司试图在 AI 军备竞赛中与 OpenAI 和 Meta 等竞争对手保持同步。但本周的失败表明，添加 AI（倾向于自信地陈述虚假信息）的风险可能会损害Google作为在线信息搜索可信来源的声誉。即使在较不严肃的搜索中，Google的人工智能概览有时也会提供错误或令人困惑的信息。在一次测试中，CNN 向Google询问泡菜汁中含有多少钠。人工智能概览回答说，一份 8 液量盎司的泡菜汁含有 342 毫克钠，但一份不到一半大小的泡菜汁（3 液量盎司）含有的钠是原汁的两倍多（690 毫克）。（沃尔玛出售的Best Maid 泡菜汁仅 1 盎司就含有 250 毫克钠。）CNN 还搜索了：用于Google人工智能训练的数据。在回应中，人工智能概述承认目前尚不清楚Google是否阻止将受版权保护的材料纳入用于训练其人工智能模型的在线数据中，这体现了人们对人工智能公司运作方式的极大担忧。这并不是Google第一次因为令人尴尬的失误而放弃其人工智能工具的功能。今年 2 月，该公司暂停了其人工智能照片生成器创建人物图像的功能，此前该生成器因制作与历史不符的图像而受到批评，这些图像主要以有色人种代替白人。Google的搜索实验室网页允许用户在已推出 AI 搜索概览的区域中打开或关闭该功能。 ... PC版： 手机版：

Google的AI概览被发现很糟糕：建议人们每天应该吃一块石头

Google的AI概览被发现很糟糕：建议人们每天应该吃一块石头 例如当在Google上搜索 “我每天应该吃多少块石头？” 时，AI 概览给出的结果是引用美国加州大学伯克利分校的地质学专家建议，建议人们每天至少应该吃一小块石头。地质学家当然没有这种建议，因为 AI 引用的消息源实际上来源于专注于各种恶搞消息的洋葱新闻网，AI 并不能区分哪些网站的哪些内容是正常内容还是讽刺内容。这件情况甚至都惊动了洋葱新闻的首席执行官，经过测试他们发现Google的 AI 概览引用了不少洋葱新闻的恶搞内容。当然Google即便将洋葱新闻从 AI 概览中剔除也不能解决问题，毕竟发布虚假消息或恶搞消息的网站非常多，真正解决方案是 AI 应当能够判断哪些内容属于正常内容。在传统搜索引擎模式中，搜索引擎只负责索引内容但不对内容负责，即用户自己点击虚假信息网站并受到欺骗搜索引擎不需要承担责任，而现在Google自己提供 AI 概览，接下来再继续出现虚假内容并造成潜在的危害，那么Google看起来应当对此负责。目前Google尚未就此事发布回应，不过现在Google应该已经进行了特殊处理将洋葱新闻从 AI 概览里剔除。相关文章:Google的AI搜索功能向用户建议使用胶水让奶酪粘在披萨上 ... PC版： 手机版：

Google搜索团队再次发文称将改进AI概览 同时指责部分用户伪造截图蹭热点

Google搜索团队再次发文称将改进AI概览 同时指责部分用户伪造截图蹭热点 Google搜索日前在美国市场推出 AI 概览功能，该功能旨在用户搜索某些问题时由 Google Gemini 人工智能模型驱动的 AI 概览自动收集并整理搜索结果中的内容，然后直接给用户提供回答无需用户挨个点击搜索结果查看网页内容。然后就有用户发现Google AI 概览存在诸多问题，例如建议人们每天应该吃一些石头保持健康，其数据源来自讽刺网站洋葱新闻网，即Google的 AI 模型无法判断哪些内容是正常的哪些属于讽刺内容。针对该问题Google搜索团队已经发过一次回应，一方面该团队对讽刺内容进行剔除，另一方面则指责用户故意搜索这些奇怪的问题 这些问题本身就具有误导性。本周Google搜索团队再次针对 AI 概览的糟糕问题进行回应，Google搜索团队称已经进行了多个改进确保 AI 概览可以正常工作，减少发生错误的概率。具体工作包括：针对不应该显示 AI 概览的无意义查询建立更好的监测机制，并限制使用讽刺和幽默内容更新系统限制在 AI 概览中使用可能提供误导性的建议或存在误导性的由其他用户生成的内容针对部分使用 AI 概览本身就没太大意义的关键词查询限制触发，即不会显示 AI 概览内容针对新闻和健康类的主题制定严格的防护措施，针对新闻是尽可能不显示概览、针对健康则增强质量保护Google搜索团队也解释洋葱新闻的吃石头问题，该团队称人们每天应该吃多少石头本身是个不常见并且没有意义的查询，而Google的搜索结果里只包含少量结果，其中就包含洋葱新闻的来源。这种情况下 AI 概览就直接引用了洋葱新闻的内容而没有考虑其他内容源 (主要也是没有) 作为参考，现在对于这种查询 AI 概览不会被触发。针对有害 / 色情 / 其他违规信息：Google自己的统计数据显示大约每 700 万次 AI 概览只有不到一个是违规信息，针对任何类型的违规信息Google都将继续改进系统确保这些内容不会出现在用户面前。该公司称每天在Google上有数十亿次查询，这里面必然会出现一些异常和错误，而在过去 25 年里Google已经学会了如何构建和维护高质量搜索体验的知识，包括从错误中汲取教训。为此Google将继续优化 AI 概览加强保护措施，同时还会针对极端情况进行额外处置，让搜索服务可以更好地服务于每个人。最后Google依然在喷大家瞎搞：在之前的回复中Google搜索团队已经指责用户故意进行不正常的查询来蹭热点，这次回应中Google还提到部分流传的截图属于伪造的。例如将狗留在车内、怀孕期间吸烟和抑郁等相关查询的截图在社交媒体上广泛流传，但Google分析后发现这些搜索结果从未在 AI 概览中出现，因此这部分内容属于伪造蹭热点的。Google建议用户对这些截图内容进行事实核查，包括自己动手进行搜索测试等(而不是看到别人发图就转发)。 ... PC版： 手机版：

专家称Google AI搜索可能会蚕食自己收入来源

专家称Google AI搜索可能会蚕食自己收入来源 “治疗普通感冒的方法是什么？ ”Google之前可能已经将其用户引导至数百个来源，例如梅奥诊所、疾病控制与预防中心甚至 GoodRx。现在，它正在使用人工智能来抓取这些来源并提供没有归属的答案。Google确实在其新的 AI 概述下提供了一些链接，但这些链接可能不是答案的来源。那么Google为什么要这样做呢？专家表示，进军生成式人工智能领域无疑将帮助Google与聊天机器人ChatGPT的创造者 OpenAI和微软等公司展开竞争。目前尚不清楚Google将如何利用其新技术赚钱。2023 年，Google通过其 Google Ads 平台创造了 2378.6 亿美元的广告收入，该平台允许大大小小的企业购买产品和服务的数字广告。自 2018 年以来，Google广告收入增长了一倍以上。那么，如果 AI 概览让更多用户留在 Google主页上，而将更少的用户推送到发布利润丰厚的广告的网页上，Google 的广告收入会不会受到很大打击呢？东北大学媒体创新与技术副教授约翰·维贝 (John Wihbey) 认为，至少在短期内会如此。威贝说：看起来他们可能正在蚕食自己的收入来源。Google的人工智能概览和对链接的弱化可能会使网站流量减少约 25%。“特别是对依赖流量的网络出版商来说，可能会出现绝对的断崖式增长。”威贝说。Wihbey 表示，企业和出版商可能会开始在其网站上提供新的数据层，以供人工智能搜索引擎检测，并通过拍卖获得在搜索结果中显示的机会。维贝说，搜索引擎优化 (SEO)（使用关键词和短语使内容在 Google 搜索中排名更高）也在发展。“我确信人工智能模型 SEO 将会出现一个全新的行业。”他说。“最终可能会出现网站、企业和出版商提供新数据，然后以某种方式为模型提供数据。”Google表示，最终将把广告与其 AI Overview 连接起来，预计到今年年底将覆盖约 10 亿人。Wihbey 说，但如果用户将其视为付费广告，他们可能不愿意阅读或信任 AI 概述。但 AI 概览并非完美无缺事实上，缺陷颇多。社交媒体上充斥着Google建议人们吃石头或在披萨上涂胶水的例子，以及前总统巴拉克·奥巴马是穆斯林的例子。维贝表示，很难判断Google推出的人工智能技术是否已经完全准备好发布。他说，或许Google正在做许多初创公司（包括 20 世纪 90 年代的 Twitter 和 Reddit）所做的事情。维贝说，他们在推出产品时并没有可靠的收入来源，并希望在吸引数亿用户的同时找到解决办法。“嗯，Twitter 从来没有弄清楚过。”他说。威贝负责东北大学媒体创新和数据通信、新闻和媒体宣传方面的研究生课程。他还担任 Twitter 的研究顾问。需要说明的是，他并不认为Google的搜索引擎和人工智能战略（先吸引受众，然后再研究如何赚钱）是一个坏主意。维贝表示，毕竟，如果Google不能保持其全球领先搜索平台的地位，它最终将失去连接买家和卖家的能力。“我认为一种新的架构正在开始出现。”维贝说。“我们所熟知的典型万维网将不断发展，拥有新的数据层，为这些 [AI 搜索] 模型提供数据。”Wihbey 表示，正如 Google 的 AI 概览所示，搜索正变得越来越复杂。用户提出问题的同时，也期待得到更复杂的答案，例如有关健康计划、业务和家庭的问题。维贝说：人们正在推动人工智能变得更具代理性，这意味着人工智能正在承担帮助人们解决复杂问题和预测用户需求的角色。“你可以想象人们开始使用代理进行搜索，然后搜索 AI 模型与代理进行交互。”Wihbey 说。然而，维贝表示，Google与 OpenAI 和其他竞争对手相比具有明显的竞争优势，因为其母公司Alphabet 拥有超过 250 家公司，包括 Google Chrome、YouTube 和Google的广告供应商 Adsense。因此，Wihbey 说，Google可以将人工智能模型融入到多种产品中，并在收集有用数据的同时训练人们做某些事情。与此同时，其他人工智能平台一直在与新闻媒体合作，将其内容用于其人工智能模型。上周，OpenAI 与鲁珀特·默多克的新闻集团签署了一项协议，该集团拥有美国的《华尔街日报》和《纽约邮报》以及英国的《泰晤士报》和《星期日泰晤士报》。OpenAI 此前曾与《金融时报》签署了一项内容协议。同样地，威贝说，Google最终可能会向所有可以想象到的出版商付费，以支持其生成式 AI 模型，包括 AI Overviews。“我认为这些数据许可协议必须随着时间的推移变得越来越有利可图。”维贝说。 ... PC版： 手机版：

Google放弃在桌面和移动设备上提供连续滚动提供搜索结果的功能

Google放弃在桌面和移动设备上提供连续滚动提供搜索结果的功能 事实证明，在Google搜索中使用连续滚动并不是一个巨大的进步。Search Engine Land直接从Google发布消息称，Google将放弃搜索结果的连续滚动，转而使用老式的分页系统。报道称，根据Google发言人的说法，改回旧的页面系统实际上会比连续滚动更快地生成搜索结果，因为用户无需加载任何未请求的结果。此外，连续滚动方式并不能让Google搜索用户感到更满意。报道指出，这种切换可能会影响一些搜索引擎优化结果，因为用户从现在起必须点击第 2 页才能获得更多链接，而不是直接向下滚动来查看更多结果。Google表示，桌面搜索用户今天应该可以恢复旧的分页布局。在移动设备上进行同样的更改显然需要更长的时间。Google表示，他们还将在未来几个月内改用分页系统。这一变化发生在Google 为美国用户推出 搜索中的人工智能概述几周之后。当时，该公司表示会根据搜索外部链接收集到的信息来创建问题答案。然而，该公司很快就遭到了许多用户的批评，称一些人工智能概述的答案与事实不符。据 Search Engine Land 几天前报道，AI 概述的答案 只出现在Google搜索总量的百分之几。 ... PC版： 手机版：

Google开始在美国测试AI生成答案中的搜索和购物广告

Google开始在美国测试AI生成答案中的搜索和购物广告 Google一直在寻求将其主导地位从传统搜索广告扩展到新兴的生成人工智能技术。该公司旨在通过将人工智能集成到其搜索引擎中来提高广告销售，这是这家科技巨头的主要收入来源。Google报告称，截至 3 月 31 日的第一季度广告销售额增长了 13%，达到 617 亿美元。该公司表示将继续测试和学习新的广告格式，获取广告商的反馈。上周，在 I/O 大会上，Alphabet 展示了如何在其业务中构建人工智能，包括增强的 Gemini 聊天机器人以及对其备受推崇的搜索引擎的改进。 ... PC版： 手机版：