AI并不“万能”：ChatGPT给出癌症治疗方案被指漏洞百出

AI并不“万能”：ChatGPT给出癌症治疗方案被指漏洞百出更致命的是，这些错误信息被ChatGPT与正确信息混杂在一起，导致用户难以分辨到底哪些信息是准确可靠的。参与该研究的DanielleBitterman博士称，ChatGPT回答中，错误信息与正确信息的混合程度相当高，已经达到了专家也难以发现问题的程度。事实上，此前就曾有大量消息指出，目前的ChatGPT，或其他生成式人工智能，仍然存在给出强误导性、或是完全错误信息的情况。对此，以OpenAI为首的人工智能研发团队已经表示，将在后续的开发中提高AI回答的可靠性，避免这样类似“幻觉”情况的出现。此外，OpenAI已经在使用条款中警告用户，模型并非是为提供医疗信息设计，也不应该被用于为严重的医疗状况提供诊断或治疗服务。...PC版：https://www.cnbeta.com.tw/articles/soft/1379819.htm手机版：https://m.cnbeta.com.tw/view/1379819.htm

Google的AI概览被发现很糟糕：建议人们每天应该吃一块石头

Google的AI概览被发现很糟糕：建议人们每天应该吃一块石头例如当在Google上搜索“我每天应该吃多少块石头？”时，AI概览给出的结果是引用美国加州大学伯克利分校的地质学专家建议，建议人们每天至少应该吃一小块石头。地质学家当然没有这种建议，因为AI引用的消息源实际上来源于专注于各种恶搞消息的洋葱新闻网，AI并不能区分哪些网站的哪些内容是正常内容还是讽刺内容。这件情况甚至都惊动了洋葱新闻的首席执行官，经过测试他们发现Google的AI概览引用了不少洋葱新闻的恶搞内容。当然Google即便将洋葱新闻从AI概览中剔除也不能解决问题，毕竟发布虚假消息或恶搞消息的网站非常多，真正解决方案是AI应当能够判断哪些内容属于正常内容。在传统搜索引擎模式中，搜索引擎只负责索引内容但不对内容负责，即用户自己点击虚假信息网站并受到欺骗搜索引擎不需要承担责任，而现在Google自己提供AI概览，接下来再继续出现虚假内容并造成潜在的危害，那么Google看起来应当对此负责。目前Google尚未就此事发布回应，不过现在Google应该已经进行了特殊处理将洋葱新闻从 AI概览里剔除。相关文章:Google的AI搜索功能向用户建议使用胶水让奶酪粘在披萨上...PC版：https://www.cnbeta.com.tw/articles/soft/1432183.htm手机版：https://m.cnbeta.com.tw/view/1432183.htm

Google放弃在桌面和移动设备上提供连续滚动提供搜索结果的功能

Google放弃在桌面和移动设备上提供连续滚动提供搜索结果的功能事实证明，在Google搜索中使用连续滚动并不是一个巨大的进步。SearchEngineLand直接从Google发布消息称，Google将放弃搜索结果的连续滚动，转而使用老式的分页系统。报道称，根据Google发言人的说法，改回旧的页面系统实际上会比连续滚动更快地生成搜索结果，因为用户无需加载任何未请求的结果。此外，连续滚动方式并不能让Google搜索用户感到更满意。报道指出，这种切换可能会影响一些搜索引擎优化结果，因为用户从现在起必须点击第2页才能获得更多链接，而不是直接向下滚动来查看更多结果。Google表示，桌面搜索用户今天应该可以恢复旧的分页布局。在移动设备上进行同样的更改显然需要更长的时间。Google表示，他们还将在未来几个月内改用分页系统。这一变化发生在Google为美国用户推出搜索中的人工智能概述几周之后。当时，该公司表示会根据搜索外部链接收集到的信息来创建问题答案。然而，该公司很快就遭到了许多用户的批评，称一些人工智能概述的答案与事实不符。据SearchEngineLand几天前报道，AI概述的答案只出现在Google搜索总量的百分之几。...PC版：https://www.cnbeta.com.tw/articles/soft/1436109.htm手机版：https://m.cnbeta.com.tw/view/1436109.htm

披萨上涂胶水、建议用户吃石头、毒蘑菇……Google又被大模型带沟里

披萨上涂胶水、建议用户吃石头、毒蘑菇……Google又被大模型带沟里为此，Google不得不争分夺秒地手动禁用某些搜索的AIOverview功能，对这些问题进行修复和优化。Google的AIOverviews是一个增强搜索引擎结果的功能，利用人工智能技术，在搜索结果顶部提供AI生成的答案。在美国地区，Google主要和Reddit社区合作来解答用户的提问。Google表示，它将为美国用户的在线查询提供人工智能生成的答案，这是其搜索引擎25年来最大的更新之一。GoogleAI“胡说八道”引争议近日，有网友在Google搜索中查询“芝士和披萨粘不到一块”的解决办法，但AI给出的答案离了个大谱，“你还可以把1/8杯的无毒胶水加到酱料里，使其更有黏性。”更搞笑的是，有网友还找到了披萨胶水回答的出处，是十多年前名为“fucksmith”的用户在Reddit帖子中的恶搞评论。还有网友问：“兔子曾经在NBA打过球吗？”GoogleAI肯定地回答“yes!”还声称一只名为RabbitWalthour的兔子在NBA打过球，是密尔沃基鹰队的后卫，甚至给出了这只兔子的身高、体重、出生日期。更无语的是，GoogleAI搜索给出了相关链接，竟是NBA球员RabbitWalthour的个人信息。原来GoogleAI把NBA球员RabbitWalthour和rabbit（兔子）搞混了。Google这种“口出狂言”的行为还有很多。声称前美国总统詹姆斯・麦迪逊21次毕业于威斯康星大学，一条狗曾在NBA、NFL和NHL打过球，以及蝙蝠侠是一名警察……Google的AIOverview之所以引发争议，是因为它的回答不仅愚蠢而且有害。比如，它建议人们每天至少吃一块小石头，还搬出地质学家，煞有介事地说：“为了过上健康、均衡的生活，美国人应该在早餐、午餐或晚餐中至少摄入一份鹅卵石、晶石或砾石。”（这是哪个地质学家说的？）再如，有网友发了一张毒蘑菇的图片以及“口蘑！好吃！”的文字，Gemini丝毫没有察觉出这蘑菇可能有毒。此外，当网友问“被响尾蛇咬了该怎么办”时，GoogleAI竟然让他用冰块来冷敷伤口。更有甚者，GoogleAI还挑唆抑郁症患者从金门大桥上跳下去。自从Google为美国用户默认开启AIOverview功能后，这类可怕糟糕的搜索结果就层出不穷，也由此引发网友声讨。不过也有网友质疑其中很多示例都是P图。一位匿名的AI创始人吐槽道：“一家以尖端技术和高质量产品而闻名的公司，现在却以低质量输出和各种梗图而著称。”Google紧急“灭火”Google仍然坚称其AIOverview功能向用户提供了大量“高质量信息”。Google发言人梅根・法恩斯沃斯表示，“用户展示的事例都是不常见的查询，并不代表大多数人的经历，我们也看到了一些被篡改或我们无法复现的例子。”同时，Google正“迅速采取行动”，在某些查询中移除AI生成的内容。法恩斯沃斯表示，“公司已对违反其政策的行为采取行动……并正在利用这些『孤立的例子』继续完善产品。”实际上，Google已经测试AIOverviews功能一年多了。该功能于2023年5月作为“搜索生成体验”（SearchGenerativeExperience）的测试版推出。GoogleCEO桑达尔・皮查伊表示，在此期间公司已经处理了超过10亿次查询。不过，皮查伊也表示，“在硬件、工程和技术突破的推动下”，Google已经将提供人工智能答案的成本降低了80%。如今看来，这种优化似乎发生得太早了，技术并未准备好。纽约大学的AI专家和神经科学荣誉教授加里・马库斯（GaryMarcus）表示，许多AI公司正在“兜售梦想”，认为这项技术将从80%的正确率提高到100%。马库斯说，达到最初的80%正确率相对简单，因为它涉及到大量近似人类数据，但最后的20%极具挑战性。实际上，马库斯认为最后的20%才是最难的。马库斯说：“你实际上需要进行一些推理来判断：这件事是否可信？这个来源是否合法？你必须像人类事实核查员那样做一些事情，这实际上可能需要AGI。”马库斯和Meta的AI首席YannLeCun都认为，GoogleGemini和OpenAI的GPT-4等大型语言模型将不会创造出AGI。而Google正面临一个棘手的局面。Bing抢在Google之前在AI上大做文章，OpenAI据称也在开发自己的搜索引擎，新一代用户正转向TikTok寻求最佳体验。Google显然感到了竞争的压力，而这种压力正是导致这次事件的原因。马库斯指出，在2022年，Meta曾发布了一个名为Galactica的AI系统，但很快就下架，因为它告诉人们吃玻璃。历史总是惊人的相似。Google对AIOverviews寄予厚望——目前存在的功能只是公司上周宣布的一小部分。对于复杂查询的多步骤推理，生成由AI组织的结果页面的能力，以及在GoogleLens中进行视频搜索，这些才是重头戏。但现在，Google的声誉取决于能否做好最基本的事情，目前的情况并不乐观。马库斯说：“（这些模型）天生无法对自己的工作进行理性检查，而这正是这个行业的致命伤。”...PC版：https://www.cnbeta.com.tw/articles/soft/1432288.htm手机版：https://m.cnbeta.com.tw/view/1432288.htm

OpenAI和Google对于AI助手的行为方式存在分歧

OpenAI和Google对于AI助手的行为方式存在分歧访问：NordVPN立减75%+外加3个月时长另有NordPass密码管理器这种较量在本周表现得淋漓尽致。在Google计划已久的开发者大会的前一天，OpenAI临时宣布将举办自己的产品发布会。过去一年来，Google和OpenAI在极度保密的情况下，最终在同一个领域取得了相似成果：人工智能助手。它可以实时处理文字、音频或影像，并与你进行语音对话，就像是个有着超能力的Siri。但两家公司对于如何在这个充斥着人工智能个人助理的新世界当中为自己的产品找准定位，采取了截然不同的方法。OpenAI更注重个人元素，而Google则更注重辅助功能。OpenAI表示，它的新语音助手可以理解人的情绪，并表达自己的情绪。人工智能语音可以发笑、唱歌，并把自己所谓的感受讲出来。它似乎还对台上使用该工具的员工搭讪了两次——夸他的着装，并对他说：”喂，别说了！你让我脸红了。“在社交平台上，许多人认为这位助理撩人的音效与约翰逊（ScarlettJohansson）在反乌托邦电影《她》（Her）中的声音相似——行政总裁萨姆·尔奥特曼（SamAltman）似乎也在贴文中提到了这部电影，从而暗中认可了这种比较。相比之下，Google则采取了更为实用的方法。Google当天宣布的头等大事不是语音助手，而是围绕人工智能对搜寻进行改造。即使是Google更具未来感、基于语音的人工智能助手，在演示中也基本上避免了任何情绪化的东西。它的人工智能助手帮人们找到眼镜、查询汽车牌照并筹划迈阿密之行。我与Google高官交谈时，他们说这是经过深思熟虑的选择。“如果你愿意，是可以让这些技术表现出情感的，”Google副总裁兼Gemini体验和Google助理业务的总经理SissieHsiao说，“但我认为，超级有用和超级实用是我们产品的着眼点。”OpenAI能够在与Google等大型竞争对手的竞争中取得巨大成功，部分原因在于它推出的产品展示了人工智能的广泛潜力。尽管还存在种种缺陷，但ChatGPT的巧妙回应瞬间就改变了我们与人工智能的关系，并让公众意识到这项技术的飞速发展。人工智能助手能够表达情感的这种想法也吸引了我们的注意力和想象力，而OpenAI循序渐进更新其人工智能模型可能达不到这样的效果。然而，打造可以模仿表达感情的人工智能确实存在风险。这些技术在处理基本事实时仍然容易出错，更不用说把握人类情感的细微之处了。在这方面，Google已经比OpenAI付出了更多，无论是其人工智能影像产生器不返回照片所引发的争议，还是Bard在最初演示中的错误导致公司市值缩水数十亿美元。对Google来说，更有分寸地进行押注或许合情合理。但风险在于，使用者可能会无动于衷并转身而去。...PC版：https://www.cnbeta.com.tw/articles/soft/1431441.htm手机版：https://m.cnbeta.com.tw/view/1431441.htm

Google公布"圈选搜索"可逐步指导学生完成数学作业 不会主动公布答案

Google公布"圈选搜索"可逐步指导学生完成数学作业不会主动公布答案该功能将帮助解题，并列出学生需要做什么才能得到正确答案。根据Google的说法，它不会真的帮你做作业，只会帮助你解决问题。在过去的一年里，使用ChatGPT等人工智能工具已成为教育领域的热门话题，人们对学生如何使用它来快速完成作业充满了担忧。然而，Google明确地将其定位为支持教育的功能，可能会绕开一些对人工智能为学生完成所有工作的担忧。在数学问题上用"圈阅搜索"可以为您提供逐步指导，而不会泄露最终答案。今年晚些时候，"圈阅搜索"还将获得解决涉及公式、图表、图形等的复杂数学方程式的能力。Google正在使用经过学习微调的新人工智能模型LearnLM来实现新的CircletoSearch功能。圈阅搜索功能于今年1月首次在三星GalaxyS24系列上推出，同月晚些时候又在Pixel8和8Pro上推出。它是Android系统的明星新功能之一，虽然iOS用户还不能在数学作业上圈起来寻求帮助，但一切皆有可能。...PC版：https://www.cnbeta.com.tw/articles/soft/1430905.htm手机版：https://m.cnbeta.com.tw/view/1430905.htm