Google高管警告:ChatGPT会产生“幻觉”

Google高管警告:ChatGPT会产生“幻觉”拉格哈万说:“然后,机器以一种令人信服但完全编造的方式来表达自己。”他补充说,基本任务之一是将这种情况控制在最低限度。自去年11月OpenAI推出ChatGPT后,Google一直处于竞争劣势。自那以来,该软件以惊人的类似人类的方式回应用户的查询,令用户惊叹不已。本周早些时候,Alphabet推出了自己的聊天机器人Bard,但该软件在宣传视频中分享了不准确的信息,导致该公司周三市值损失1000亿美元。“我们显然感到了紧迫性,但我们也感到了巨大的责任,”拉格哈万说。“我们当然不想误导公众。”...PC版:https://www.cnbeta.com.tw/articles/soft/1343751.htm手机版:https://m.cnbeta.com.tw/view/1343751.htm

相关推荐

封面图片

Google正在测试人工智能聊天机器人以回击ChatGPT挑战

Google正在测试人工智能聊天机器人以回击ChatGPT挑战ChatGPT在编写软件、通过考试以及提供生活建议等方面都取得了成功,使其成为科技界的焦点,尽管其结果可能具有误导性或错误。CNBC称,Google的ApprenticeBard工具与ChatGPT类似,但该公司也在测试搜索结果的问答形式。Google研究部负责人杰夫-迪恩在2022年的一次会议上告诉员工,Google在方法上更加保守,以避免人工智能提供不良反应的"声誉风险"。Google没有对报告的具体内容发表评论,但发言人LilyLin在一份声明中说:"我们长期以来一直专注于开发和部署人工智能以改善人们的生活......继续在内部测试我们的人工智能技术,以确保它是有帮助和安全的,我们期待着尽快对外分享更多的经验"。人工智能技术已经在我们身边,从标记信用卡欺诈到将我们的语言翻译成文本信息,它们都在提供帮助。不过,ChatGPT技术提高了人们的期望值,所以很明显,随着对数字助理和在线工具的依赖不断加深,这项技术将在我们的生活中以这样或那样的方式变得更加重要。Google人工智能子公司DeepMind也参与其中。首席执行官DemisHassabis告诉时代周报,他的公司正在考虑在2023年对一个名为Sparrow的人工智能聊天机器人进行内部测试。Google在2020年因人工智能研究员TimnitGebru的离职而承受了不良影响,它有一个专注于负责任的人工智能和机器学习(或ML)技术的项目。Google研究副总裁MarianCroak在1月的一篇文章中说:"以负责任和道德的方式建立ML模型和产品是我们的核心重点和核心承诺。"Google热衷于宣传其深厚的人工智能专业知识。据《纽约时报》报道,ChatGPT引发了Google内部的"红色代码"紧急情况,并吸引了Google联合创始人拉里-佩奇和谢尔盖-布林重新投入积极的工作。...PC版:https://www.cnbeta.com.tw/articles/soft/1342387.htm手机版:https://m.cnbeta.com.tw/view/1342387.htm

封面图片

不服ChatGPT!Google高管警告:AI聊天机器人会产生「错觉」陷阱https://toutiaoqushi.com/20

封面图片

Google以"声誉风险"为理由不推出ChatGPT的类似聊天机器人产品

Google以"声誉风险"为理由不推出ChatGPT的类似聊天机器人产品根据CNBC的报道,Alphabet首席执行官SundarPichai和Google人工智能主管JeffDean在最近的全体员工会议上谈到了ChatGPT的崛起。一名员工问道,由OpenAI(一家与Google竞争对手微软关系密切的公司)推出的机器人是否代表着这家搜索巨头"错失良机"。据报道,皮查伊和迪安回应说,Google的人工智能语言模型与OpenAI的一样有能力,但由于该技术带来的"声誉风险",公司不得不采取"比小型创业公司更保守的行动"。"我们绝对希望把这些东西推广到真正的产品中去,推广到更突出地体现语言模型的东西中去,这是我们迄今为止一直在做的地方,"Dean说。"但是,我们把这件事做好是超级重要的。"Pichai补充说,Google在2023年有一个"很多"的人工智能语言功能计划,"这是一个我们需要大胆和负责任的领域,所以我们必须平衡这一点。"Google已经开发了一些大型人工智能语言模型(LLM),其能力与OpenAI的ChatGPT相当。这些模型包括BERT、MUM和LAMDA,它们都被用来改进Google的搜索引擎。不过,这种改进重点是解析用户的查询,以更好地理解他们的意图。Google表示,MUM帮助它理解当搜索表明用户正在经历个人危机时,例如,并将这些人引导到帮助热线和撒玛利亚人等团体的信息。Google也推出了像AITestKitchen这样的应用程序,让用户体验其人工智能聊天机器人技术,但在很多方面限制了与用户的互动。OpenAI之前在开发其LLM技术时也相对谨慎,但随着ChatGPT的推出而改变了策略,向公众开放了访问权限。其结果是为OpenAI带来了一场有益的宣传和炒作风暴,即使该公司在保持系统免费使用方面付出了巨大的成本。尽管像ChatGPT这样的LLMs在生成语言方面显示出非凡的灵活性,但它们也有众所周知的问题。它们放大了训练数据中的社会偏见,经常诋毁妇女和有色人种;它们很容易被欺骗(用户发现他们可以绕过ChatGPT的安全准则,这些准则应该阻止它提供危险的信息,只要求它想象自己是一个坏的人工智能);而且--也许对Google来说最相关的--它们经常提供虚假和误导的信息来回应查询。用户发现ChatGPT在广泛的问题上"撒谎",从编造历史和传记数据,到为虚假和危险的主张辩护,比如告诉用户在母乳中加入碎瓷片"可以支持婴儿的消化系统"。在Google的全体员工会议上,Dean承认了这许多挑战。他说,"你可以想象,对于类似搜索的应用,事实性问题确实很重要,对于其他应用,偏见和毒性以及安全问题也是最重要的。"他说,人工智能聊天机器人"会编造一些事物[......]如果他们对某件事情不是很确定,他们就会告诉你,你知道,大象是产蛋最多的动物,或者其他什么。"尽管ChatGPT的推出引发了关于聊天机器人有可能取代传统搜索引擎的新对话,但这个问题在Google已经考虑了很久--有时会引起争议。人工智能研究人员TimnitGebru和MargaretMitchell在发表了一篇概述与LLM相关的技术和道德挑战的论文后,被Google解雇(Pichai和Dean现在正在向员工解释同样的挑战)。而在去年5月,Google的四位研究人员探讨了人工智能在搜索中的同样问题,并详细介绍了许多潜在的问题。正如研究人员在他们的论文中指出的那样,最大的问题之一是LLMs"没有对世界的真正理解,他们容易产生幻觉,关键是他们没有能力通过参考他们被训练的语料库中的支持性文件来证明他们的话语。"就OpenAI本身而言,它似乎正试图抑制期望。正如首席执行官SamAltman最近在Twitter上所说。"ChatGPT是非常有限的,但在某些方面足够好,给人以伟大的误导印象。现在依靠它做任何重要的事情都是错误的。"...PC版:https://www.cnbeta.com.tw/articles/soft/1335277.htm手机版:https://m.cnbeta.com.tw/view/1335277.htm

封面图片

Google 宣布了挑战 ChatGPT 的 AI 服务 Bard

Google正式宣布了挑战OpenAI聊天机器人ChatGPT的AI服务。ChatGPT能以对话的方式回答用户输入的各种问题,它引入了信息检索的新模式,向Google统治了20多年的搜索引擎市场发起了挑战,搜索巨人为此加快推出自己的对话式AI服务Bard。Bard是基于它的 LanguageModelforDialogueApplications(缩写LaMDA),将首先挑选部分人员进行测试,然后未来几周逐渐推广给更广泛的用户。Bard和ChatGPT 的工作模式类似,根据训练的语料对用户输入的问题生成文本答案,它相对于ChatGPT的一个优势是能利用最新的数据,ChatGPT的数据截止于2021年。来源:投稿:@ZaiHuabot频道:@TestFlightCN

封面图片

ChatGPT太强大了 通过Google三级工程师面试 年薪79万

ChatGPT太强大了通过Google三级工程师面试年薪79万热门聊天机器人“ChatGPT”点燃AI领域的军备竞赛,根据CNBC报导,Google内部文件透露,ChatGPT编写程式能力已经达到Google三级工程师面试,相当于年薪18.3万美元(约79.27万令吉)。https://www.sinchew.com.my/?p=4463000

封面图片

ChatGPT 通过了 Google 18.3 万美元年薪 3 级工程师的编程面试考验

ChatGPT通过了Google18.3万美元年薪3级工程师的编程面试考验根据一份内部文件,Google向ChatGPT输入了其编程面试问题,然而根据其回答,聘请它为L3级工程师,这是一个入门级工程师职位但薪水并不低。ChatGPT是否会取代软件工程师或至少是初级的工程师?ChatGPT自己给出的答案是不会,声明自己是一个能帮助完成部分任务的工具,不能完全取代一位具有创造力、问题解决能力和批判性思维的人类软件工程师。它也需要人类的监督和指导才能有效运作。那么20年后呢?ChatGPT承认也许那时候会影响初级职位,但重申不会完全取代人类软件工程师。ChatGPT回答问题能力已经让搜索巨人倍感警惕,它正在加快测试基于LaMDA的AI聊天机器人。来源,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人