Google母公司董事长诉“苦衷”:不想推一个会说错话或说话有毒的系统

Google母公司董事长诉“苦衷”:不想推一个会说错话或说话有毒的系统上周,Google在匆忙之间推出了聊天式机器人Bard,但不久之后,由于演示视频中出现明显错误,Google股价大跌,创2008年以来最大两日跌幅,市值蒸发近2000亿美元。在这一事件之后,Google内部出现对管理层的职责之声。员工通过内部论坛Memegen批评公司管理层最近推出Bard,称行动“仓促”、“拙劣”、“毫无Google风范”(un-Googley)。对此Hennessy解释道,他认为Google在将这一技术产品化方面犹豫不决,因为认为它还没有真正为产品化做好准备:你不想推出一个有时会说错话,有时会说话有毒(toxic thing)的系统。但我认为,作为演示,这是一项伟大的技术。这与Google首席执行官Pichai去年12月在被员工问及公司是否落后于ChatGPT时的回答相呼应。他承认,科技行业必须“更加谨慎地对待我们在公民社会中制造的局面”。至于管理层的问题,Hennessy表示,他认为他们“没有预料到人们会利用互联网做坏事”:在我那个年代,如果你给别人发垃圾邮件,你就会被社会遗弃。现在,我每收到一条真实的信息,就会收到10条垃圾信息,所以世界已经改变了,我们必须思考科技在确保我们有一个正常运作的社会扮演什么角色。...PC版:https://www.cnbeta.com.tw/articles/soft/1344265.htm手机版:https://m.cnbeta.com.tw/view/1344265.htm

相关推荐

封面图片

Google AI答非所问 母公司股价大跌 市值蒸发4736亿

GoogleAI答非所问母公司股价大跌市值蒸发4736亿谷歌(Google)控股公司Alphabet周三股价一度急挫8.9%,失守100美元大关,市值蒸发1100亿美元(约4736亿令吉),原因是谷歌新推出的人工智能(AI)聊天机器人Bard出师不利,在宣传短片中分享了不准确的信息,公司的活动亦未能令外界感到惊喜,市场担心这家科技巨头正在输给竞争对手微软。https://www.sinchew.com.my/?p=4459119

封面图片

谷歌发布ChatGPT竞品为何犹犹豫豫?Alphabet董事长透露原因

谷歌发布ChatGPT竞品为何犹犹豫豫?Alphabet董事长透露原因自从2018年以来,Hennessy一直担任Alphabet的董事长职务。他表示,谷歌已经拥有了AI处理自然语言的技术,但是在产品化方面一直有些犹豫,认为这种技术还不够成熟,无法开发出一个可以实际应用的产品,但现在,Bard已经成为谷歌的一个演示工具,展示了自己优秀的AI技术。Hennessy表示,他认为生成式AI技术,距离普通大众可以使用的成熟产品,还有一到两年的时间。周四,美国风险投资公司“Celesta资本”在加州山景城举办了一场峰会,Hennessy参加了峰会,并作出了上述表态。据报道,Hennessy本人在科技行业拥有丰富的经历,曾经当做教授、研究人员,以及公司创始人。从2000年到2016年,Hennessy还担任美国知名的斯坦福大学的校长。在这次峰会上,Hennessy发表演讲,谈到了2023年的重要科技行业趋势。他透露,ChatGPT工具在网上发布,随后内容生产型AI技术引发了轰动,谷歌短期内有点吃惊和不知所措。上周,为了应对ChatGPT,谷歌发布了一个AI对话工具Bard。但是这一产品的发布太过仓促,外界认为,之前微软公司宣布在必应搜索中整合ChatGPT的技术,谷歌这样做,只不过是为了跟进微软。技术上并不成熟的Bard,遭到了资本市场的惩罚。在发布当天,Alphabet的股价大幅暴跌近一成。Hennessy透露,谷歌团队过去并未对外发布ChatGPT的竞争产品,原因是这一AI对话工具依然在给出错误的答案,体验并不理想。今天的谷歌,旗下拥有大量全球海量用户在使用的互联网产品,但是在过去,诸如Youtube和网页搜索等产品,曾经提供过错误信息或有毒内容。这样的经历,促使谷歌在发布新产品时更加谨慎。在峰会上,Hennessy表示,谷歌并不想推出一个不成熟的产品,它可能会给出错误的答案,甚至是说出一些有毒的信息。值得一提的是,去年12月,在内部大会上,谷歌员工曾经向首席执行官桑达尔·皮查伊提问,即公司在发布AI对话工具上是否落伍了。皮查伊回答称,对于新技术可能在公民社会中产能的影响,科技行业需要更多一些小心谨慎。Hennessy周一表示,AI对话工具背后的语言模型还处在早期阶段,开发者需要研究如何把语言模型整合到产品中,提高回答的准确度,同时也要当心有毒信息的输出,“我认为整个行业现在还在攻克这个难关。”这位高层表示,互联网的发明人维特·瑟夫(VintCerf)当初也不会想到,一些不良之徒会利用互联网来做坏事。瑟夫曾经是谷歌高管,开发了互联网底层的重要技术,有时也被称为“互联网之父”。Hennessy表示,自己是从互联网早期时代过来的,当年,如果给他人发送垃圾邮件,可能被当做“社会人渣”,但是现在,他每收到一个真实邮件,都会收到十个垃圾邮件,所以整个世界发生了变化,现在人们需要思考新科技在正常社会运作中所扮演的角色。人们在一起生活,在一起工作,因此新科技不能制造仇恨,不能制造有毒信息,科技行业需要努力确保这些。这位高管提到,对于ChatGPT表现出的对话能力,他印象深刻,而且ChatGPT走向成熟的速度超出他自己的预期。他表示,ChatGPT从两方面让他感到吃惊,第一,无论是分析人类对话内容还是产生回答(即AI生成技术),ChatGPT展现了非常优秀的自然语言处理能力,第二,至少在表面上,ChatGPT很多的回答都是正确的。谷歌上周发布Bard之后,公众反应复杂,但是Hennessy并不愿意对此发表评论。当天,Hennessy还谈到了美国科技行业大裁员。他表示,目前科技巨头进入了裁员周期,实际上对于谷歌的许多新创公司来说,这提供了招募优秀科技人才的好机会。他表示,在硅谷,新创公司扮演着重要角色,硅谷的一个重要生存法则是,你不能在过去的荣耀和光环下躺平,另外一些新创公司会随时诞生,会挑战你,让你生不如死。...PC版:https://www.cnbeta.com.tw/articles/soft/1344189.htm手机版:https://m.cnbeta.com.tw/view/1344189.htm

封面图片

Google声称Bard AI在数学和编程方面有所进步

Google声称BardAI在数学和编程方面有所进步正如博客文章所解释的那样,大型语言模型(LLM)(例如Bard)本质上是预测引擎。当给出提示时,他们会通过预测句子中接下来可能出现的单词来做出响应。这使他们成为非常优秀的电子邮件和论文作者,但对于软件开发人员来说,它有些有些容易出错。你可能会说——像GitHub的Copilot和亚马逊的CodeWhisperer这样的代码生成模型呢?这些不是通用的。与Bard和ChatGPT沿线的竞争对手不同,后者使用来自网络、电子书和其他资源的大量文本样本进行训练,Copilot、CodeWhisperer和类似的代码生成模型几乎完全在代码样本上进行训练和微调。为了解决一般LLM中的编码和数学缺陷,Google开发了隐式代码执行,允许Bard编写和执行自己的代码。最新版本的Bard识别可能受益于逻辑代码的提示后编写代码对其进行测试并使用结果生成表面上更准确的响应。根据内部基准测试,Google表示,与之前的Bard版本相比,新的Bard对“基于计算的”单词和数学问题的反应提高了30%。当然,我们必须在现实中观察这些说法是否经得起外部测试。“即使有了这些改进,Bard也不会总是正确——例如,Bard可能不会生成代码来帮助快速响应,它生成的代码可能是错误的,或者Bard可能不会在其响应中包含已执行的代码,”Bard产品负责人JackKrawczyk和工程副总裁AmarnagSubramanya在博文中写道。“综上所述,这种通过结构化、逻辑驱动的能力进行响应的改进能力是使Bard变得更有帮助的重要一步。”当Google今年早些时候推出Bard时,它并没有将其与BingChat和ChatGPT等产品相提并论。事实上,这次推出有点像一场灾难,输出的错误答案短暂地使公司股价下跌了8%。据报道,在发布Bard之前对其进行测试的几名Google员工对这家搜索巨头提出了严重的担忧,其中一人称其为“病态的骗子”,而另一人则认为其“比无用还糟糕”。通过隐式代码生成和其他增强功能,如支持新语言、多模式查询和图像生成,Google回应了批评——并试图扭转局面。不过,它是否足以跟上该领域领先的生成式AI聊天机器人的步伐还有待观察。最近,Anthropic推出了一个人工智能聊天机器人模型,它具有大大扩展的“上下文窗口”,这使得模型可以相对连贯地交谈数小时甚至数天,而不是几分钟。ChatGPT背后的开发者OpenAI已经开始支持使用外部知识和技能增强ChatGPT的插件。...PC版:https://www.cnbeta.com.tw/articles/soft/1364079.htm手机版:https://m.cnbeta.com.tw/view/1364079.htm

封面图片

Google CEO表示会"很感激"每天测试Bard两到四个小时的员工

GoogleCEO表示会"很感激"每天测试Bard两到四个小时的员工据报道,皮查伊写道,尽管过去几天已经有"数千名"Google员工在测试Bard,但他表示,如果所有员工"以更深入的方式"为测试该聊天工具做出贡献,他将"非常感激"。当被问及这封邮件时,Google发言人回信说,该公司"经常寻求Google员工的意见,以帮助我们的产品变得更好",但不会对Bard测试的具体细节发表评论。上周,Bard在其介绍中进行了简短的展示,但在回答有关詹姆斯-韦伯太空望远镜的问题时,它搞错了一个基本事实。据报道,许多员工以私人形式对Google和皮查伊进行了批评,他们认为这是一次"失败的"演示。Google没有给出Bard何时向公众开放的具体时间框架,另一方面微软对自己的必应聊天机器人没有那么害羞,允许公众成员对其进行测试,尽管同样带来了内容中的事实错误和奇怪的聊天回应。...PC版:https://www.cnbeta.com.tw/articles/soft/1344627.htm手机版:https://m.cnbeta.com.tw/view/1344627.htm

封面图片

Google员工给Bard贴上"糟糕透顶"和"病态说谎者"的标签

Google员工给Bard贴上"糟糕透顶"和"病态说谎者"的标签在这些内部讨论中,一名员工指出Bard如何经常给用户提供危险的建议,无论是关于如何降落飞机还是潜水的话题。另一名员工说:"Bard比废物还糟糕:请不要发布它。"彭博社说,该公司甚至"否决了一个内部安全小组提交的风险评估",说该系统还没有准备好用于普遍使用。无论如何,Google在3月开放了对这个"实验性"机器人的早期访问。彭博社的报告表明,Google为了追赶微软和OpenAI等对手,显然已经把道德问题放在一边。该公司经常吹嘘其在人工智能方面的安全和道德工作,但长期以来一直被批评为以商业为优先。2020年底和2021年初,该公司解雇了两名研究人员-蒂姆尼特·格布鲁和玛格丽特·米切尔,因为他们撰写了一篇研究论文,揭露了支撑Bard等聊天机器人的人工智能语言系统中的缺陷。不过现在,随着这些系统威胁到Google的搜索业务模式,该公司似乎更加注重业务而非安全。正如彭博社在引述现任和前任员工的证词时所说,"这个值得信赖的互联网搜索巨头正在提供低质量的信息,以跟上竞争的步伐,同时不太重视其道德承诺。"Google的其他员工以及更普遍的人工智能开发者会不同意这种观点。一个常见的论点是,公开测试对于开发和保障这些系统是必要的,而且已知的由聊天机器人造成的伤害是最小的。是的,它们产生了有毒的文本,并提供了误导性的信息,但网络上无数的其他来源也是如此。Google的竞争对手如微软和OpenAI也可以说是和Google一样的妥协,唯一不同的是,他们不是搜索业务的领导者,损失更少。Google的发言人布莱恩-加布里埃尔(BrianGabriel)告诉彭博社,人工智能道德仍然是该公司的首要任务。"我们正在继续投资那些致力于将我们的人工智能原则应用于我们的技术的团队。"在我们将Bard与微软的必应聊天机器人和OpenAI的ChatGPT进行比较的测试中,我们发现Google的系统在实用性和准确性方面一直不如其竞争对手。...PC版:https://www.cnbeta.com.tw/articles/soft/1355755.htm手机版:https://m.cnbeta.com.tw/view/1355755.htm

封面图片

出现人种多样性错误后 Google暂停了Gemini AI生成人物图像的功能

出现人种多样性错误后Google暂停了GeminiAI生成人物图像的功能"我们已经在努力解决Gemini图像生成功能最近出现的问题,"Google在X上发布的一份声明中说,"在我们进行这项工作的同时,将暂停生成人的图像,并将很快重新发布一个改进版本。"在Google决定暂停在Gemini中生成人物图像不到24小时之前,该公司就其人工智能模型生成的一些历史图像不准确一事道歉。一些Gemini用户在请求生成建国元勋等历史团体或人物的图片时,发现人工智能生成的结果中出现了非白人的人物。这在网上引起了一些阴谋论,认为Google有意避免描绘白人。实测几个Gemini的查询,发现其中包括一个"19世纪美国参议员"的请求返回的结果包括似乎是黑人和美洲原住民的女性。第一位女参议员是1922年的白人女性,因此Gemini的人工智能图像基本上抹去了种族和性别歧视的历史。下面是人工智能模型在用户请求生成人物图片时的反应:我们正在努力提高Gemini生成人物图像的能力。我们预计这项功能将很快恢复,届时我们将通过版本更新通知您。本月早些时候,Google首次通过Gemini(前身为Bard)开始提供图像生成功能,以期与OpenAI和微软的Copilot竞争。与竞争对手一样,图像生成工具也是根据文本输入生成一系列图像。...PC版:https://www.cnbeta.com.tw/articles/soft/1420057.htm手机版:https://m.cnbeta.com.tw/view/1420057.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人