Google CEO称Gemini AI输出的种族与历史争议性内容“完全不可接受 ”

Google CEO称Gemini AI输出的种族与历史争议性内容“完全不可接受 ” 上周，Google暂停了"双子座"生成图片的功能，因为人们广泛发现，该模型生成的图片存在种族差异，包括纳粹时期的德国士兵、非白人的美国国父，甚至还不准确地描绘了Google自己的联合创始人的种族。虽然Google随后为"失误"道歉，并表示正在努力在未来几周内重新启用图像生成功能，但周二的备忘录是Google首席执行官首次广泛回应这一争议。在这份最早由Semafor报道的备忘录中，皮查伊说公司"一直在夜以继日地工作"，以解决"双子座应用中存在问题的文本和图片回复"。他并没有说Google已经解决了这个问题。他写道："没有任何 Al 是完美的，尤其是在这个行业发展的新兴阶段，但我们知道对我们的要求很高，无论需要多长时间，我们都将继续努力。"您可以在下面阅读桑达尔-皮查伊致Google员工的备忘录全文：大家好！我想谈谈最近在双子座应用程序（前身为 Bard）中出现的文本和图片回复问题。我知道它的一些回复冒犯了我们的用户并显示出偏见，这是完全不可接受的，是我们弄错了。我们的团队一直在夜以继日地解决这些问题。我们已经看到各种提示有了实质性的改进。没有 Al 是完美的，尤其是在行业发展的这个新兴阶段，但我们知道对我们来说标准很高，无论需要多长时间，我们都将继续努力。我们会重新审视所发生的一切，并确保我们能大规模地解决这些问题。我们的使命是组织全球信息，使其能够被普遍获取并发挥作用，这一点神圣不可侵犯。我们始终致力于在我们的产品中为用户提供有用、准确和公正的信息。这就是人们信任我们产品的原因。我们的所有产品，包括新兴的 Al 产品，都必须秉承这一理念。我们将采取一系列明确的行动，包括结构改革、更新产品指南、改进发布流程、严格的评估和红队以及技术建议。我们正在全面审视这些问题，并将做出必要的改变。在吸取教训的同时，我们也应该以过去几周在AI领域发布的产品和技术为基础。这包括我们在底层模型方面取得的一些基础性进展，例如我们的 100 万长上下文窗口突破和我们的开放式模型，这两项都广受好评。我们深知如何才能创造出受数十亿人和企业使用和喜爱的优秀产品，凭借我们的基础设施和研究专长，我们拥有了实现 Al 浪潮的绝佳跳板。让我们专注于最重要的事情：打造值得用户信赖的有用产品。 ... PC版：手机版：

在Telegram中查看

相关推荐

Google解释将其人工智能模型命名为"双子座"的原因

Google解释将其人工智能模型命名为"双子座"的原因双子座的联合技术负责人杰夫-迪恩（Jeff Dean）说，他并不喜欢这个名字，但这促使他四处寻找"接地气的太空"。双子座的名字有多种含义。例如，双子座在拉丁语中是"双胞胎"的意思。这个名字指的是一个以双胞胎闻名的星座，反映了Google Brain 和 DeepMind 将于 2023 年合并成为Google DeepMind。杰夫在一篇Google博文中解释说："双子座"的诞生是因为我们希望将我们的语言建模团队更紧密地联系在一起。我觉得'双子座'这个名字中的双胞胎元素非常适合。这里的双胞胎是指传统的 Brain 团队和传统的 DeepMind 团队的成员，他们在这个雄心勃勃的多模态模型项目中开始合作。Google表示，其人工智能模型的名称背后有两层含义。该模型处理不同数据类型的能力与双子座的双重性格相吻合，"能够快速适应，与广泛的人群建立联系，并从多个角度看问题"。美国国家航空航天局（NASA）的早期登月计划"双子座计划"（Project Gemini）成为人工智能模型名称的另一个与太空有关的灵感来源。双子座计划是美国的第二个载人航天计划，旨在"测试让宇航员在太空中长时间停留的设备和技术"，之后的阿波罗计划首次将人类送上月球。人工智能团队对项目的成功产生了共鸣，"双子座"的联合技术负责人 Oriol Vinyals 说，当杰夫在团队工作的Google文档中提出"双子座"这个名字时，"双子座"这个名字就"定下来了"。我立刻就被这个名字吸引住了，因为培养LLM的巨大努力与发射火箭的精神产生了共鸣。将我们有史以来最雄心勃勃的项目命名为"双子座"非常合适。去年，Google发布了不同尺寸的Gemini模型：Pro、Nano 和 Ultra。根据 Oriol 的说法，团队考虑过以"宇宙中恒星的名字"来命名不同的双子座型号，因为有相当多不同尺寸的恒星，就像我们的型号一样。最近，Google在Google I/O 开发者大会上推出了 Gemini 1.5 Pro 和更新的 1.5 Flash 模型，以及Android系统的新功能、搜索的人工智能概述和Ask Photos 助手。 ... PC版：手机版：

Google宣布告别"Bard" 不久后将其更名为"Gemini"

Google宣布告别"Bard" 不久后将其更名为"Gemini" 在去年的 Pixel 8 发布会上，Google大谈特谈了公司如何确保将 Assistant 及其所有功能整合为一项服务，让一切变得更好。随后，我们又听说，Assistant with Bard将成为一个东西。现在看来，"双子座"将完全取代"巴德"，因为证据已经出现。一项新的消息显示，Google实际上正在重新命名Bard，因为网页上写着："Bard现在已成为Gemini"。这一变化不仅出现在移动设备上，也出现在网页版上，这意味着Google正在认真对待此事，我们很快就会看到这一变化。除此之外，如果这种趋势继续下去，Bard Advanced 最终可能会变成 Gemini Advanced。Google在扼杀其产品和服务或为其重新命名方面是出了名的，在这种情况下，它又一次改变了身份。虽然没有 Twitter 变成 X 那么糟糕，但考虑到Google的历史，这仍然是我们很多人猜测的事情。这一变化目前还没有推出，Google还需要一些时间才能彻底改造它。 ... PC版：手机版：

Google将修正Gemini人工智能输出回答时的史实误差

Google将修正Gemini人工智能输出回答时的史实误差负责监督Gemini开发的Google高级产品总监杰克-克劳奇克（Jack Krawczyk）周三写道，Gemini团队正在努力调整人工智能模型，以便生成更符合历史的准确结果。Krawczyk说："我们知道Gemini公司提供的一些历史图像生成描述不准确，我们正在努力立即解决这个问题。"产品总监在同一篇文章中强调，"Gemini"的设计旨在"反映我们的全球用户群，我们认真对待代表性和偏见问题"，这表明这些结果的产生可能是人工智能努力实现种族包容性的一部分。一些 Gemini 用户发布了截图，声称 Gemini 错误地认为美国原住民男人和印度女人代表了 1820 年代的德国夫妇、非洲裔美国人的开国元勋，亚洲和原住民士兵是 1929 年德国军队的成员，甚至还有“中世纪的英格兰国王”。Krawczyk 说："历史背景有更多细微差别，我们将进一步调整以适应这种情况，"他补充说，非历史请求将继续产生"通用"结果。但是，如果Gemini被修改为执行更严格的历史现实主义，它就不能再被用来创造历史再现。更广泛地说，生成式人工智能工具旨在利用特定的数据集，在一定参数范围内创建内容。这些数据可能有缺陷，也可能根本不正确。众所周知，人工智能模型也会产生"幻觉"，这意味着它们可能会编造虚假信息，只是为了给用户一个回应。如果人工智能不只是作为一种创造性工具来使用，而是用于教育或工作等目的，那么幻觉和不准确性就会成为一个值得关注的问题。自 2022 年 OpenAI 的 ChatGPT 等生成式人工智能工具推出以来，艺术家、记者和大学研究人员发现，人工智能模型在创建图像时可能会显示出固有的种族主义、性别歧视或其他歧视性偏见。Google在其人工智能原则中明确承认了这一问题，并表示作为一家公司，Google正努力避免在其人工智能工具中复制任何"不公平的偏见"。Gemini并不是本周唯一一个给用户带来意外结果的人工智能工具。据报道，ChatGPT 周三也出了点问题，对一些用户的询问做出了毫无意义的回答。OpenAI 表示已经"修复"了这个问题。 ... PC版：手机版：

日方称金与正涉日本人被绑架问题言论完全不可接受

日方称金与正涉日本人被绑架问题言论完全不可接受日本政府表示，关注北韩领袖金正恩妹妹、劳动党副部长金与正暗示，日本首相岸田文雄可能访问平壤的言论。金与正昨日表示，只要日本摒弃陋习，不再对北韩行使正当防卫权利指手划脚，亦不再利用已获解决的日本人被绑架问题说事，两国就无理由不靠拢，到时岸田访问平壤的日子就会到来。金与正强调，这些只是个人见解，并非北韩关于日朝关系的官方立场。日本内阁官房长官林芳正说，金与正有关日本人被绑架问题的说法完全不可接受，又说日本将继续致力解决涉及北韩的其他问题，例如北韩的核导开发进程。共同社引述政府消息人士表示，金与正的谈话极其罕见，认为有必要仔细解读当中的意图。南韩外交部就表示，朝日接触应该朝著有利于北韩无核化和半岛和平与稳定的方向推进，又说韩方正就朝日接触及北韩核问题等与日方保持紧密沟通，但朝日接触的内容就不是韩方可具谈言及的事项。 2024-02-16 14:10:03

Google可能为耳机产品推出"Gemini" AI应用

Google可能为耳机产品推出"Gemini" AI应用现在，我们又获得了一些信息，表明这家搜索引擎巨头正在努力将Gemini应用到其耳机产品上。这一信息是在Google应用程序 15.6 版本中发现的，其中有一个字符串提到了在耳机上使用该应用程序的计划。您可以查看下面的字符串。<string name=”assistant_onboarding_bisto_error_message”>Gemini mobile app is working on expanding availability to make it accessible on your headphones</string>值得注意的是，虽然这是个好消息，但我们还不知道 Gemini 应用程序何时会登陆耳机，但如果真的如此，我们会很想知道它将如何工作以及会有哪些功能。值得注意的是，"助理"在Google和非Google耳机上都可以使用，因此，取代"助理"的应用也将出现在耳机上也是合情合理的。为了制作这款应用，Google公司已经放弃了很多，也改变了很多，"Gemini"出现在耳机和其他智能设备上并不会让人感到惊讶。预计不久后任何支持之前 Assistant 应用的耳机或设备都应获得来自Gemini的升级，但我们还没有关于这一变化的时间表。 ... PC版：手机版：

Google首席执行官称工作场所不适合政治后解雇更多员工

Google首席执行官称工作场所不适合政治后解雇更多员工几天前，首席执行官桑达尔-皮查伊（Sundar Pichai）在一份全公司备忘录中告诉员工，他们不应将公司作为"个人平台"，或"为破坏性问题争吵或辩论政治"。Google的抗议活动是反对美国政府和企业与以色列政府和军方合作的浪潮之一。最近几天，支持巴勒斯坦的抗议者在耶鲁大学和哥伦比亚大学被捕，引发了对大学官员高压手段的指责，并激发了全国其他大学的示威浪潮。在Google静坐示威的前一天，美国各地的活动人士封锁了高速公路、桥梁和机场入口，抗议加沙的军事行动。这种社会运动已转化为Google经理与被解雇员工之间的公开斗争。Google称，每名被解雇的员工都主动地扰乱了公司的办公秩序，而被解雇的员工则对这一说法提出了质疑，称有些被解雇的员工在联合示威当天甚至都没有进入公司的办公室。Google过去曾解雇过公开批评公司的员工，但还没有一次性解雇过这么多人。多年来，在办公室文化和协作方面，Google一直享有大科技公司中最自由、最开放的声誉。该公司推崇一种内部文化，即员工知道其他团队在做什么，并鼓励员工质疑领导者的决定。皮查伊在给员工的备忘录中说，公司的开放性是一个优势，但适用于工作话题，而不是政治。他在公司发布在网上的备忘录中说："我们有一种充满活力、开放讨论的文化，这使我们能够创造出令人惊叹的产品，并将伟大的想法付诸行动。但归根结底，我们是一个工作场所，我们的政策和期望是明确的：这是一家企业。"相关文章:九名Google员工因公司与以色列签订云计算协议举行静坐抗议后被捕谷歌开除28名抗议以色列项目的员工 ... PC版：手机版：

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人