人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃 用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃 这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

谷歌生成式人工智能失败将逐渐削弱用户信任

谷歌生成式人工智能失败将逐渐削弱用户信任 Google对此作出回应，删除了这些回复，并表示正在利用这些错误来改进其系统。但这些事件，加上Google灾难性的 Gemini 图像生成器发布，导致该应用程序生成了历史上不准确的图像，可能会严重损害这家搜索巨头的信誉。“Google应该是互联网上的主要信息来源。”纽约大学坦登工程学院计算机科学与工程副教授 Chinmay Hegde 解释道。“如果该产品被淡化，它将慢慢侵蚀我们对Google的信任。”Google的 AI 概览问题并不是该公司自开始其生成式 AI 驱动以来第一次遇到麻烦。该公司的 Bard 聊天机器人（Google于 2 月将其更名为 Gemini）在 2023 年 2 月的宣传视频中出现了一个错误，导致Google股价下跌。然后还有它的Gemini 图像生成器软件，它可以生成不准确场景中不同群体的照片，包括 1943 年的德国士兵。人工智能一直存在偏见，Google试图通过在生成人物图像时纳入更广泛的种族多样性来克服这一问题。但该公司矫枉过正，软件最终拒绝了一些针对特定背景人物图像的请求。Google对此作出回应，暂时下线了该软件，并为此事道歉。与此同时，AI 概览问题出现的原因在于Google表示用户问了一些不常见的问题。在吃石头的例子中，Google发言人表示，似乎一个关于地质学的网站将其他来源的有关该主题的文章联合发布到他们的网站上，而这恰好包括了一篇最初出现在洋葱报上的文章。AI 概览链接到了该来源。这些都是很好的解释，但Google继续发布存在缺陷的产品并需要进行解释的事实让人感到厌倦。卡内基梅隆大学泰珀商学院商业伦理学副教授德里克·莱本 (Derek Leben) 表示：在某种程度上，你必须对自己推出的产品负责。“你不能只是说......我们将把人工智能融入到我们所有成熟的产品中，而且它处于持续的测试模式，对于它造成的任何错误或问题，我们都不会负责，甚至不会受到指责，就对产品本身的信任而言。”Google是网上查找事实的首选网站。每当我和朋友就一些无聊的话题争论时，我们中的一个总会大喊：“好吧，Google一下！”你很可能也这么做过。也许不是因为你想证明你比朋友更了解辛普森一家的一些鲜为人知的事实，但仍然如此。关键是，Google已经建立了值得信赖的声誉，而它的人工智能失误正在慢慢侵蚀这一声誉。那么，为什么会出现这样的失误呢？Hegde 说，公司只是行动太快，在产品尚未准备好时就发布，以期超越微软等竞争对手（微软) 和 OpenAI。“研究的步伐如此之快，以至于研究和产品之间的差距似乎正在显著缩小，而这导致了所有这些表面问题。”他解释道。自 2023 年 2 月微软和 OpenAI 联手发布其 Bing 搜索引擎和聊天机器人的生成式 AI 版本以来，Google一直在努力摆脱落后于微软和 OpenAI 的形象。本月早些时候，OpenAI 甚至在 I/O 开发者大会开始前一天宣布了其强大的 GPT-4o AI 模型，从而抢在了Google之前。但如果击败竞争对手意味着推出会产生错误或有害信息的产品，那么Google就有可能给用户留下这样的印象：它的生成式人工智能成果不可信，最终不值得使用。 ... PC版： 手机版：

【微软与前以太坊矿企CoreWeave签署价值数十亿美元的人工智能算力协议】

【微软与前以太坊矿企CoreWeave签署价值数十亿美元的人工智能算力协议】 6月2日消息，据 CNBC 援引知情人士报道，微软已与前以太坊矿企 CoreWeave 签署人工智能算力协议，价值可能 (至少) 数十亿美元。微软和 CoreWeave 都拒绝置评。总部位于纽约 CoreWeave 专门提供基于图形处理器（GPU）的云计算服务，已成为 OpenAI 的 ChatGPT 等人工智能（AI）服务的核心。 此前报道，CoreWeave 于 4 月 22 日宣布以 20 亿美元估值完成 2.21 亿美元 B 轮融资，Magnetar Capital 领投，英伟达、GitHub 前首席执行官 Nat Friedman 和苹果前高管 Daniel Gross 参投。