Google研究人员发表论文探讨人工智能如何毁掉互联网

Google研究人员发表论文探讨人工智能如何毁掉互联网 研究发现，绝大多数生成式人工智能用户正在利用这项技术模糊真实性和欺骗性之间的界限，在互联网上发布虚假或篡改的人工智能内容，例如图片或视频。研究人员还仔细研究了之前发表的关于生成式人工智能的研究，以及大约 200 篇报道生成式人工智能滥用的新闻文章。研究人员总结道：操纵人类肖像和伪造证据是现实世界滥用案件中最普遍的手段。其中大多数都带有明显的意图，即影响舆论、进行诈骗或欺诈活动或牟利。使问题更加复杂的是，生成式人工智能系统日益先进且随时可用研究人员表示，只需要极少的技术专长，而这种情况正在扭曲人们对社会政治现实或科学共识的集体理解。据我们所知，这篇论文遗漏了什么？有没有提到谷歌自己在使用该技术时犯下的令人尴尬的错误 作为世界上最大的公司之一，谷歌的错误有时规模巨大。如果你读过这篇论文，你就会忍不住得出这样的结论：生成式人工智能的滥用听起来很像是该技术在按预期工作。人们正在使用生成式人工智能制作大量虚假内容，因为它非常擅长完成这项任务，结果导致互联网上充斥着人工智能垃圾。而这种情况正是谷歌自己促成的，它允许这些虚假内容泛滥，甚至是虚假内容的源头，无论是虚假图片还是虚假信息。研究人员表示，这一混乱局面也考验着人们辨别真假的能力。他们写道：同样，大量生产低质量、垃圾邮件和恶意的合成内容可能会增加人们对数字信息的怀疑态度，并使用户的验证任务负担过重。令人不寒而栗的是，由于我们被虚假的人工智能内容淹没，研究人员表示，有些情况下知名人士能够将不利的证据解释为人工智能生成的，从而以昂贵且低效的方式转移举证责任。随着谷歌等公司继续将人工智能融入到每一款产品中，我们将会看到更多这样的情况。了解更多： ... PC版： 手机版：

商业软件联盟(BSA)呼吁建立人工智能使用规则

商业软件联盟(BSA)呼吁建立人工智能使用规则 商业软件联盟(BSA)呼吁采取四项关键保护措施。美国国会应该明确要求公司何时必须评估人工智能的设计或影响;当人工智能被用于做出“重大决定”时，这些要求应该生效，美国国会也应该对此给出定义;美国国会应该指定一个现有的联邦机构来审查公司是否遵守了规则;美国国会应该要求公司为高风险的人工智能制定风险管理计划。 BSA 负责美国政府关系的副总裁克雷格・奥尔布赖特(Craig Albright)表示：“这并不是要回答所有关于人工智能的问题，但这是国会可以给出的、关于人工智能一个重要问题的重要答案。”奥尔布赖特补充称：“随着欧洲和中国推进监管和培育新技术的框架，美国政策制定者需要反思：数字转型是否是经济议程的重要组成部分?如果是的话，我们应该有一个推动数字转型的国家议程，其中将包括围绕人工智能的规则、国家隐私标准和强有力的网络安全政策。” 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

Google建立合作伙伴关系 将其人工智能模型建立在事实基础上

Google建立合作伙伴关系 将其人工智能模型建立在事实基础上 生成式人工智能会编造信息，但将这些系统建立在已知事实数据的基础上，可以大大减少幻觉的产生。今年四月，Google宣布将努力把顶点人工智能（Vertex AI）结果应用于网络搜索，并计划允许公司将人工智能系统应用于自己的内部数据。现在，Google提供了一个额外的选择：使用第三方数据来帮助人工智能结果的落地。这项工作的初步合作伙伴包括穆迪（Moody's）、汤森路透（Thomson Reuters）和 ZoomInfo。Google云首席执行官托马斯-库里安（Thomas Kurian）介绍说："实际上可以信任这个模型，让它代表你完成任务，因为你有信任它的基础。"这些举措正值主要 genAI 提供商努力证明其系统足够安全可靠，可用于商业用途之际。Google还提供了更多方法来提高系统的可靠性和可预测性。其中之一就是新的"信心分数"，人工智能模型会提供一个数字指标，说明它对答案的确定程度。另一项新功能允许客户告诉模型重点从提示中包含的文档或其他信息中寻找答案，而不是从其广泛的训练数据中寻找答案。库里安说："我们已经教会了模型如何保证在做出响应时，将输入提示中的内容作为需要关注的主要信息。它可以避免被所有其他训练数据分散注意力"。Google还宣布低延迟 Gemini 1.5 Flash 型号和 Gemini 1.5 Pro 全面上市，后者可处理多达 200 万个词元的上下文，足够播放两小时的视频。 ... PC版： 手机版：

Google Bard 人工智能现在支持中文聊天

Google Bard 人工智能现在支持中文聊天 Bard是由Google开发的生成式人工智能聊天机器人，基于PaLM2大型语言模型。 发布之初只支持英文聊天，在2023年5月10日举行的Google开发者大会"Google I/O 2023"上，宣布增加了对日语和韩语的支援，今日有用户反映 Google Bard 支持中文对话，想体验的用户可以试一试。

Google图像生成人工智能Imagen 3迎来升级

Google图像生成人工智能Imagen 3迎来升级 Google人工智能研究部门DeepMind负责人德米斯-哈萨比斯（Demis Hassabis）说，与前代产品Imagen 2相比，Imagen 3能更准确地理解文字提示，并将其转化为图像，而且在生成图像方面更具"创造性和细节"。此外，该模型产生的"干扰人工智能"和错误也更少。哈萨比斯补充说："这也是我们目前渲染文本的最佳模型，而渲染文本一直是图像生成模型面临的挑战。"为了消除人们对深度伪造可能性的担忧，Google表示，Imagen 3 将使用 DeepMind 开发的SynthID 方法，在媒体上应用隐形加密水印。在Google的ImageFX工具中可以注册 Imagen 3 的私人预览版，Google表示，该模型将"很快"提供给使用Google企业生成式人工智能开发平台 Vertex AI 的开发人员和企业客户。Google通常不会透露太多用于训练人工智能模型的数据来源，这次也不例外。这是有原因的。大部分训练数据来自网络上的公共网站、资源库和数据集。而其中的一些训练数据，特别是未经内容创作者许可的受版权保护的数据，是知识产权相关诉讼的源头。Google的网站发布者控制功能允许网站管理员阻止搜索引擎与AI爬虫从他们的网站上获取数据，包括照片和视频。但是，Google并没有提供"退出"工具，而且与某些竞争对手不同的是，Google并没有承诺对权利人（在某些情况下是在不知情的情况下）为训练数据集做出的贡献进行补偿。缺乏透明度并不令人惊讶，但令人失望的尤其是像Google这样拥有丰富资源的公司。 ... PC版： 手机版：

人工智能太耗能 Google的碳排放五年内飙升48%

人工智能太耗能 Google的碳排放五年内飙升48% Alphabet表示，其2023年全年的温室气体排放量总计为1430万吨二氧化碳当量。该公司表示，这比2019年高出48%，比2022年高出13%。Google表示，其数据中心的能源消耗和供应链的排放增加是罪魁祸首，并表示，其在产品中加入人工智能的努力可能会使未来减少排放变得更加困难。Google在报告中写道：“随着我们进一步将人工智能整合到我们的产品中，减少排放可能具有挑战性，因为人工智能计算强度的提高会增加能源需求，而且我们的技术基础设施投资预计会增加，这将导致排放增加。”调查显示，人工智能尤其是生成式人工智能，其接受用户输入并输出文本、图像或歌曲等新内容极其资源密集型的。随着技术的快速发展，需要越来越多的数据中心来构建和运行它，从而导致电力需求激增。 ... PC版： 手机版：