AI 模糊真实与欺骗是特性不是 bug

AI 模糊真实与欺骗是特性不是 bug Google 研究人员在预印本平台 arXiv 上发表论文,指出通过在互联网上发布虚假内容,绝大多数生成式 AI 正在模糊真实性和欺骗性之间的界限。深度伪造和伪造证据是目前最盛行的滥用方式,其中大多数都有明显意图,旨在影响公众舆论、进行诈骗或欺诈活动。生成式 AI 日益先进,可随时使用,对使用者的技术要求非常低,它正在扭曲人们对社会政治现实或科学共识的集体理解。生成式 AI 非常擅长于大量制作虚假内容,这其实是它的特性而不是 bug,互联网正日益充斥着 AI 的垃圾。研究人员表示这种状况将考验人们辨别真假的能力。随着生成式 AI 内容的无处不在,部分人可能会将对其不利的证据解释为 AI 生成,转移举证责任。 via Solidot

相关推荐

封面图片

美银:巨型股带动指数上涨是市场特性,不是市场 Bug

美银:巨型股带动指数上涨是市场特性,不是市场 Bug 美银发布 2024 年下半年股市展望报告指出:许多投资者抱怨当下美国市场反弹仅限于少数股票。其实我们更倾向于根据方向而非幅度来判断市场广度的质量。如广度更高的市场都朝着正确的方向发展,那么固执于收益分配不均就没有意义了。指数回报在很大程度上受巨型股表现的影响,但顾名思义,在市值加权指数中,最大的股票会有不成比例的贡献,对于市场观点而言,方向更重要,贡献则不那么重要。

封面图片

Google研究人员发表论文探讨人工智能如何毁掉互联网

Google研究人员发表论文探讨人工智能如何毁掉互联网 研究发现,绝大多数生成式人工智能用户正在利用这项技术模糊真实性和欺骗性之间的界限,在互联网上发布虚假或篡改的人工智能内容,例如图片或视频。研究人员还仔细研究了之前发表的关于生成式人工智能的研究,以及大约 200 篇报道生成式人工智能滥用的新闻文章。研究人员总结道:操纵人类肖像和伪造证据是现实世界滥用案件中最普遍的手段。其中大多数都带有明显的意图,即影响舆论、进行诈骗或欺诈活动或牟利。使问题更加复杂的是,生成式人工智能系统日益先进且随时可用研究人员表示,只需要极少的技术专长,而这种情况正在扭曲人们对社会政治现实或科学共识的集体理解。据我们所知,这篇论文遗漏了什么?有没有提到谷歌自己在使用该技术时犯下的令人尴尬的错误 作为世界上最大的公司之一,谷歌的错误有时规模巨大。如果你读过这篇论文,你就会忍不住得出这样的结论:生成式人工智能的滥用听起来很像是该技术在按预期工作。人们正在使用生成式人工智能制作大量虚假内容,因为它非常擅长完成这项任务,结果导致互联网上充斥着人工智能垃圾。而这种情况正是谷歌自己促成的,它允许这些虚假内容泛滥,甚至是虚假内容的源头,无论是虚假图片还是虚假信息。研究人员表示,这一混乱局面也考验着人们辨别真假的能力。他们写道:同样,大量生产低质量、垃圾邮件和恶意的合成内容可能会增加人们对数字信息的怀疑态度,并使用户的验证任务负担过重。令人不寒而栗的是,由于我们被虚假的人工智能内容淹没,研究人员表示,有些情况下知名人士能够将不利的证据解释为人工智能生成的,从而以昂贵且低效的方式转移举证责任。随着谷歌等公司继续将人工智能融入到每一款产品中,我们将会看到更多这样的情况。了解更多: ... PC版: 手机版:

封面图片

Edge 新特性:截图后与 AI 讨论截图内容

Edge 新特性:截图后与 AI 讨论截图内容 微软近日邀请处于 Canary 频道的部分 Edge 浏览器用户参与了新版截图工具的测试,受到邀请的用户可在截图完成后在工具栏中点击 AI 按钮,并就截图中的内容与 AI 展开聊天。根据 Neowin 的测试:当用户截图了一张狗狗的照片后,可以立即与 AI 就狗狗的品种、训练方案等内容进行聊天。

封面图片

McAfee推出Mockingbird项目来阻止AI语音克隆诈骗 ||

McAfee推出Mockingbird项目来阻止AI语音克隆诈骗 || McAfee推出了Project Mockingbird,以检测使用生成式AI制作的深度伪造音频和视频。这些伪造内容正在被网络犯罪分子用来进行诈骗和操纵公众舆论。 该技术可以检测出音频是否真的是某人的声音,或者是AI生成的。它可以帮助消费者识别视频和信息的真伪,避免上当受骗。 McAfee表示这项技术应用广泛,可以帮助消费者应对AI生成的诈骗和虚假信息的增加。它可以赋予消费者区分数字世界中真假内容的能力。McAfee进行的一项调查显示,68%的美国人比去年更担心深度伪造,33%的人表示遇到过或知道深度伪造诈骗。 大众最担心深度伪造会被用来影响选举、网络欺凌、破坏公众对媒体的信任等。McAfee希望通过这项技术来增强在线隐私、身份和福祉。McAfee在CES 2024上首次公开展示了Project Mockingbird。该技术被比作知更鸟的鸣叫来欺骗的行为,同样地网络犯罪分子也利用AI来欺骗消费者谋取利益。 McAfee的这项技术旨在帮助消费者识破AI生成的语音和视频欺骗,提高数字世界的安全性。它具有广泛的应用前景。

封面图片

《纽约时报》点出苹果进军AI真实目的:不是为了用户

《纽约时报》点出苹果进军AI真实目的:不是为了用户 知情人士称,近几个月,苹果企业发展副总裁阿德里安·佩里卡(Adrian Perica)协助领导了一项努力,那就是把生成式AI带给普通大众。佩里卡与其同事已经与Google、OpenAI等AI领导者进行了谈判,希望找到一个合作伙伴,帮助苹果在其业务中提供生成式AI。报道证实,苹果近期已经与OpenAI达成了一项协议,将后者的技术融入iPhone。截至上周,苹果仍在与Google进行谈判。苹果在生成式AI上的努力,推动公司开发出了更强对话性和多功能版本的Siri,该版本将于周一发布。Siri将由苹果开发的生成式AI系统驱动,能够聊天,而不是一次只回答一个问题。一位熟悉苹果营销计划的人士表示,苹果将以苹果智能(Apple Intelligence)的名字来推广其新的AI功能。取悦华尔街不过,《纽约时报》同时表示,苹果投身AI市场的主要原因是取悦华尔街投资者,而不是为了普通消费者。这项技术提升了微软公司、英伟达公司的市值,前者是生成式AI领域的重要参与者,后者则是AI芯片巨头。今年1月,微软超越苹果成为全球市值最高的上市科技公司。在市场重新洗牌的同时,苹果对AI保持沉默。苹果的政策一向是不透露未来的产品计划,但是随着公司在股市地位的下滑,苹果CEOTim Cook(Tim Cook)打破惯例,在5月份的一次电话会议上告诉华尔街分析师,苹果将很快推出生成式AI产品。自库克做出这一承诺以来,苹果股价已经反弹。截至上周五,苹果股价今年累计上涨了6%,但低于微软、英伟达的涨幅。微软股价今年已累计上涨14%,英伟达更是上涨了151%。苹果进军生成式AI,将考验该公司能否再次进入一个新市场并重新定义它。虽然苹果并没有首先推出第一个数字音乐播放器、智能手机或智能手表,但它通过iPod、iPhone和Apple Watch改变了这些产品类别。如今,在目睹了微软、Meta、Google和三星将生成式AI融入各自产品两年后,苹果正从观察者变成潜在的挑战者。对生成式AI这项技术来说,融入iPhone也是一个关键时刻。这种技术可以回答问题,生成图像和编写软件代码。苹果将把生成式AI的覆盖范围扩大到逾十亿用户,并确定它对于日常iPhone用户的实用性。“我们仍在研究AI,因为它太复杂了,”科技研究公司Creative Strategies的总裁卡罗琳娜·米拉内西(Carolina Milanesi)表示,“苹果在所有事情上都相当保守,所以我不知道他们是否能够做到让人们拍案叫绝。但他们必须这样做,因为这将是我们与未来技术互动的方式。”截至发稿,苹果、OpenAI以及Google都不予置评。 ... PC版: 手机版:

封面图片

GitHub Copilot X  开始排队,AI 编程的新未来。通过对话改bug,写 pr,生成测试,查询文档。 https:

GitHub Copilot X  开始排队,AI 编程的新未来。通过对话改bug,写 pr,生成测试,查询文档。 https://github.blog/---github-copilot-x-the-ai-powered-developer-experience/

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人