研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义这样做的目的是,人工智能生成的材料将被巧妙地标记,以便在有人试图将其内容冒充为人类制作的内容时,能够被检测和识别出来。但学者们警告说,图像中的数字水印——在创建内容时添加噪声,然后在图像数据集中检测该噪声模式的存在——可能并不能提供多少安全保证。日前来自马里兰大学的研究团队取得了重大突破,他们制定了一种绕过嵌入在AI生成图像中的所有水印保护的方法。在接受Wired采访时,计算机科学教授SoheilFeizi表示,目前没有可靠的方法可以为AI生成的图像加上水印,他的团队成功地绕过了“所有方法”。就目前而言,恶意行为者绕过水印仍然太容易。而且,还可以将水印添加到人工制作的图像中,从而触发误报。数字水印已被各种AI公司推崇为一种功能,使用户能够知道图像是否是借助AI生成的。问题是我们仍然没有万无一失、无法被操纵的水印技术。Feizi和他的团队在一份预印本论文中详细记录了他们的研究结果。在论文中,研究人员表示,使用微妙的图像扰动的水印方法可以轻松地通过扩散净化攻击来破解。这种方法的工作原理是,在使用AI生成图像时,会对其应用一种人眼不可见的特定噪声模式。问题在于,这种模式可以很容易地被修改或移除,而对整体图像的更改很小。同样,使用大量扰动的水印技术,即对图像进行重大更改的技术,可以通过易于移除水印的模型替代对抗攻击来破解。此外,恶意行为者可以使用水印技术来针对真正的艺术家,将他们的图像标记上会导致它们被错误地识别为由AI生成的模式。这可能会损害艺术家的声誉。...PC版:https://www.cnbeta.com.tw/articles/soft/1388565.htm手机版:https://m.cnbeta.com.tw/view/1388565.htm

相关推荐

封面图片

土耳其驳斥美国制裁威胁“毫无意义”

土耳其驳斥美国制裁威胁“毫无意义”土耳其财政部长NureddinNebati周五对当地企业表示,没有理由担心美国可能会因与受制裁的俄罗斯实体打交道而受到制裁。本月,美国财政部告诉该国最大的商业集团TUSIAD和财政部,一些俄罗斯公司和个人正在通过土耳其绕过制裁。内巴蒂在推特上说:“有关土耳其商业团体在商界引起关注的信件毫无意义。我们很高兴看到我们的盟友和贸易伙伴美国正在邀请其企业投资我们的经济。”

封面图片

毫无意义的工作

名称:毫无意义的工作描述:凯恩斯曾在20世纪30年代预言:到20世纪末,科技水平将足够进步,人们每周的工作时长会缩短至15小时。但如今,人们在工作上花费了更多时间。你的工作对世界做出贡献了吗?2013年,大卫·格雷伯在《谈谈“狗屁工作”现象》一文中提出了这个尖锐的问题,在几周内收获了超过百万次的阅读点击,并被翻译成十几种语言。直到现在,它仍然是人们深切关注的议题。是谁在创造这些毫无意义的工作?它是如何降低效率,阻碍个人价值的实现,加剧不公平的?在这本书中,作者以犀利的笔触,将自己的观察、研究与反思悉数呈现,剖析了困扰世人的当代社会病灶。又名《狗屁工作》链接:https://www.aliyundrive.com/s/x6DPK11t1HD大小:4M标签:#电子书#毫无意义的工作来自:雷锋频道:@shareAliyun群组:@aliyundriveShare投稿:@aliyun_share_bot

封面图片

DeepMind 与 Google Cloud 合作为人工智能生成的图像添加水印

DeepMind与GoogleCloud合作为人工智能生成的图像添加水印谷歌Deepmind与谷歌云合作,推出了一款用于添加水印和识别人工智能生成图像的工具SynthID。但仅限于谷歌自己的图像生成模型创建的图像。SynthID的水印对于人类来说是难以察觉的,并且能够适应常见的图像操作,比如在添加滤镜、更改颜色和高度压缩图像等修改之后,SynthID仍然保持不变。虽然SynthID提供了强大的防御能力,但仍需要不断创新和适应,才能在对抗生成式AI欺骗的斗争中领先于黑客和开发人员。——、、

封面图片

资源标题:毫无意义的工作

资源标题:毫无意义的工作资源描述:凯恩斯曾在20世纪30年代预言:到20世纪末,科技水平将足够进步,人们每周的工作时长会缩短至15小时。但如今,人们在工作上花费了更多时间。你的工作对世界做出贡献了吗?2013年,大卫·格雷伯在《谈谈“狗屁工作”现象》一文中提出了这个尖锐的问题,在几周内收获了超过百万次的阅读点击,并被翻译成十几种语言。直到现在,它仍然是人们深切关注的议题。是谁在创造这些毫无意义的工作?它是如何降低效率,阻碍个人价值的实现,加剧不公平的?在这本书中,作者以犀利的笔触,将自己的观察、研究与反思悉数呈现,剖析了困扰世人的当代社会病灶。链接:https://www.aliyundrive.com/s/x6DPK11t1HD文件大小:4M文件类型:#图书#电子书#毫无意义的工作发布频道:@shareAliyun交流群组:@aliyundriveShare

封面图片

最新研究发现关于气候变化的悲观警告毫无意义

最新研究发现关于气候变化的悲观警告毫无意义要想有效地宣传气候变化和全球变暖问题,关键是要根据目标受众和目标来定制信息。研究人员制作了一款应用程序,旨在帮助热衷于提高气候问题意识的个人。无论用户是研究人员、政治家、决策者还是立法者,该工具都旨在最大限度地提供支持。涉及63个国家的大规模调查作为创建应用程序工作的一部分,有5000人参与了调查,挪威是参与调查的63个国家之一。(您可以在本文后面部分了解在挪威什么最有效)。研究小组制作的这款应用程序有助于在全球范围内提高气候意识和采取气候行动。挪威科技大学(NTNU)心理学系副教授伊莎贝尔-里希特(IsabelRichter)说:"强调研究表明有效的信息非常重要。"共有近250名研究人员参与了测试不同气候信息和策略的工作。里克特与同事斯捷潘-维斯利(StepanVesely)高级研究员和克里斯蒂安-克洛克纳(ChristianKlöckner)教授共同组成了研究团队,他们也都来自心理学系。以往的研究主要是检查人们对个别措施的态度。这些措施可能包括回收利用、使用公共交通和家庭节能措施。然而,这项研究考察了许多不同的变化。此外,它还收到了来自世界各地的回答,而不仅仅是西方工业化国家的回答。研究人员收集了2022年7月至2023年5月期间的数据,因此这些数据都是最新的。该应用程序及其背后的方法现已在《科学进展》(ScienceAdvances)杂志上发表。"多种变化研究人员让人们接触不同的气候信息和与气候变化有关的任务。然后,他们调查了人们对不同气候措施的态度以及其他类型的反应。为了衡量这些方法的有效性,他们检查了参与者支持有关气候变化的不同观点和措施的意愿。例如,他们询问参与者是否认为气候变化是一种严重威胁,是否支持对化石能源征收碳税,或是否愿意亲自植树作为解决方案的一部分。研究人员还测试了参与者是否愿意在社交媒体上分享信息,如少吃肉以减缓气候变化。以下是部分结果:恐吓:"气候变化对人类构成严重威胁"。所有策略都增加了人们在社交媒体上分享气候信息的可能性,而这种"末日"和"悲观"的信息风格是最有效的,至少在全球范围内是如此。然而,分享者并不需要付出多少努力。在一些国家,恐吓策略减少了对植树造林的支持,而植树造林是一项需要付出更多努力但可能有效的实际措施。恐吓策略还强化了那些已经是气候怀疑论者的人的消极态度。知识:"99%的气候专家认为地球正在变暖,气候变化主要是人类活动造成的"。有些信息在不同国家产生了不同的效果。在罗马尼亚,这条迎合受众知识感的信息使气候措施的支持率提高了9%。但在加拿大,支持率却下降了5%。情感:给你身边的孩子写一封信,讲述我们今天采取的气候措施,以便在2055年让地球成为一个适合居住的地方。在尼日利亚、俄罗斯、加纳、巴西和美国,这一策略将气候措施的支持率提高了5%到10%。然而,在印度、塞尔维亚和阿拉伯联合酋长国等国,这种策略收效甚微,甚至略微降低了支持率。研究人员测试的其他变化包括介绍过去已经成功实施的气候措施,或将气候措施描绘成爱国或受欢迎的选择。参与者还被要求想象给未来的自己写一封信,告诉他们应该采取什么样的气候措施。86%的人认为气候变化是一种威胁各国的态度大相径庭,取决于人口统计和信仰。研究人员还根据国籍、政治意识形态、年龄、性别、教育程度和收入将人们分为不同的群体。结果显示,86%的参与者认为气候变化构成了威胁。超过70%的人支持采取系统性的集体措施来应对气候变化。在挪威使用恐吓策略毫无意义有关气候变化的悲观信息在挪威行不通。"给子孙后代写一封信最有效的方法是增加对气候措施的政治支持,并让人们更加相信气候变化是一个问题。第二个最有效的措施就是说几乎所有的气候专家都同意,"克洛克纳说。在挪威,严厉警告和给未来的自己写信是最不有效的措施。里希特补充说:"所有这些选择都使得挪威人不太愿意在社交媒体上分享气候信息。换句话说,这与全球的结果完全相反。"然而,挪威人却非常渴望自己做点什么,比如植树。在这里,最有效的方法是强调道德责任,许多人承认气候变化是一个问题,气候专家也达成了共识。里希特副教授说:"我选择的解释方式是,挪威人喜欢做一些具体的事情,而不仅仅是在社交媒体上分享。"纽约大学和维也纳大学的研究人员领导了这项研究,但北大西洋公约组织也做出了重要贡献。"我们从一开始就参与制定可能的干预措施。我们评估了其他合作伙伴提出的干预建议,与小组合作对其进行改进,并帮助确定哪些干预措施应该实际实施,"Vesely说。Vesely和Klöckner领导并资助了在挪威的数据收集工作。里克特在许多非洲国家都有良好的人脉关系,而在这类研究中,这些国家的参与并不总是那么容易。除其他外,她还共同资助并参与了从肯尼亚收集数据的工作。挪威约50%的资金来自挪威经济学院(NHH)。挪威经济学院还通过益普索公司组织了数据收集工作。信息需要调整一些活动家认为,为了让人们自己采取行动,恐吓策略恰恰是必要的。另一些人则认为,这样做会让人沮丧、士气低落、适得其反。研究支持这两种假设,但这取决于你想要达到什么目的。如果你的主要关注点是让人们在社交媒体上发布他们的支持,那么恐吓策略就会奏效,但在Facebook、TikTok或X上发泄愤怒和沮丧并不一定对环境有帮助。如果你想为可能真正有效的事情收集支持,你需要使用其他手段。让人们去做不需要付出太多努力的事情,比如在社交媒体上分享一条信息,是一件非常容易的事情。"在社交媒体上分享东西本身就像是在采取行动。人们可能会觉得'现在我做了一件事,我可以继续我的生活了'。这种行为的门槛很低,"里希特副教授说。然而,从世界各地的结果来看,没有一种方法能让人们更愿意为了环境而种植更多的树木--这意味着人们必须自己付出努力。"研究结果表明,气候信息的传播首先取决于人们对气候变化的态度。"纽约大学助理教授、该研究项目负责人之一马达琳娜-弗拉斯恰努(MadalinaVlasceanu)说:"立法者和宣传者必须根据公众的情况调整他们的信息。"编译来源:ScitechDaily...PC版:https://www.cnbeta.com.tw/articles/soft/1432005.htm手机版:https://m.cnbeta.com.tw/view/1432005.htm

封面图片

Meta开源新的AI图像水印技术,但真的靠谱吗?

Meta开源新的AI图像水印技术,但真的靠谱吗?例如,今年早些时候,教皇方济各穿着一件华丽的白色蓬松夹克的图片在网上疯传,特朗普被逮捕的照片引发热议。这些图像不是真实的照片,但很多人都被愚弄了,因为没有任何明确的指标来区分这些内容是由生成式AI创建的。Meta研究人员近日发布了一篇新的研究论文和技术代码,详细介绍了一种为AI图片添加隐形水印的技术,用于区分开源生成式AI模型何时创建的图像。隐形水印将信息合并到数字内容中。这些水印肉眼看不见,但可以通过算法检测到——即使人们重新编辑了图像。虽然围绕水印还有其他研究方向,但许多现有方法在生成AI图像后创建水印。据EverypixelJournal报道,用户已经使用三个开源存储库的模型创建了超过110亿张图像。在这种情况下,只需删除生成水印的行即可删除不可见水印。StableSignature提出了一种方法来避免水印被删除。01StableSignature方法的工作原理论文地址:https://arxiv.org/abs/2303.15435Github地址:https://github.com/facebookresearch/stable_signatureStableSignature通过将水印扎根于模型中,并使用可追溯到图像创建位置的水印,消除了删除水印的可能性。让我们通过下面的图表来看看这个过程是如何工作的。Alice训练了一个主生成模型。在分发之前,她对模型的一小部分(称为解码器)进行了微调,从而为Bob生成给定的水印。该水印可以标识型号版本、公司、用户等。Bob收到他的模型版本并生成图像。生成的图像将带有Bob的水印。Alice或第三方可以对它们进行分析,看看图像是否是由使用生成式AI模型的Bob生成的。这通过两步来实现:1.联合训练两个卷积神经网络。一种将图像和随机消息编码为水印图像,另一种则从水印图像的增强版本中提取消息。目标是使编码和提取的消息匹配。训练后,只保留水印提取器。2.对生成模型的潜在解码器进行微调以生成包含固定签名的图像。在此微调过程中,会对批量图像进行编码、解码和优化,以最大限度地减少提取的消息与目标消息之间的差异,并保持感知图像质量。这种优化过程快速有效,只需要小批量和很短的时间即可获得高质量的结果。02评估StableSignature的性能我们知道人们喜欢分享和转发图像。如果Bob与10个朋友分享了他创建的图像,然后每个朋友又与另外10个朋友分享了该图像,结果会怎样?在此期间,有人可能会更改图像,例如裁剪、压缩或更改颜色。研究人员构建了StableSignature以应对这些变化。无论人们如何转换图像,原始水印都可能保留在数字数据中,并且可以追溯到创建它的生成模型。研究人员发现StableSignature相对于被动检测方法的两大优势:首先,能够控制和减少误报的产生,当将人类生成的图像误认为是AI生成的图像时,就会发生误报。考虑到在线共享的非AI生成图像的盛行,这一点至关重要。例如,最有效的现有检测方法可以发现大约50%的编辑生成图像,但仍会产生大约1/100的误报率。换句话说,在每天接收10亿张图像的用户生成内容平台上,大约1000万张图像将被错误标记,从而仅检测到一半的AI生成图像。另一方面,StableSignature以1e-10的误报率(可以设置为特定的期望值)以相同的精度检测图像。此外,这种水印方法允许追踪同一模型的不同版本的图像——这是被动技术无法实现的能力。03如果一个大模型经过了微调,StableSignature如何检测到微调版本生成的图像?AI大模型的一种常见做法是采用基础模型并对其进行微调,以处理有时甚至为一个人量身定制的特定用例。例如,可以向模型显示Alice的狗的图像,然后Alice可以要求模型生成她的狗在海滩的图像。这是通过DreamBooth、TextualInversion和ControlNet等方法完成的。这些方法作用于潜在模型级别,并且不会更改解码器。这意味着我们的水印方法不受这些微调的影响。总体而言,StableSignature与矢量量化图像建模(如VQGAN)和潜在扩散模型(如StableDiffusion)配合良好。由于这种方法不修改扩散生成过程,因此它与上述流行模型兼容。通过一些调整,稳定签名也可以应用于其他建模方法。04AI水印真的靠谱吗?通过添加隐形水印的方式来识别AI生成图像的技术最近受到很多争议。GoogleDeepMind最近宣布针对图像生成推出一种添加水印的工具SynthID,同时识别AI生成的图像。通过扫描图像中的数字水印,SynthID可以评估图像是由Imagen模型生成的可能性。但AI水印是否能够被轻易去除?据外媒Engadget、Wired等报道,美国马里兰大学的一个研究小组对AI生成内容的“数字水印”技术可靠性进行研究,发现这一技术可被轻易破解。该校计算机科学教授SoheilFeizi面对AI生成图像的水印现状时直言不讳:“目前我们没有任何可靠的水印技术,我们破解了所有的水印。”在测试过程中,研究人员可轻松避开现有的水印方法,并发现在非AI生成的图像上添加“假水印”更为容易。同时,该团队还开发出了一种“几乎无法”从图像中去除的水印技术,且不会完全损害图像的知识产权。AI水印这种方式仍旧不过成熟,并不能成为百分百有效的工具。我们需要期待未来能够出现新的技术来为生成式AI图像保驾护航,避免虚假图片泛滥,避免版权侵害。...PC版:https://www.cnbeta.com.tw/articles/soft/1389111.htm手机版:https://m.cnbeta.com.tw/view/1389111.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人