德国一公司推出“单帧水印技术”，可在图片视频中隐藏特殊水印防止泄露

德国一公司推出“单帧水印技术”，可在图片视频中隐藏特殊水印防止泄露德国公司castLabs日前推出了一种名为“单帧取证水印”的技术，该公司宣称这一技术能够“无缝集成在照片、视频、文档”中，制造商和供应商可以使用该技术防止相关内容泄密，并打击潜在的盗版行为。据外媒TNW报道，castLabs所推出的这一系统由“水印技术”与“基于AI的水印检测软件组成”，其中的“单帧取证水印”技术可将重要信息隐藏在数字媒体的单帧图像中，据称该系统可以在“任何可能的情况下保护版权内容”。castLabs宣称，即使在图像失真的情况下，新的水印技术也能仅凭一张图像就检索出泄露者的ID、会话信息和其他有用的用户数据。来源，频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

Meta开源新的AI图像水印技术，但真的靠谱吗？

Meta开源新的AI图像水印技术，但真的靠谱吗？例如，今年早些时候，教皇方济各穿着一件华丽的白色蓬松夹克的图片在网上疯传，特朗普被逮捕的照片引发热议。这些图像不是真实的照片，但很多人都被愚弄了，因为没有任何明确的指标来区分这些内容是由生成式AI创建的。Meta研究人员近日发布了一篇新的研究论文和技术代码，详细介绍了一种为AI图片添加隐形水印的技术，用于区分开源生成式AI模型何时创建的图像。隐形水印将信息合并到数字内容中。这些水印肉眼看不见，但可以通过算法检测到——即使人们重新编辑了图像。虽然围绕水印还有其他研究方向，但许多现有方法在生成AI图像后创建水印。据EverypixelJournal报道，用户已经使用三个开源存储库的模型创建了超过110亿张图像。在这种情况下，只需删除生成水印的行即可删除不可见水印。StableSignature提出了一种方法来避免水印被删除。01StableSignature方法的工作原理论文地址：https://arxiv.org/abs/2303.15435Github地址：https://github.com/facebookresearch/stable_signatureStableSignature通过将水印扎根于模型中，并使用可追溯到图像创建位置的水印，消除了删除水印的可能性。让我们通过下面的图表来看看这个过程是如何工作的。Alice训练了一个主生成模型。在分发之前，她对模型的一小部分（称为解码器）进行了微调，从而为Bob生成给定的水印。该水印可以标识型号版本、公司、用户等。Bob收到他的模型版本并生成图像。生成的图像将带有Bob的水印。Alice或第三方可以对它们进行分析，看看图像是否是由使用生成式AI模型的Bob生成的。这通过两步来实现：1.联合训练两个卷积神经网络。一种将图像和随机消息编码为水印图像，另一种则从水印图像的增强版本中提取消息。目标是使编码和提取的消息匹配。训练后，只保留水印提取器。2.对生成模型的潜在解码器进行微调以生成包含固定签名的图像。在此微调过程中，会对批量图像进行编码、解码和优化，以最大限度地减少提取的消息与目标消息之间的差异，并保持感知图像质量。这种优化过程快速有效，只需要小批量和很短的时间即可获得高质量的结果。02评估StableSignature的性能我们知道人们喜欢分享和转发图像。如果Bob与10个朋友分享了他创建的图像，然后每个朋友又与另外10个朋友分享了该图像，结果会怎样？在此期间，有人可能会更改图像，例如裁剪、压缩或更改颜色。研究人员构建了StableSignature以应对这些变化。无论人们如何转换图像，原始水印都可能保留在数字数据中，并且可以追溯到创建它的生成模型。研究人员发现StableSignature相对于被动检测方法的两大优势：首先，能够控制和减少误报的产生，当将人类生成的图像误认为是AI生成的图像时，就会发生误报。考虑到在线共享的非AI生成图像的盛行，这一点至关重要。例如，最有效的现有检测方法可以发现大约50%的编辑生成图像，但仍会产生大约1/100的误报率。换句话说，在每天接收10亿张图像的用户生成内容平台上，大约1000万张图像将被错误标记，从而仅检测到一半的AI生成图像。另一方面，StableSignature以1e-10的误报率（可以设置为特定的期望值）以相同的精度检测图像。此外，这种水印方法允许追踪同一模型的不同版本的图像——这是被动技术无法实现的能力。03如果一个大模型经过了微调，StableSignature如何检测到微调版本生成的图像？AI大模型的一种常见做法是采用基础模型并对其进行微调，以处理有时甚至为一个人量身定制的特定用例。例如，可以向模型显示Alice的狗的图像，然后Alice可以要求模型生成她的狗在海滩的图像。这是通过DreamBooth、TextualInversion和ControlNet等方法完成的。这些方法作用于潜在模型级别，并且不会更改解码器。这意味着我们的水印方法不受这些微调的影响。总体而言，StableSignature与矢量量化图像建模（如VQGAN）和潜在扩散模型（如StableDiffusion）配合良好。由于这种方法不修改扩散生成过程，因此它与上述流行模型兼容。通过一些调整，稳定签名也可以应用于其他建模方法。04AI水印真的靠谱吗？通过添加隐形水印的方式来识别AI生成图像的技术最近受到很多争议。GoogleDeepMind最近宣布针对图像生成推出一种添加水印的工具SynthID，同时识别AI生成的图像。通过扫描图像中的数字水印，SynthID可以评估图像是由Imagen模型生成的可能性。但AI水印是否能够被轻易去除？据外媒Engadget、Wired等报道，美国马里兰大学的一个研究小组对AI生成内容的“数字水印”技术可靠性进行研究，发现这一技术可被轻易破解。该校计算机科学教授SoheilFeizi面对AI生成图像的水印现状时直言不讳：“目前我们没有任何可靠的水印技术，我们破解了所有的水印。”在测试过程中，研究人员可轻松避开现有的水印方法，并发现在非AI生成的图像上添加“假水印”更为容易。同时，该团队还开发出了一种“几乎无法”从图像中去除的水印技术，且不会完全损害图像的知识产权。AI水印这种方式仍旧不过成熟，并不能成为百分百有效的工具。我们需要期待未来能够出现新的技术来为生成式AI图像保驾护航，避免虚假图片泛滥，避免版权侵害。...PC版：https://www.cnbeta.com.tw/articles/soft/1389111.htm手机版：https://m.cnbeta.com.tw/view/1389111.htm

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容今年早些时候OpenAI已经在DALL-E3图像生成模型中接入了C2PA相关标准，即生成的图像会标记来自该模型，也就是证明这是由人工智能创作的图像。OpenAI称当Sora文本生成模型视频广泛推出时也会为Sora生成的视频内容添加C2PA元数据，可以识别视频来自Sora生成而不是真实拍摄等。值得注意的是C2PA标准元数据是可以删除的，一个简单的例子就是对于DALL-E3生成的图像只需要修改图片元数据甚至直接截图就可以抹掉C2PA信息，所以OpenAI还准备了不可见的水印。不可见水印俗称盲水印，这种水印肉眼无法识别，但一些特殊的工具对图片进行处理后是可以读取盲水印的，OpenAI的计划就是在后续实施盲水印，用难以删除的不可见信号标记音频等数字内容。既然添加盲水印那OpenAI也会提供对应的检测工具，OpenAI已经开发了用于检测AI模型生成内容的检测分类器，该分类器从今天开始向一些研究人员提供，该工具主要可以检测DALL-E3生成的图像，准确率为98%，大约会有不到0.5%的非AI生成的图像也会被标记为AI生成，这个后续OpenAI还会继续优化。...PC版：https://www.cnbeta.com.tw/articles/soft/1430006.htm手机版：https://m.cnbeta.com.tw/view/1430006.htm

谷歌 DeepMind 推出 SynthID 工具，能在 AI 生成的图像中嵌入隐形水印

谷歌DeepMind推出SynthID工具，能在AI生成的图像中嵌入隐形水印谷歌DeepMind团队今日推出了一款名为SynthID的工具，可以在AI生成的图像中嵌入人眼不可见的水印，但可以用专门的人工智能检测工具检测出来，以便于区分真实和虚假的内容。SynthID的原理是在图像的像素中嵌入一个水印，但不会影响图像本身的质量和体验。该水印可以抵抗裁剪、缩放等常见的图片编辑操作，只有专门的AI检测工具才能识别出来。谷歌DeepMind的CEODemisHassabis表示，SynthID是为了解决深度伪造（deepfake）等潜在危险的问题而开发的。他认为，在2024年美国和英国即将举行大选的背景下，建立AI图像识别系统是非常重要的。他还表示，SynthID的基本思想也可以应用于视频和文本等其他媒体。来源，频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

豆瓣被爆出在截图中添加盲水印

豆瓣被爆出在截图中添加盲水印2月20日，蓝点网消息，近日不少社交用户报告称，豆瓣应用在页面中嵌入了难以察觉的水印，如果用户已经登录账号则在截图时就可能会包含用户账号。据悉，豆瓣添加的水印信息包括用户UID、TID及带时区的完整时间，水印信息使用的颜色与网页背景色相同难以看到，但开启夜间模式会看见。如果使用鼠标全选区域则可以透过高亮背景发现水印，也可以通过调色软件对截图颜色进行调整就可以发现水印。

截图自动打上“盲水印” 知乎回应：实验功能测试 已下线

截图自动打上“盲水印”知乎回应：实验功能测试已下线近日，知乎被曝在App和网页端的用户截图中嵌入盲水印，盲水印用肉眼难以分辨，需要在特定的图片显示效果下才能看到。经检测工具测试后，网友发现盲水印疑似包括用户UID等信息。9月8日，据报道，对此知乎回应称，近期，站方在小范围进行了实验功能测试，短时间测试后，该实验功能已下线。不过知乎并没有解释测试该功能背后的目的。据此前报道，网友在知乎截图中发现的盲水印很难通过肉眼识别，在截图过程中也不会出现提醒，但经过检测工具测试或使用图片处理软件调整色调之后，相关信息就会显现。经过处理后的截图会出现一串串数字，疑似截图用户的UID。还有人做了插件，用来屏蔽知乎的盲水印。此外，豆瓣也被曝在页面中嵌入了难以察觉的水印，如果用户是处于登录状态，那么水印会包含用户UID，如果没有登录，水印会包含TID和时间等信息。水印信息使用的颜色与网页背景色相同难以看到，但开启夜间模式可以看见。如果使用鼠标全选区域则可以透过高亮背景发现水印，通过调色软件对截图颜色进行调整也可以发现水印。对此，豆瓣回应称这是新增的“小组内容防搬运功能”，小组组长可以在“小组管理-小组内容防搬运设置”开启或关闭。开启后，对该小组内容进行截图时，截图上将自动生成经加密的截图用户ID、被截图帖子ID、截图时间等信息。已开启该功能的小组，在小组帖子下方可以看到“内容出自xxx小组，该小组已开启防搬运功能”的提示。PC版：https://www.cnbeta.com/articles/soft/1313955.htm手机版：https://m.cnbeta.com/view/1313955.htm