谷歌 DeepMind 推出了人工智能生成图像的水印工具

谷歌DeepMind推出了人工智能生成图像的水印工具谷歌DeepMind推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。该工具名为SynthID，最初仅供Google人工智能图像生成器Imagen的用户使用，该生成器托管在GoogleCloud的机器学习平台Vertex上。用户将能够使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。ViaHuaHua投稿：@ZaiHuaBot频道：@TestFlightCN

谷歌为AI生成图像添加水印 这项技术有何不同之处？

谷歌为AI生成图像添加水印这项技术有何不同之处？据悉，这项名为SynthID的技术将水印直接嵌入到Imagen生成的图像中，Imagen是谷歌最新的人工智能图像生成器之一。之后，无论裁剪、添加过滤器或改变颜色以及使用各种有损压缩方案，被添加到图像中的水印都将无法去除，以便于人们区分真实和虚假的内容。当然，SynthID工具也可以扫描传入的图像，从而评估图像是由Imagen生成的可能性。这项功能由人工智能实验室GoogleDeepMind的技术提供支持。不过，SynthID并不能保证水印可以万无一失地抵御极端图像处理，但它提供了一种有用的技术方法，使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。谷歌声明称：“虽然这项技术并不完美，但我们的内部测试表明，它对许多常见的图像处理都是准确的。”该公司表示，目前SynthID只能在谷歌云平台上使用，主要针对使用VertexAI平台和Imagen图像生成器的客户，但SynthID技术将继续发展下去，并可能扩展到谷歌其他产品或第三方产品。谷歌DeepMind首席执行官DemisHassabis表示，SynthID是为了解决深度伪造等问题而开发的，在2024年美国即将举行大选的背景下，建立人工智能图像识别系统是非常重要的。随着深度伪造和编辑过的图像、视频变得越来越逼真，科技公司正在争先恐后地寻找一种可靠的方式来识别和标记被操纵的内容。在上个月底，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，以公众安全、系统网络安全和获取社会信任作为人工智能开发的三大原则。在SynthID发布之前，Truepic和RealityDefender等公司也在试图寻找解决方案，这也说明了这项工作的潜在风险和必要性。OpenAI公司今年早些时候推出了一个工具，旨在弄清文本是人类还是计算机写的。但该公司表示，他们检测人工智能生成的文字的能力是“不完美的”，需要继续进行优化。...PC版：https://www.cnbeta.com.tw/articles/soft/1380561.htm手机版：https://m.cnbeta.com.tw/view/1380561.htm

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义这样做的目的是，人工智能生成的材料将被巧妙地标记，以便在有人试图将其内容冒充为人类制作的内容时，能够被检测和识别出来。但学者们警告说，图像中的数字水印——在创建内容时添加噪声，然后在图像数据集中检测该噪声模式的存在——可能并不能提供多少安全保证。日前来自马里兰大学的研究团队取得了重大突破，他们制定了一种绕过嵌入在AI生成图像中的所有水印保护的方法。在接受Wired采访时，计算机科学教授SoheilFeizi表示，目前没有可靠的方法可以为AI生成的图像加上水印，他的团队成功地绕过了“所有方法”。就目前而言，恶意行为者绕过水印仍然太容易。而且，还可以将水印添加到人工制作的图像中，从而触发误报。数字水印已被各种AI公司推崇为一种功能，使用户能够知道图像是否是借助AI生成的。问题是我们仍然没有万无一失、无法被操纵的水印技术。Feizi和他的团队在一份预印本论文中详细记录了他们的研究结果。在论文中，研究人员表示，使用微妙的图像扰动的水印方法可以轻松地通过扩散净化攻击来破解。这种方法的工作原理是，在使用AI生成图像时，会对其应用一种人眼不可见的特定噪声模式。问题在于，这种模式可以很容易地被修改或移除，而对整体图像的更改很小。同样，使用大量扰动的水印技术，即对图像进行重大更改的技术，可以通过易于移除水印的模型替代对抗攻击来破解。此外，恶意行为者可以使用水印技术来针对真正的艺术家，将他们的图像标记上会导致它们被错误地识别为由AI生成的模式。这可能会损害艺术家的声誉。...PC版：https://www.cnbeta.com.tw/articles/soft/1388565.htm手机版：https://m.cnbeta.com.tw/view/1388565.htm

Google实现在人工智能生成的音乐中嵌入听不见的声纹水印

Google实现在人工智能生成的音乐中嵌入听不见的声纹水印DeepMind在一篇博文中说，这种水印人耳无法察觉，"也不会影响听觉体验"，并补充说，即使音轨被压缩、加速或减速，或添加了额外的噪音，水印仍然可以被识别出来。像SynthID这样的水印工具被认为是防止生成式人工智能造成某些危害的重要保障。例如，美国总统乔-拜登（JoeBiden）关于人工智能的行政命令要求制定一套由政府主导的新标准，用于对人工智能生成的内容进行水印处理。这是一个大有可为的领域，但目前的技术还远非抵御AI内容造假的灵丹妙药。根据DeepMind的说法，SynthID的音频实现方法是"将音频波转换为二维可视化，显示声音中的频谱如何随时间演变"。该公司声称，这种方法"与目前存在的任何方法都不同"。Google在人工智能生成的音频中嵌入水印功能的消息是在该公司发布SynthID测试版之后短短几个月发布的，测试版适用于Imagen在Google云的顶点人工智能上创建的图像。这种水印可以抵御剪裁或调整大小等编辑，不过DeepMind提醒说，它并不能抵御"极端的修图处理"。...PC版：https://www.cnbeta.com.tw/articles/soft/1397481.htm手机版：https://m.cnbeta.com.tw/view/1397481.htm

谷歌 DeepMind 推出 SynthID 工具，能在 AI 生成的图像中嵌入隐形水印

谷歌DeepMind推出SynthID工具，能在AI生成的图像中嵌入隐形水印谷歌DeepMind团队今日推出了一款名为SynthID的工具，可以在AI生成的图像中嵌入人眼不可见的水印，但可以用专门的人工智能检测工具检测出来，以便于区分真实和虚假的内容。SynthID的原理是在图像的像素中嵌入一个水印，但不会影响图像本身的质量和体验。该水印可以抵抗裁剪、缩放等常见的图片编辑操作，只有专门的AI检测工具才能识别出来。谷歌DeepMind的CEODemisHassabis表示，SynthID是为了解决深度伪造（deepfake）等潜在危险的问题而开发的。他认为，在2024年美国和英国即将举行大选的背景下，建立AI图像识别系统是非常重要的。他还表示，SynthID的基本思想也可以应用于视频和文本等其他媒体。来源，频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot