研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义这样做的目的是，人工智能生成的材料将被巧妙地标记，以便在有人试图将其内容冒充为人类制作的内容时，能够被检测和识别出来。但学者们警告说，图像中的数字水印——在创建内容时添加噪声，然后在图像数据集中检测该噪声模式的存在——可能并不能提供多少安全保证。日前来自马里兰大学的研究团队取得了重大突破，他们制定了一种绕过嵌入在AI生成图像中的所有水印保护的方法。在接受Wired采访时，计算机科学教授SoheilFeizi表示，目前没有可靠的方法可以为AI生成的图像加上水印，他的团队成功地绕过了“所有方法”。就目前而言，恶意行为者绕过水印仍然太容易。而且，还可以将水印添加到人工制作的图像中，从而触发误报。数字水印已被各种AI公司推崇为一种功能，使用户能够知道图像是否是借助AI生成的。问题是我们仍然没有万无一失、无法被操纵的水印技术。Feizi和他的团队在一份预印本论文中详细记录了他们的研究结果。在论文中，研究人员表示，使用微妙的图像扰动的水印方法可以轻松地通过扩散净化攻击来破解。这种方法的工作原理是，在使用AI生成图像时，会对其应用一种人眼不可见的特定噪声模式。问题在于，这种模式可以很容易地被修改或移除，而对整体图像的更改很小。同样，使用大量扰动的水印技术，即对图像进行重大更改的技术，可以通过易于移除水印的模型替代对抗攻击来破解。此外，恶意行为者可以使用水印技术来针对真正的艺术家，将他们的图像标记上会导致它们被错误地识别为由AI生成的模式。这可能会损害艺术家的声誉。...PC版：https://www.cnbeta.com.tw/articles/soft/1388565.htm手机版：https://m.cnbeta.com.tw/view/1388565.htm

谷歌为AI生成图像添加水印 这项技术有何不同之处？

谷歌为AI生成图像添加水印这项技术有何不同之处？据悉，这项名为SynthID的技术将水印直接嵌入到Imagen生成的图像中，Imagen是谷歌最新的人工智能图像生成器之一。之后，无论裁剪、添加过滤器或改变颜色以及使用各种有损压缩方案，被添加到图像中的水印都将无法去除，以便于人们区分真实和虚假的内容。当然，SynthID工具也可以扫描传入的图像，从而评估图像是由Imagen生成的可能性。这项功能由人工智能实验室GoogleDeepMind的技术提供支持。不过，SynthID并不能保证水印可以万无一失地抵御极端图像处理，但它提供了一种有用的技术方法，使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。谷歌声明称：“虽然这项技术并不完美，但我们的内部测试表明，它对许多常见的图像处理都是准确的。”该公司表示，目前SynthID只能在谷歌云平台上使用，主要针对使用VertexAI平台和Imagen图像生成器的客户，但SynthID技术将继续发展下去，并可能扩展到谷歌其他产品或第三方产品。谷歌DeepMind首席执行官DemisHassabis表示，SynthID是为了解决深度伪造等问题而开发的，在2024年美国即将举行大选的背景下，建立人工智能图像识别系统是非常重要的。随着深度伪造和编辑过的图像、视频变得越来越逼真，科技公司正在争先恐后地寻找一种可靠的方式来识别和标记被操纵的内容。在上个月底，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，以公众安全、系统网络安全和获取社会信任作为人工智能开发的三大原则。在SynthID发布之前，Truepic和RealityDefender等公司也在试图寻找解决方案，这也说明了这项工作的潜在风险和必要性。OpenAI公司今年早些时候推出了一个工具，旨在弄清文本是人类还是计算机写的。但该公司表示，他们检测人工智能生成的文字的能力是“不完美的”，需要继续进行优化。...PC版：https://www.cnbeta.com.tw/articles/soft/1380561.htm手机版：https://m.cnbeta.com.tw/view/1380561.htm

【推特打击AI虚假图片，将对图片添加由用户生成的事实核查信息】

【推特打击AI虚假图片，将对图片添加由用户生成的事实核查信息】5月31日消息，在一张由AI生成的“五角大楼附近爆炸”虚假图片在平台上疯传后不久，推特宣布将其由用户生成的事实核查项目扩展到图片。现在，贡献者将能够针对图片添加相关信息，而且这些信息将出现在“最近和未来匹配的图片”下方。推特社区用户将能够指明他们是针对推文本身还是推文中的图片添加背景信息。目前，这个功能只适用于单张图片，不过该公司表示正在努力将其扩展到视频和多张图片的推文。

【微软将对AI生成图像进行加密签名，Bing将成为ChatGPT的默认搜索引擎】

【微软将对AI生成图像进行加密签名，Bing将成为ChatGPT的默认搜索引擎】2023年05月24日10点44分5月24日消息，在微软Build2023开发者大会上，该公司宣布将在未来几个月内增加一项功能，让所有人都能识别BingImageCreator和MicrosoftDesigner生成的图像或视频片段是否是由AI生成的。微软表示，该技术使用密码学方法对AI生成的内容进行标记和签名，并附上有关其来源的元数据信息。微软表示，该功能将适用于其两款AI内容生成程序支持的主要图像和视频格式，但是没有公布具体支持哪些格式。此外，微软宣布Bing将成为ChatGPT的默认搜索引擎、微软将与OpenAI一起打造ChatGPT插件生态、在Windows11集成Copilot等。