DeepMind 与 Google Cloud 合作为人工智能生成的图像添加水印

DeepMind与GoogleCloud合作为人工智能生成的图像添加水印谷歌Deepmind与谷歌云合作，推出了一款用于添加水印和识别人工智能生成图像的工具SynthID。但仅限于谷歌自己的图像生成模型创建的图像。SynthID的水印对于人类来说是难以察觉的，并且能够适应常见的图像操作，比如在添加滤镜、更改颜色和高度压缩图像等修改之后，SynthID仍然保持不变。虽然SynthID提供了强大的防御能力，但仍需要不断创新和适应，才能在对抗生成式AI欺骗的斗争中领先于黑客和开发人员。——、、

NVIDIA、Adobe、IBM 等公司向白宫承诺采取措施降低人工智能风险

NVIDIA、Adobe、IBM等公司向白宫承诺采取措施降低人工智能风险Adobe、IBM、NVIDIA、Palantir、Stability、Salesforce、Scale和Cohere加入了拜登总统提出的原则的现有签署方行列。这些承诺要求签署公司采取一些措施，比如给人工智能生成的媒体打上水印或贴上标签，让人们知道这些媒体不是人类创造的。人工智能公司还承诺在与人工智能合作时促进公平、非歧视、透明、隐私和安全。白宫幕僚长杰夫-齐恩斯（JeffZients）赞扬了更多公司加入这一努力，并表示拜登已将利用人工智能的好处同时管理其风险作为首要任务。今天，这八家领先的人工智能公司承诺：这些公司承诺在人工智能系统发布之前对其进行内部和外部安全测试。这些公司承诺在整个行业内，并与政府、民间社会和学术界共享有关管理人工智能风险的信息。这些公司承诺投资网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些公司承诺为第三方发现和报告其人工智能系统中的漏洞提供便利。两家公司承诺开发强大的技术机制，确保用户知道内容是人工智能生成的，例如水印系统。这些公司承诺公开报告其人工智能系统的能力、局限性以及适当和不适当使用的领域。这些公司承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。这些公司承诺开发和部署先进的人工智能系统，以帮助解决社会面临的最大挑战。然而，许多人担心人工智能服务的兴起。这些承诺的自愿性质被视为一种临时解决方案。8月底，微软公司董事长兼执行副总裁布拉德-史密斯（BradSmith）对此表示支持，他呼吁制定一项"监管计划"，以确保人工智能始终处于人类控制之下。此外，该公司还发布了它认为应该如何管理人工智能的蓝图。...PC版：https://www.cnbeta.com.tw/articles/soft/1383433.htm手机版：https://m.cnbeta.com.tw/view/1383433.htm

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义这样做的目的是，人工智能生成的材料将被巧妙地标记，以便在有人试图将其内容冒充为人类制作的内容时，能够被检测和识别出来。但学者们警告说，图像中的数字水印——在创建内容时添加噪声，然后在图像数据集中检测该噪声模式的存在——可能并不能提供多少安全保证。日前来自马里兰大学的研究团队取得了重大突破，他们制定了一种绕过嵌入在AI生成图像中的所有水印保护的方法。在接受Wired采访时，计算机科学教授SoheilFeizi表示，目前没有可靠的方法可以为AI生成的图像加上水印，他的团队成功地绕过了“所有方法”。就目前而言，恶意行为者绕过水印仍然太容易。而且，还可以将水印添加到人工制作的图像中，从而触发误报。数字水印已被各种AI公司推崇为一种功能，使用户能够知道图像是否是借助AI生成的。问题是我们仍然没有万无一失、无法被操纵的水印技术。Feizi和他的团队在一份预印本论文中详细记录了他们的研究结果。在论文中，研究人员表示，使用微妙的图像扰动的水印方法可以轻松地通过扩散净化攻击来破解。这种方法的工作原理是，在使用AI生成图像时，会对其应用一种人眼不可见的特定噪声模式。问题在于，这种模式可以很容易地被修改或移除，而对整体图像的更改很小。同样，使用大量扰动的水印技术，即对图像进行重大更改的技术，可以通过易于移除水印的模型替代对抗攻击来破解。此外，恶意行为者可以使用水印技术来针对真正的艺术家，将他们的图像标记上会导致它们被错误地识别为由AI生成的模式。这可能会损害艺术家的声誉。...PC版：https://www.cnbeta.com.tw/articles/soft/1388565.htm手机版：https://m.cnbeta.com.tw/view/1388565.htm

谷歌为AI生成图像添加水印 这项技术有何不同之处？

谷歌为AI生成图像添加水印这项技术有何不同之处？据悉，这项名为SynthID的技术将水印直接嵌入到Imagen生成的图像中，Imagen是谷歌最新的人工智能图像生成器之一。之后，无论裁剪、添加过滤器或改变颜色以及使用各种有损压缩方案，被添加到图像中的水印都将无法去除，以便于人们区分真实和虚假的内容。当然，SynthID工具也可以扫描传入的图像，从而评估图像是由Imagen生成的可能性。这项功能由人工智能实验室GoogleDeepMind的技术提供支持。不过，SynthID并不能保证水印可以万无一失地抵御极端图像处理，但它提供了一种有用的技术方法，使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。谷歌声明称：“虽然这项技术并不完美，但我们的内部测试表明，它对许多常见的图像处理都是准确的。”该公司表示，目前SynthID只能在谷歌云平台上使用，主要针对使用VertexAI平台和Imagen图像生成器的客户，但SynthID技术将继续发展下去，并可能扩展到谷歌其他产品或第三方产品。谷歌DeepMind首席执行官DemisHassabis表示，SynthID是为了解决深度伪造等问题而开发的，在2024年美国即将举行大选的背景下，建立人工智能图像识别系统是非常重要的。随着深度伪造和编辑过的图像、视频变得越来越逼真，科技公司正在争先恐后地寻找一种可靠的方式来识别和标记被操纵的内容。在上个月底，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，以公众安全、系统网络安全和获取社会信任作为人工智能开发的三大原则。在SynthID发布之前，Truepic和RealityDefender等公司也在试图寻找解决方案，这也说明了这项工作的潜在风险和必要性。OpenAI公司今年早些时候推出了一个工具，旨在弄清文本是人类还是计算机写的。但该公司表示，他们检测人工智能生成的文字的能力是“不完美的”，需要继续进行优化。...PC版：https://www.cnbeta.com.tw/articles/soft/1380561.htm手机版：https://m.cnbeta.com.tw/view/1380561.htm

OpenAI为DALL-E 3模型生成的图像元数据添加水印

OpenAI为DALL-E3模型生成的图像元数据添加水印人们可以通过内容凭证验证（ContentCredentialsVerify）等网站核实由OpenAI平台生成的任何图像的出处（即使用了哪种人工智能工具制作内容）。到目前为止，只有静态图像可以带有水印，视频或文本都不行。OpenAI表示，在图像中添加水印元数据"对延迟的影响可以忽略不计，也不会影响图像生成的质量"。对于某些任务来说，它还会略微增加图像尺寸。由Adobe和微软等公司组成的C2PA组织一直在推动使用"内容证书"水印来识别内容的出处，并显示其是人工制作的还是人工智能制作的。Adobe创建了一个内容凭证符号，OpenAI正在将其添加到《DALL-E3》的创作中。Meta最近宣布将在其社交媒体平台上为人工智能生成的内容添加标签。识别人工智能生成的内容是拜登政府关于人工智能行政命令的主要指令之一。但水印并不是阻止错误信息的万全之策。OpenAI指出，C2PA的元数据"很容易被意外或有意删除"，尤其是大多数社交媒体平台通常会删除上传内容中的元数据，截图行为也会省略图中的元数据。OpenAI在其网站上表示："我们相信，采用这些方法确定出处并鼓励用户识别这些信号，是提高数字信息可信度的关键。"...PC版：https://www.cnbeta.com.tw/articles/soft/1416651.htm手机版：https://m.cnbeta.com.tw/view/1416651.htm

谷歌 DeepMind 推出了人工智能生成图像的水印工具

谷歌DeepMind推出了人工智能生成图像的水印工具谷歌DeepMind推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。该工具名为SynthID，最初仅供Google人工智能图像生成器Imagen的用户使用，该生成器托管在GoogleCloud的机器学习平台Vertex上。用户将能够使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。ViaHuaHua投稿：@ZaiHuaBot频道：@TestFlightCN