Meta将对上传到Facebook、Instagram和Threads的AI生成照片进行标注
Meta将对上传到Facebook、Instagram和Threads的AI生成照片进行标注Meta公司全球事务总裁尼克-克莱格（NickClegg）在接受采访时说，随着人工智能生成的媒体越来越难以辨别真假，这些措施旨在"激励"科技行业。白宫一直在大力推动企业为人工智能生成的内容加上水印。克莱格说，与此同时，Meta公司正在开发工具来检测合成媒体，即使其元数据已被篡改，以掩盖人工智能在创作中的作用。Meta已经在使用自己的ImagineAI生成器生成的图片上打上了"ImaginedwithAI"的水印，该公司还将开始在使用Google、OpenAI、微软、Adobe、Midjourney和Shutterstock的工具生成的人工智能照片上打上同样的水印。克莱格说，在建立识别人工智能生成的视频和音频的标准方面，该行业远远落后于其他行业。虽然Meta对此类媒体如何被用于欺骗保持高度警惕，但该公司不可能靠自己抓住一切。他说："对于那些担心视频、音频内容被设计用来在大选前的重要政治问题上欺骗公众的人，我们将保持高度警惕。我是否认为有可能发生这样的事情：无论多么迅速地发现或迅速地贴上标签，我们还是会被莫名其妙地指责掉链子？是的，我认为这是可能的，如果不是很有可能的话。"Meta公司一直在与人工智能合作伙伴关系等组织合作，在现有内容真实性计划的基础上进一步发展。Adobe最近发布了内容凭证系统，将内容出处信息纳入图像元数据。Google在发布了针对图片的测试版SynthID水印后，又将其扩展到了音频文件。克莱格说，Meta将很快开始要求用户披露使用人工智能制作的逼真视频或音频帖子。他说，如果用户不披露，"将受到从警告到删除违规帖子的各种处罚"。人工智能生成的政客病毒式帖子已经有很多例子，但克莱格低估了这种现象在大选年席卷Meta平台的可能性。他说："我认为，我们不可能很快看到完全由人工合成的、具有重大政治意义的视频或音频。我只是不认为事情会这样发展"。他说，Meta还开始在内部测试使用根据社区标准训练的大型语言模型（LLM），并称其为数以万计的人工审核员提供了一种高效的"分流机制"。他说："这似乎是一种非常有效且相当精确的方法，可以确保上报给我们人工审核员的内容确实是那种需要人工判断的边缘案例。"...PC版：https://www.cnbeta.com.tw/articles/soft/1416573.htm手机版：https://m.cnbeta.com.tw/view/1416573.htm
