DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首 谷歌旗下 DeepMind 部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。

OPENAI称已终止了秘密影响行动有关的账户

OPENAI称已终止了秘密影响行动有关的账户 人工智能公司 OpenAI 周四表示，该公司发现并破坏了五个利用其生成式人工智能技术，以欺骗方式操纵世界各地公众舆论、影响地缘政治的线上行动。这些行动源自俄罗斯、中国、伊朗和以色列。使用 OpenAI 的技术来生成社交媒体帖子、翻译和编辑文章、撰写标题和调试计算机程序，通常是为了赢得对政治活动的支持，或者在地缘政治冲突中左右公众舆论。 、、

NIST 推出评估生成式人工智能的新平台

NIST 推出评估生成式人工智能的新平台 NIST 在新推出的 NIST GenAI网站和一份新闻稿中解释说，NISTGenAI将发布基准，帮助创建"内容真实性"检测（即深度验假）系统，并鼓励开发软件来识别人工智能生成的虚假或误导性信息的来源。"NIST GenAI 计划将发布一系列挑战问题，[旨在]评估和衡量生成式人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的策略，并指导安全、负责任地使用数字内容"。NIST GenAI 的第一个项目是一项试点研究，目的是建立能够可靠区分人类创建的媒体和人工智能生成的媒体的系统，首先从文本开始。(虽然许多服务都声称可以检测深度伪造，但研究和测试表明，它们充其量只能说是不可靠的，尤其是在文本方面）。NIST GenAI 邀请学术界、工业界和研究实验室的团队提交"生成器"（生成内容的人工智能系统）或"鉴别器"（旨在识别人工智能生成内容的系统）。研究中的生成器必须生成 250 字或更少的摘要，提供一个主题和一组文档，而判别器必须检测给定摘要是否可能是人工智能编写的。为确保公平，NIST GenAI 将提供测试生成器所需的数据。NIST 表示："以公开数据训练的系统如果不"遵守适用的法律法规"，将不被接受。试点登记将于 5 月 1 日开始，第一轮两家计划于 8 月 2 日结束。 预计研究的最终结果将于 2025 年 2 月公布。在人工智能生成的错误信息和虚假信息呈指数级增长之际，NIST GenAI 启动了以深度伪造为重点的研究。根据深度假货检测公司Clarity 的数据，与去年同期相比，今年制作和发布的深度假货数量增加了 900%。这引起了人们的恐慌，这是可以理解的。 YouGov 最近的 一项民意调查 发现，85% 的美国人担心误导性的深度假新闻会在网上传播。NIST GenAI 的启动是 NIST 响应乔-拜登总统关于人工智能的行政命令的一部分，拜登总统的行政命令规定，要求人工智能公司在其模型如何工作方面提高透明度，并制定了一系列新标准，包括对人工智能生成的内容进行标注。这也是 NIST 在任命前 OpenAI 研究员保罗-克里斯蒂亚诺（Paul Christiano）为该机构的人工智能安全研究所成员后，首次发布与人工智能相关的消息。克里斯蒂亚诺因其"现实主义"观点而备受争议；他曾预言，"人工智能的发展有50%的可能以[人类毁灭]而告终"。据报道，包括美国国家标准与技术研究院（NIST）科学家在内的批评人士担心，克里斯蒂亚诺可能会鼓励人工智能安全研究所关注"幻想的场景"，而不是现实的、更直接的人工智能风险。NIST 表示，NIST GenAI 将为人工智能安全研究所的工作提供参考。 ... PC版： 手机版：

佛罗里达州青少年因利用"deepfake"创建同学裸体图像而被捕

佛罗里达州青少年因利用"deepfake"创建同学裸体图像而被捕 根据佛罗里达州 2022 年的一项法律，他们被指控犯有三级重罪，该法律将未经受害者同意传播深度伪造的性露点图像定为犯罪。这次逮捕和指控似乎都是全国首例与分享人工智能生成的裸体有关的案件。佛罗里达州迈阿密市松树湾学院（Pinecrest Cove Academy）的学生在 12 月 6 日被停学后，当地媒体报道了这一事件，并向迈阿密-戴德警察局报了案。据《连线》报道，他们于 12 月 22 日被捕。未成年人制作人工智能生成的其他儿童的裸体和露骨图像，已成为全国各学区日益普遍的问题。但除了佛罗里达州的这起事件外，我们没有听说过任何一起导致逮捕的事件。目前还没有联邦法律来解决非自愿的深度伪造裸体问题，这使得各州只能自行解决生成式人工智能对儿童性虐待材料、非自愿的深度伪造或报复性色情等问题的影响。去年秋天，乔-拜登总统发布了一项关于人工智能的行政命令，要求各机构提交一份关于禁止使用生成式人工智能制作儿童性虐待材料的报告。美国国会尚未通过有关深度伪造色情内容的法律，但这一情况可能很快就会改变。参议院和众议院本周都提出了名为《2024 年 DEFIANCE 法案》的立法，这项努力似乎得到了两党的支持。尽管目前几乎所有州都制定了针对报复性色情内容的法律，但只有少数几个州通过了针对人工智能生成的露骨性图像的不同程度的法律。在没有法律保护的州，受害者也纷纷提起诉讼。例如，新泽西州的一名青少年就起诉了一名分享假人工智能裸照的同学。《洛杉矶时报》近日报道称，比佛利山警察局目前正在调查一起学生涉嫌分享图片的案件，这些图片"在人工智能生成的裸体上使用了学生的真实面孔"。但由于该州法律禁止"非法拥有淫秽物品，明知该物品描述未满 18 岁的人从事或模拟性行为"，但该法律并未明确提及人工智能生成的图像，因此文章称目前尚不清楚是否已构成犯罪。据《洛杉矶时报》报道，当地学区周五投票决定开除五名卷入丑闻的学生。 ... PC版： 手机版：

生成式人工智能可能在未来两年对搜索引擎构成巨大威胁

生成式人工智能可能在未来两年对搜索引擎构成巨大威胁 Gartner 表示，随着人工智能从传统搜索引擎转向人工智能，企业将不得不调整营销渠道策略。Gartner 公司副总裁分析师艾伦-安廷（Alan Antin）说："有机搜索和付费搜索是科技营销人员实现认知和需求生成目标的重要渠道。生成式人工智能（GenAI）解决方案正在成为替代答案引擎，取代用户以前可能在传统搜索引擎中执行的查询。随着 GenAI 越来越深入企业的方方面面，这将迫使企业重新思考其营销渠道战略。"该分析公司还表示，搜索引擎算法将倾向于高质量的内容，以帮助抵消日益增长的人工智能生成的内容。此外，作为突出高价值内容的一种手段，水印预计将变得更加重要。虽然Google可能不会喜欢这一预测，但值得注意的是，Google和许多其他搜索引擎提供商都是人工智能生成服务的主要提供商；Google有Gemini，微软有Copilot。因此，虽然传统搜索引擎的使用率可能会因为人工智能而下降，但获得流量的仍将是Google等公司，不过，这可能意味着需要有某种方式来替代Google赖以获得收入的赞助商链接、Gartner 在预测中没有提到这一点，但人工智能的革命也意味着小公司可能成为Google在搜索领域的重要竞争对手。大多数人都知道微软的 Copilot，它本质上是带有网络访问功能的 ChatGPT，但还有一家初创公司 Perplexity，它吸引了亚马逊创始人杰夫-贝索斯（Jeff Bezos）和英伟达（NVIDIA）的资金。 ... PC版： 手机版：

FCC建议必须披露政治广告中所有人工智能生成的内容

FCC建议必须披露政治广告中所有人工智能生成的内容 消费者有权知道他们看到的政治广告中何时使用了人工智能工具，我希望（委员们）在这个问题上迅速采取行动。根据设想的框架，候选人和议题广告都必须在播出时披露使用了人工智能生成的内容。这将适用于"有线电视运营商、卫星电视和广播提供商"，但不适用于流媒体或 YouTube 等，因为 FCC 没有法定权力对其进行监管，首先必须就人工智能生成内容的定义达成一致。该提案属于实况调查类型，是制定新法规的第一个公开步骤。如果获得通过，联邦通信委员会将就该法规是否有必要开始实施、如何定义内容等问题征求意见。与规则制定文件不同的是，这些文件可以随时进行表决。联邦通信委员会的文件描述了"委员会许可证持有者、监管者和许可者的明确公共利益义务，即保护公众免受虚假、误导或欺骗性节目的影响，并促进公众知情"。当然，从直觉上看，大多数人都希望在竞选广告中的图像、音频或其他任何东西是人工智能生成的时候，能有某种提示；这样的规定也可能会阻止低成本的人工智能尝试，并有助于为打击像诱骗选民不要去投票这样的欺诈电话背后的黑心公司这样的不良行为者奠定基础。 ... PC版： 手机版：