白宫呼吁立法制止制作与散播Taylor Swift的AI虚假图片行为

白宫呼吁立法制止制作与散播Taylor Swift的AI虚假图片行为 让-皮埃尔称这一事件"令人震惊"，并说这是拜登政府优先考虑的人工智能问题之一。她说："国会当然应该采取立法行动。这是你们处理其中一些问题的方式"。她没有提及白宫支持的任何具体立法。这些图片在周三晚上尤其在 X 平台上传播开来，其中一张图片的浏览量达到了 4500 万次，随后被撤下。该平台反应迟缓，帖子停留了约 17 个小时。这些图片后来传播到了更小的账户，现在仍可在 X 上看到。让·皮埃尔说，社交媒体平台"在执行自己的规则方面可以发挥重要作用"，以防止这类材料的传播。她在向记者介绍情况时说："我们知道，执法不严会对妇女和女孩造成不成比例的影响，可悲的是，她们是网络骚扰和虐待的绝大多数目标。白宫此前曾发起一个特别工作组来解决网络骚扰问题。但这显然是一种修修补补的方法。显然，应该立法来解决这个问题。"美国国会多年来一直在批评社交媒体平台的节制行为，但迄今为止，美国国会一直未能达成一致并通过相应的法规。现在看来两党都会支持泰勒·斯威夫特，但还不清楚这是否足以达成一项真正的法案。 ... PC版： 手机版：

美国政府敦促私营企业自愿合作，打击AI深伪色情图片市场

美国政府敦促私营企业自愿合作，打击AI深伪色情图片市场 拜登政府正在敦促科技行业和金融机构关闭不断增长的AI色情图片市场。新的生成式人工智能工具让通过肖像转换为色情深伪图片变得轻而易举，他们被拿来在聊天室或社交媒体上传播。受害者无论是名人还是儿童都几乎无力阻止这种行为。 白宫周四发出呼吁，寻求企业在联邦立法不力的情况下自愿合作。通过承诺采取一系列具体措施，官员们希望私营企业能够遏制此类未经同意的人工智能图像的制作、传播和货币化。拜登的首席科学顾问、白宫科技政策办公室主任阿拉蒂·普拉巴卡向美联社讲述了这种由AI生成的未经当事人同意的色情图像“惊人增长”，这些图像主要针对成年女性和女孩，那将会颠覆她们的生活。

Taylor Swift假图风波后 美国国会议员提出反非自愿人工智能色情法案

Taylor Swift假图风波后 美国国会议员提出反非自愿人工智能色情法案 法案由迪克·德宾 (伊利诺伊州参议员), 林赛-格雷厄姆（Lindsey Graham）（南卡罗来纳州参议员）、艾米-克洛布查尔（Amy Klobuchar）（明尼苏达州参议员）和乔什-霍利（Josh Hawley）（密苏里州参议员）共同提出。该法案以《2022 年暴力侵害妇女法案再授权法案》（Violence Against Women Act Reauthorization Act of 2022）中的一项条款为基础，该法案为非伪造的露骨图片增加了类似的诉权。在一份摘要中，提案人将其描述为对"呈指数级"增长的数字篡改露骨人工智能图像的回应，并将斯威夫特的案例作为一个例子，说明假图像如何"被用来剥削和骚扰女性尤其是公众人物、政客和名人"。色情人工智能操纵图像经常被称为深度伪造图像（deepfakes），自2017 年该术语出现以来，其受欢迎程度和复杂程度都在不断提高。现成的生成式人工智能工具使它们的制作变得更加容易，即使是在具有防止露骨图像或冒充的防护栏的系统上也是如此，它们已被用于骚扰和勒索。但到目前为止，美国许多地方还没有明确的法律补救措施。几乎所有的州都通过了禁止未经同意的非模拟色情制品的法律，尽管这个过程很缓慢。而针对模拟图像生成的法律则少得多。但这是乔-拜登（Joe Biden）总统人工智能监管议程的一部分，白宫新闻秘书卡琳-让-皮埃尔（Karine Jean-Pierre）呼吁国会通过新法律，以应对上周发生的泰勒-斯威夫特（Taylor Swift）事件。《DEFIANCE》法案是专门针对人工智能生成的图像提出的，但也并不局限于这些图像。该法案将任何通过"软件、机器学习、人工智能或任何其他计算机生成或技术手段......在合理的人看来与真实的个人视觉描述无异的亲密性图像（基本规则中定义的术语）视为伪造。"这包括被修改成具有性暗示的真实图片。其措辞似乎也适用于像 Photoshop 这样的老式工具，只要结果足够逼真即可。添加一个标注图片不真实的标签也不能免除责任。国会议员们已经提出了许多针对人工智能和未经同意的色情制品的法案，但大多数尚未获得通过。本月早些时候，立法者提出了《禁止人工智能欺诈法案》（No AI FRAUD Act），这是一项极为广泛的禁令，禁止未经许可使用技术模仿他人。不过，一刀切的模仿规则会引发艺术表达方面的巨大问题；它可能会让有权势的人物对政治模仿、重演或创造性的虚构处理提起诉讼。《DEFIANCE》可能会引发一些同样的问题，但它的限制要大得多尽管它的通过仍面临着一场艰苦的战斗。 ... PC版： 手机版：

伪造的Taylor Swift露骨图片在网上被分享引发国会议员关注

伪造的Taylor Swift露骨图片在网上被分享引发国会议员关注 34 岁的女歌手泰勒-斯威夫特（Taylor Swift）的露骨图片本周被分享到 X 频道，在发布图片的账户被关闭之前，已获得超过 2700 万次浏览和 26 万个"赞"。但这并没有阻止图片的传播，因为这些图片仍在继续传播，据说已被浏览了 4000 多万次。针对这一事件，X 一直在积极删除这些图片，并禁止在该平台上搜索Taylor Swift，试图遏制其传播。该公司在一份声明中说："我们正密切关注事态发展，确保立即处理任何进一步的违规行为，并删除相关内容。"但平台上的节制可能还不够。现在，美国国会议员甚至白宫都对这一问题发表了看法。美国众议员乔-莫雷勒（Joe Morelle）表示，AI伪造图片会造成无法挽回的情感、经济和声誉伤害不幸的是，女性受到的影响尤为严重"。民主党代表伊薇特-克拉克（Yvette Clark）说："泰勒-斯威夫特的遭遇并不新鲜。多年来，女性一直是[未经]她们同意的深度伪造的目标。随着人工智能的进步，制造深度假新闻变得更加容易和廉价"。泰勒-斯威夫特的遭遇并不新鲜。多年来，未经女性同意，她们一直是深度伪造的目标。而随着人工智能的进步，制造深度假新闻变得更加容易和便宜。这是一个两党甚至斯威夫特人都应该能够共同解决的问题。- 伊薇特-D-克拉克（@RepYvetteClarke）2024 年 1 月 25 日正如克拉克众议员所说，这并不是一个新问题。但有了这样一个高调的目标，这个问题已经成为公众讨论的焦点，现在可能成为未来立法的目标。周五，白宫新闻秘书卡琳-让-皮埃尔（Karine Jean-Pierre）称这些图片"令人震惊"，并在一份声明中说："虽然社交媒体公司在内容管理方面做出了自己的独立决定，但我们认为它们在执行自己的规则以防止错误信息和未经同意的真人私密图片传播方面可以发挥重要作用。"在英国，2023 年 10 月，根据《网络安全法》，露骨的深度伪造是非法的。PornHub 是一家主要的在线成人媒体提供商，自 2018 年起禁止在其平台上发布AI生成的假新闻。Swift女士尚未对此事件发表公开评论。无论最近这起备受瞩目的事件是否会导致立法改革，人工智能内容显然已经给法律制定者带来了问题。就在本周，我们报道了第一起已知的人工智能生成的信息被用于压制选民投票率的事件，当时假冒的拜登总统打电话给新罕布什尔州的居民，敦促他们不要投票。 ... PC版： 手机版：

萨蒂亚·纳德拉：基于AI的伪造不良内容是"令人震惊和感到可怕的"

萨蒂亚·纳德拉：基于AI的伪造不良内容是"令人震惊和感到可怕的" 在 1 月 30 日节目播出前由 NBC 发布的文字稿中，霍尔特要求纳德拉对"互联网上充斥着泰勒-斯威夫特（Taylor Swift）的虚假色情图片做出回应。纳德拉的回答成功地揭开了科技政策的几个谜团，但对这些谜团却知之甚少在没有万全之策的情况下，这也不足为奇。我想说两点：第一，我再次回到我认为的我们的责任上，那就是我们需要在技术周围设置所有的防护栏，以便生产出更安全的内容。有很多事情要做，也有很多事情正在做。但是，这关系到全球、社会你知道，我会说，在某些规范上的趋同。我们可以做到尤其是当法律、执法部门和科技平台能够走到一起的时候我认为我们能够管理的东西比我们想象的要多得多，我们给自己的信任也比我们想象的要多得多。而微软本身就可能与伪造的斯威夫特图片有关。404 Media 的 一份报告显示，这些图片来自一个基于 Telegram 的色情内容制作社区，该社区推荐使用 Microsoft Designer 图片生成器。从理论上讲，Designer 拒绝生成名人图片，但人工智能生成器很容易被欺骗，404 发现只要对提示稍作调整，就可以打破它的限制。虽然这并不能证明Taylor Swift的图片是用 Designer 制作的，但这是微软可以解决的技术缺陷。但是，人工智能工具大大简化了制造真人假裸照的过程，这给那些权力和名气远不如Taylor Swift的女性带来了极大的麻烦。而控制其生产并不像让大公司加强防护那么简单。即使像微软这样的"大科技"平台被锁定，人们也可以重新训练像 Stable Diffusion 这样的开放工具来生成NSFW 图片，尽管有人试图增加这种难度。访问这些生成器的用户可能要少得多，但 Swift 事件表明，一个小社区的工作可以传播得多么广泛。纳德拉模糊地暗示了更大的社会和政治变革，然而，尽管在监管人工智能方面有一些早期举措，但微软并没有明确的解决方案。一般来说，立法者和执法部门都在为如何处理未经同意的性相关图像而苦苦挣扎，而人工智能的伪造又增加了额外的复杂性。一些立法者正试图重新调整公开权法来解决这一问题，但所提出的解决方案往往会给言论带来严重风险。白宫呼吁就这一问题采取"立法行动"，但即使是白宫，也没有提供太多关于这意味着什么的细节。还有其他权宜之计比如社交网络限制未经同意的图片的传播范围，不过目前，纳德拉唯一明确的计划就是把微软自己的人工智能部门打理得更井井有条。相关文章:泰勒·斯威夫特AI色情图在X平台疯传 公司正面临欧盟调查白宫呼吁立法制止制作与散播Taylor Swift的AI虚假图片行为 ... PC版： 手机版：

美国国会参议院计划对TikTok采取下一步行动 但议员意见不一

美国国会参议院计划对TikTok采取下一步行动 但议员意见不一 舒默说："我正在与我的党团成员讨论，以决定最佳的前进道路。"商务委员会主席玛丽亚-坎特维尔告诉记者："下一步可能会采取更公开的方式，比如由[英特尔委员会和商务委员会]联合举行听证会。我得和马克-华纳参议员谈谈这个问题，看看他是否想这么做。我认为正确对待这一点很重要。在这个机构里，我们有很多人只是为了宣传而宣传，但他们没有我们需要的因果关系。我们需要用心"。华纳说："我想找机会向更广泛的参议员群体提交同样的简报......[但]我认为，如果我们不采取行动，就会错失良机。在众议院，你能为任何事情获得352 票的机会有多少？"科技相关的立法最终往往无法进入参议院商务委员会。不过，坎特韦尔补充说，安全的两党简报通常总是会促成行动。参议员马可-卢比奥表示"我认为委员会程序总是更好，因为我认为人们能得到更好的产品...我不希望这会产生意想不到的后果，但我也不希望它错失目标"。迈克-劳兹参议员表示："我确实认为应该通过适当的委员会进行讨论，这样我们就能知道众议院的法案是否会成为最终法案......但越早解决越好。"而另一面，一些立法者希望尽快采取行动。参议员理查德-布卢门撒尔（Richard Blumenthal）说，"美国人应该对瞄准我们头部的 TikTok 枪深感恐惧"，并表示应该与公众共享提供给立法者的机密信息。汤姆-科顿参议员"查克-舒默应该立即提出来，这样我们就能通过一项在两党压倒性支持下获得众议院通过的好法案"。TikTok话题的背后是美国国会在很大程度上回避了有关隐私、竞争和任何科技平台数据共享的立法。一直在推动非 TikTok 技术法案的立法者们并没有忘记这一点。参议员埃德-马基"我认为我们不应该做任何不涉及美国公司的事情。空谈误国，只见树木不见森林"。艾米-克洛布查参议员"我对中国拥有这一主要平台感到担忧，但我认为，无论我们做什么，最好都以明智的方式进行，我们应该看看其他平台的情况。"与此同时，TikTok 的支持者们仍在不停地给议员办公室打电话。参议员托姆-蒂利斯（Thom Tillis）在Twitter上向他的办公室发送了一条语音邮件，威胁说如果禁止 TikTok，就会采取暴力行动。TikTok在 X 上回应说："显然，有数百万美国人想大声反对这项禁令法案，因为它将践踏美国人自由表达的宪法权利，但我们都必须以尊重、文明的方式这样做"。 ... PC版： 手机版：