Taylor Swift假图风波后 美国国会议员提出反非自愿人工智能色情法案

Taylor Swift假图风波后 美国国会议员提出反非自愿人工智能色情法案 法案由迪克·德宾 (伊利诺伊州参议员), 林赛-格雷厄姆（Lindsey Graham）（南卡罗来纳州参议员）、艾米-克洛布查尔（Amy Klobuchar）（明尼苏达州参议员）和乔什-霍利（Josh Hawley）（密苏里州参议员）共同提出。该法案以《2022 年暴力侵害妇女法案再授权法案》（Violence Against Women Act Reauthorization Act of 2022）中的一项条款为基础，该法案为非伪造的露骨图片增加了类似的诉权。在一份摘要中，提案人将其描述为对"呈指数级"增长的数字篡改露骨人工智能图像的回应，并将斯威夫特的案例作为一个例子，说明假图像如何"被用来剥削和骚扰女性尤其是公众人物、政客和名人"。色情人工智能操纵图像经常被称为深度伪造图像（deepfakes），自2017 年该术语出现以来，其受欢迎程度和复杂程度都在不断提高。现成的生成式人工智能工具使它们的制作变得更加容易，即使是在具有防止露骨图像或冒充的防护栏的系统上也是如此，它们已被用于骚扰和勒索。但到目前为止，美国许多地方还没有明确的法律补救措施。几乎所有的州都通过了禁止未经同意的非模拟色情制品的法律，尽管这个过程很缓慢。而针对模拟图像生成的法律则少得多。但这是乔-拜登（Joe Biden）总统人工智能监管议程的一部分，白宫新闻秘书卡琳-让-皮埃尔（Karine Jean-Pierre）呼吁国会通过新法律，以应对上周发生的泰勒-斯威夫特（Taylor Swift）事件。《DEFIANCE》法案是专门针对人工智能生成的图像提出的，但也并不局限于这些图像。该法案将任何通过"软件、机器学习、人工智能或任何其他计算机生成或技术手段......在合理的人看来与真实的个人视觉描述无异的亲密性图像（基本规则中定义的术语）视为伪造。"这包括被修改成具有性暗示的真实图片。其措辞似乎也适用于像 Photoshop 这样的老式工具，只要结果足够逼真即可。添加一个标注图片不真实的标签也不能免除责任。国会议员们已经提出了许多针对人工智能和未经同意的色情制品的法案，但大多数尚未获得通过。本月早些时候，立法者提出了《禁止人工智能欺诈法案》（No AI FRAUD Act），这是一项极为广泛的禁令，禁止未经许可使用技术模仿他人。不过，一刀切的模仿规则会引发艺术表达方面的巨大问题；它可能会让有权势的人物对政治模仿、重演或创造性的虚构处理提起诉讼。《DEFIANCE》可能会引发一些同样的问题，但它的限制要大得多尽管它的通过仍面临着一场艰苦的战斗。 ... PC版： 手机版：

X似乎已经阻止了对Taylor Swift关键词的搜索 但很容易绕过

X似乎已经阻止了对Taylor Swift关键词的搜索 但很容易绕过 在Platformer的凯西-牛顿（Casey Newton）发现了这一变化后，我们尝试了其他一些关键词的搜索。如果 X 是有意阻止搜索人工智能生成的斯威夫特非法图片，那么它似乎并没有走多远。这是因为，如果你遇到了一个被屏蔽的搜索词，并决定花最起码的力气去尝试其他词，就可以轻松绕过它。例如，"Taylor AI Swift"或简单地在她的名字周围加上引号都能返回结果。甚至在一个看似被屏蔽的搜索词上再加一个词，也能得到结果。更重要的是，虽然帖子可能被阻止搜索，但与之相关的媒体显然没有被阻止搜索点击"媒体"选项卡可以看到大量图片。有报道称，Taylor Swift正在考虑对托管这些图片的网站采取法律行动。微软首席执行官萨蒂亚-纳德拉（Satya Nadella）昨天在接受美国全国广播公司晚间新闻采访时称Deepfake所做所为"令人震惊，非常可怕"，并表示他认为人工智能公司需要"快速行动"，建立更好的防护机制。 ... PC版： 手机版：

Taylor Swift的歌曲重返TikTok

Taylor Swift的歌曲重返TikTok 截至周四上午，多首斯威夫特的歌曲包括《You Belong With Me》、《Lover》、《Cardigan》、《Mirrorball》、《Fearless》、《Cruel Summer》、《Cardigan》、《Style》、《Is It Over Now?》、《The Man》和《ME!》 - 用户可在 TikTok 应用程序中将这些音乐融入到自己的视频中。斯威夫特的音乐回归 TikTok 是在她的下一张录音室专辑《The Tortured Poets Department》于 4 月 19 日发行之前。今年 2 月，在 TikTok 和 UMG 未能续签 1 月 31 日到期的授权协议之后，TikTok 就撤下了斯威夫特的音乐目录。环球音乐指责 TikTok 试图"欺压"这家音乐公司，让其签订一份价值低于双方之前协议的协议，并声称 TikTok 不愿意解决人工智能和盗版问题。TikTok 则反驳说，环球正在进行"虚假的叙述和言论"。不过，该平台似乎有可能与斯威夫特达成了单独协议，因为斯威夫特拥有自己的母带，她有能力达成自己的安排，尽管她的音乐是由 UMG 发行的，而且她在 2020 年与该公司的出版部门签约。虽然 TikTok 负责在平台上屏蔽 UMG 的音乐，但 UMG 签约或发行的艺人（包括 Ariana Grande 和 Camila Cabello，上个月《综艺》杂志曾报道过）的歌曲仍然会在平台上出现，由粉丝发布，或者有人怀疑是艺人自己的代表。斯威夫特的新专辑《The Tortured Poets Department》将于下周五上架，她也有可能与 TikTok 合作推广这张专辑，就像她上一张全新专辑《Midnights》一样。在那张专辑中，她为专辑中的每首歌都专门提供了一个视频。这可能意味着，在 UMG 的默许下，斯威夫特被破例了。虽然艺术家们普遍同意 UMG 关于版税支付过低和对人工智能保护不足的观点，但许多人对这种情况表示不满： 在过去的五年里，TikTok 已经成为发现和推广音乐的最大平台，唱片公司经常催促旗下艺人创作能在该平台上"病毒式传播"的歌曲许多 UMG 旗下的艺人都这么做了，但却发现自己的音乐在该平台上被屏蔽了。无论是 UMG 还是 TikTok，似乎都没有退让的意思。在被要求澄清斯威夫特的歌曲重新出现在该应用上一事时，TikTok 的代表拒绝发表评论。斯威夫特和 UMG 的代表没有立即回应 Variety 的置评请求。2020 年，斯威夫特与环球音乐出版集团（Universal Music Publishing Group）签署了一份全球独家出版协议，而在此之前，她自出道之初就一直与索尼/ATV 合作。2 月底，TikTok 下架了环球音乐出版集团授权的歌曲，而此前 UMG 拥有或发行的唱片也被下架。 ... PC版： 手机版：

白宫呼吁立法制止制作与散播Taylor Swift的AI虚假图片行为

白宫呼吁立法制止制作与散播Taylor Swift的AI虚假图片行为 让-皮埃尔称这一事件"令人震惊"，并说这是拜登政府优先考虑的人工智能问题之一。她说："国会当然应该采取立法行动。这是你们处理其中一些问题的方式"。她没有提及白宫支持的任何具体立法。这些图片在周三晚上尤其在 X 平台上传播开来，其中一张图片的浏览量达到了 4500 万次，随后被撤下。该平台反应迟缓，帖子停留了约 17 个小时。这些图片后来传播到了更小的账户，现在仍可在 X 上看到。让·皮埃尔说，社交媒体平台"在执行自己的规则方面可以发挥重要作用"，以防止这类材料的传播。她在向记者介绍情况时说："我们知道，执法不严会对妇女和女孩造成不成比例的影响，可悲的是，她们是网络骚扰和虐待的绝大多数目标。白宫此前曾发起一个特别工作组来解决网络骚扰问题。但这显然是一种修修补补的方法。显然，应该立法来解决这个问题。"美国国会多年来一直在批评社交媒体平台的节制行为，但迄今为止，美国国会一直未能达成一致并通过相应的法规。现在看来两党都会支持泰勒·斯威夫特，但还不清楚这是否足以达成一项真正的法案。 ... PC版： 手机版：

萨蒂亚·纳德拉：基于AI的伪造不良内容是"令人震惊和感到可怕的"

萨蒂亚·纳德拉：基于AI的伪造不良内容是"令人震惊和感到可怕的" 在 1 月 30 日节目播出前由 NBC 发布的文字稿中，霍尔特要求纳德拉对"互联网上充斥着泰勒-斯威夫特（Taylor Swift）的虚假色情图片做出回应。纳德拉的回答成功地揭开了科技政策的几个谜团，但对这些谜团却知之甚少在没有万全之策的情况下，这也不足为奇。我想说两点：第一，我再次回到我认为的我们的责任上，那就是我们需要在技术周围设置所有的防护栏，以便生产出更安全的内容。有很多事情要做，也有很多事情正在做。但是，这关系到全球、社会你知道，我会说，在某些规范上的趋同。我们可以做到尤其是当法律、执法部门和科技平台能够走到一起的时候我认为我们能够管理的东西比我们想象的要多得多，我们给自己的信任也比我们想象的要多得多。而微软本身就可能与伪造的斯威夫特图片有关。404 Media 的 一份报告显示，这些图片来自一个基于 Telegram 的色情内容制作社区，该社区推荐使用 Microsoft Designer 图片生成器。从理论上讲，Designer 拒绝生成名人图片，但人工智能生成器很容易被欺骗，404 发现只要对提示稍作调整，就可以打破它的限制。虽然这并不能证明Taylor Swift的图片是用 Designer 制作的，但这是微软可以解决的技术缺陷。但是，人工智能工具大大简化了制造真人假裸照的过程，这给那些权力和名气远不如Taylor Swift的女性带来了极大的麻烦。而控制其生产并不像让大公司加强防护那么简单。即使像微软这样的"大科技"平台被锁定，人们也可以重新训练像 Stable Diffusion 这样的开放工具来生成NSFW 图片，尽管有人试图增加这种难度。访问这些生成器的用户可能要少得多，但 Swift 事件表明，一个小社区的工作可以传播得多么广泛。纳德拉模糊地暗示了更大的社会和政治变革，然而，尽管在监管人工智能方面有一些早期举措，但微软并没有明确的解决方案。一般来说，立法者和执法部门都在为如何处理未经同意的性相关图像而苦苦挣扎，而人工智能的伪造又增加了额外的复杂性。一些立法者正试图重新调整公开权法来解决这一问题，但所提出的解决方案往往会给言论带来严重风险。白宫呼吁就这一问题采取"立法行动"，但即使是白宫，也没有提供太多关于这意味着什么的细节。还有其他权宜之计比如社交网络限制未经同意的图片的传播范围，不过目前，纳德拉唯一明确的计划就是把微软自己的人工智能部门打理得更井井有条。相关文章:泰勒·斯威夫特AI色情图在X平台疯传 公司正面临欧盟调查白宫呼吁立法制止制作与散播Taylor Swift的AI虚假图片行为 ... PC版： 手机版：

苹果公司写信向国会议员解释"侧载"易引发恶意软件威胁

苹果公司写信向国会议员解释"侧载"易引发恶意软件威胁 今年2月，参议院司法委员会投票决定推进《开放市场法》，该立法可能迫使苹果公司允许App的侧载。为了继续努力对抗这项措施，苹果公司已经写信给国会议员，说明恶意软件的危险。 这封信是在周四发出的，其中提及了计算机安全专家布鲁斯·施耐德的评论，他说苹果对侧载的担忧是"没有根据的"。 作为回应，苹果公司认为，侧载对恶意软件生产商是有利的，因为它依靠用户被欺骗下载，而不需要黑客更直接地破坏设备安全。苹果公司写道，App Store的审查过程"对用来传播恶意软件的最常见的骗局形成了很高的门槛"。 尽管苹果公司确实接受了施耐德的意见，即国家支持的黑客有可能直接破坏设备安全，但他们认为这种攻击对消费者是一种"罕见的威胁"。"有充分的证据表明，在支持第三方应用商店的平台上，第三方应用商店才是一个关键的恶意软件载体"。 苹果公司的信被寄给了参议院司法委员会主席迪克-德宾（Dick Durbin），以及查克-格拉斯利（Chuck Grassley）。这封信还发给了反垄断小组委员会主席艾米-克洛布切(Amy Klobuchar)和迈克-李(Mike Lee)。 cnBeta