使用人工智能克隆拜登声音的自动拨号电话被罚款600万美元

使用人工智能克隆拜登声音的自动拨号电话被罚款600万美元 美国联邦通信委员会提议对在新罕布什尔州初选期间使用语音克隆技术冒充拜登总统拨打一系列非法自动拨号电话的诈骗者处以600万美元罚款。今年 1 月，新罕布什尔州的许多选民接到了一通电话，声称是总统的留言，告诉他们不要在即将到来的初选中投票。当然，这是假的，使用的是过去几年广泛可用的技术克隆的拜登总统的声音。联邦通信委员会和几个执法机构已经明确表示，不能做的是利用假拜登通过已经是非法的机器人电话来压制选民。

新罕布什尔共和党初选在即 选民接仿拜登AI机器人电话

新罕布什尔共和党初选在即 选民接仿拜登AI机器人电话 美国共和党第二场总统初选星期二（1月23日）将在新罕布什尔州举行，当地选民周末却接到一个模仿总统拜登声音的人工智能机器人（AI robocall）来电，呼吁民主党人留在家中，不要在星期二投票。 《纽约时报》报道，新罕布什尔州总检察长办公室说，这个自动生成的虚假语音电话告诉选民，“把你手中的一票留到11月才投很重要……在星期二投票只会让共和党人再次选举特朗普。” 新罕布什尔州总检察长办公室发表声明说：“这些信息似乎企图非法扰乱新罕布什尔州共和党初选，并压制新罕布什尔州的选民。” 声明说： “新罕布什尔州的选民应该完全无视这条信息的内容。” 新罕布什尔州总检察长办公室强调，在初选投票的选民不会被排除在11月总统选举日的投票之外。 新罕布什尔州的民主党前主席沙利文（Kathleen Sullivan）就机器人电话提出投诉后，新罕布什尔州总检察长办公已启动调查。 沙利文在投诉书中说，接到这个AI骚扰电话的人，在来电显示看到她丈夫的名字，还有她的个人手机号码，称选民可打电话给她，并要求把他们的号码从通话记录中移除。 担任一政治委员会财务主管的沙利文在投诉书中写道：“这种手段如果不受到惩罚，未来只会变得更糟。” 进步监督组织“公共公民”（Public Citizen）主席韦斯曼（Robert Weissman）说：“政治深伪的时刻已经到来，政策制定者必须尽快采取保护措施，否则我们将面临选举乱局。” 在一些外国选举中，AI已被用于误导选民，美国各州立法者正忙于起草法案来监管AI生成的政治内容。 2024年1月23日 11:00 AM

美国总统乔·拜登表态希望禁止人工智能语音模仿

美国总统乔·拜登表态希望禁止人工智能语音模仿 "在国内，我已经签署了 400 多项两党法案。"拜登总统在国情咨文中说："要通过我的团结议程，还有更多的法案。随后，他列举了如果他被选中连任，他希望解决的一些提案：加强对芬太尼贩运的惩罚力度，通过两党隐私立法来保护我们的儿童上网，利用人工智能的承诺来保护我们免受危险，禁止人工智能语音冒充等等"。拜登有充分的理由呼吁禁止人工智能语音克隆。今年 1 月，新罕布什尔州的选民接到了一个 39 秒的机器人电话，告诉他们不要在民主党初选中投票，而是把选票"留给"11 月的总统选举。播报这条建议的声音听起来几乎和乔·拜登一模一样。语音欺诈检测公司 Pindrop 后来分析了这通电话，认为它是使用 ElevenLabs 公司的文本到语音引擎制作的，该公司也证实了这一点。这一事件导致美国联邦通信委员会根据 1991 年的《电话消费者保护法》，规定使用人工智能生成的语音拨打机器人电话为非法行为。该机构担心，技术被用来模仿"名人、政治候选人和近亲属"的声音，从而混淆和欺骗消费者。拜登提议的禁令范围尚不明确。它可能仅限于某些领域，比如模仿政客，但总统听起来确实在谈论全面禁止人工智能语音模仿，这将产生深远影响。除了政治之外，使用人工智能重塑演员的声音和形象也是 SAG-AFTRA 演员罢工背后的问题之一。尽管并非所有人都对这一协议感到满意，但在达成一项协议，确保在使用人工智能复制演员时，演员同意并获得公平补偿后，罢工结束了。 ... PC版： 手机版：

FCC正着手将AI生成声音用于自动语音电话的行为定为非法

FCC正着手将AI生成声音用于自动语音电话的行为定为非法 FCC 主席杰西卡-罗森沃塞尔（Jessica Rosenworcel）的提案将规定，根据《电话消费者保护法》（TCPA），使用人工智能生成的声音拨打抢答电话属于非法行为。1991 年的 TCPA 法律限制电话营销、使用自动电话拨号系统和人工或预先录制的语音信息。该法还要求电话营销人员在给消费者拨打声讯电话之前，必须事先获得消费者的明确书面同意。FCC 希望人工智能生成的声音也能遵守这些标准。委员会的五位成员预计将在未来几周内就该提案进行投票表决。"人工智能生成的语音克隆和图像已经在播撒混淆视听的种子，诱使消费者认为诈骗和欺诈是合法的，"罗森沃塞尔在一份声明中说。"不管你喜欢哪位名人或政客，也不管你与亲属的关系如何，当他们打电话求助时，我们都有可能成为这些伪造电话的目标。"语音欺诈检测公司Pindrop分析了这条听起来像是拜登告诉新罕布什尔州居民不要投票的39秒假消息，发现它是利用ElevenLabs公司的文本到语音引擎制作的。这家初创公司使用人工智能软件复制了二十多种语言的声音。据彭博社报道，ElevenLabs 公司证实在新罕布什尔州事件中使用了其软件，并封禁了肇事账户。新罕布什尔州总检察长办公室已宣布对假冒拜登的电话进行调查。联邦通信委员会发言人表示，对法律的潜在修改将赋予各州总检察长新的权力，以打击使用人工智能的声讯电话骗子，同时保护消费者。多年来，联邦通信委员会一直在与自动语音电话作斗争。2022 年 12 月，联邦通信委员会提议对一个非法的跨国机器人呼叫行动小组处以 3 亿美元的罚款，该行动在 2021 年的三个月内向 5 亿多个电话号码拨打了 50 多亿次自动电话。2020 年，该局还对误导性自动语音电话处以 2.25亿美元的罚款。生成家庭成员的声音已成为犯罪分子从毫无戒心的受害者那里偷钱的常用手段。随着人工智能生成技术变得更容易获得、更便宜、更有说服力，这种犯罪也在不断增加。 ... PC版： 手机版：

“拜登”致电选民阻止给特朗普投票？AI公司推新措施防范语音造假

“拜登”致电选民阻止给特朗普投票？AI公司推新措施防范语音造假 据悉，AI语音电话以拜登的口头禅“真是一派胡言”（What a bunch of malarkey）为开头，称“周二（23日）的投票只会让共和党人再次选举唐纳德·特朗普（Donald Trump），你的投票将在11月起决定作用，而非本周二。”白宫新闻秘书卡琳·让-皮埃尔22日回应称，“那通电话确实是假的，（拜登）总统没有录音。我可以证实这一点。”新罕布什尔州总检察长办公室表示，正在对这些“欺骗性”信息进行“积极、持续的”调查，并称这些信息有可能是“企图破坏新罕布什尔州初选和压制新罕布什尔州选民的非法行为”。特朗普竞选团队的一位发言人也否认与这些电话有任何联系。“机器人电话”侵害选举民主根据此前报道，新罕布什尔州总检察长办公室调查是在该州一位知名民主党人提出投诉后进行的，他的个人手机号码显示在接听“拜登”电话的选民的来电显示屏幕上。选民接到的“拜登”自动电话留言以一个电话号码结束，该号码属于上述新罕布什尔州民主党前主席凯西·沙利文（Kathy Sullivan），她现在管理着一个超级政治行动委员会，支持民主党竞选活动。沙利文表示，这通电话是对拜登总统的恶意中伤：“希望始作俑者停止，你不应该告诉选民是否该投票，这太疯狂了，这是在侵害我们的民主。是不对的，我认为这是不可饶恕的错误。”新罕布什尔州信息与分析中心 （NHIAC） 分析称，需要警告那些“扰乱、压制或阻止选民参与”新罕布什尔初选的人，同时对使用人工智能手段传播虚假叙述，影响公众对候选人或竞选活动看法的行为表示担忧。人工智能干预选举的行为已有先例。在2002年美国参议院选举期间，沙利文还是当时的新罕布什尔州民主党主席，两名共和党官员（包括州共和党执行主任和共和党全国委员会的一名工作人员）就被判使用电脑生成的电话干扰民主党投票动员呼叫中心的正常运作。无独有偶，2023年芝加哥市长选举前夕，“芝加哥湖畔新闻”（Chicago Lakefront News）发布视频抨击温和派民主党人保罗·瓦拉斯（Paul Vallas）对枪击事件视而不见。虽然瓦拉斯竞选团队谴责该视频由AI生成，但视频已经在互联网上广泛流传。瓦拉斯的最终竞选失败可能也与该视频给他带来的负面影响有关。斯坦福互联网观测站的技术研究经理蕾妮·迪雷斯塔（Renee DiResta）在接受《卫报》采访时提到，鉴于美国出台联邦法规监管AI还很遥远，教育可以成为减轻干预政治的首要短期措施，人们已经开始意识到，我们正在进入一个视频可以作伪的时代。然而，期待每个人都能分辨出社交平台上的真伪信息是不切实际的。因此，平台必须采取一定的监管措施识别AI生产内容并加以提示，例如社交平台以及生成式人工智能公司协作，识别AI生成的图像内容，并对此进行标注。OpenAI目前已推出新举措，禁止用户建立程序干预政治竞选和游说活动，禁止创建冒充候选人或地方政府的内容。拜登缺席新罕布什尔初选引发不满，党内竞争依旧存在美国民主党全国委员会（DNC）发言人萨拉菲娜·奇蒂卡（Sarafina Chitika）表示，出于对民主进程的加强和维护，民主党人选择将第一次初选地点由新罕布什尔州转向人口更多元化的南卡罗来纳州，以扩大有色人种选民的声音。作为拜登的党内竞争对手之一，美国众议员迪恩·菲利普斯（Dean Phillips）1月20日抨击拜登不参加新罕布什尔州初选的行为，称拜登“软弱无能、无法当选”，为自己造势，争夺民主党提名。他在接受采访时表示，初选存在大规模腐败、缺乏透明度的现象，民主党内当前对于实践、保护和维护民主的言行不一。目前，民主党领导人与拜登竞选团队密切合作，打造他的连任竞选活动，并以有助于他赢得提名的方式组织竞选。拜登竞选团队去年10月宣布，他不会出现在该州初选选票上。民主党全国委员会今年延后了新罕布什尔州初选日期。民主党全国委员会的规定还赋予各州党领导人很大的权力，让他们决定在初选选票上提名谁。因此，佛罗里达州、北卡罗来纳州、威斯康星州和田纳西州等四个州的州党都要求州政府在即将举行的民主党初选中将拜登列为唯一候选人。此举引发党内主要竞争对手菲利普斯和作家玛丽安娜·威廉森（Marianne Williamson）的强烈不满。根据Five ThirtyEight民主党内民调显示，截至1月20日，拜登在新罕布什尔州的初选支持率已经甩开第二名菲利普斯近40个百分点。虽然在党内竞争方面，民主党的激烈程度远不如共和党，但两党间的驴象之争依然存在看点。自2021年以来拜登在美国民众内的总支持率持续下降，截至2024年1月22日已经下降至不足40%。连续走低的全国支持率可能会让拜登在初选时遭遇竞争对手的抨击。 ... PC版： 手机版：

白宫寻求对官方发布的拜登总统相关视频进行加密验证 以降低深度伪造风险

白宫寻求对官方发布的拜登总统相关视频进行加密验证 以降低深度伪造风险 白宫已经证实，它目前正在探索对其发布的声明和视频进行加密验证的方法，以打击出于政治动机的深度伪造行为。今年 1 月，我们报道了人工智能生成的机器人电话，它伪造了拜登总统的声音，告诉新罕布什尔州居民不要在即将到来的初选中投票。随后，本周又有消息称，联邦通信委员会主席杰西卡-罗森沃塞尔（Jessica Rosenworcel）提出了一项提案，禁止人工智能生成的声音出现在机器人电话中。据报道，为了向公众保证其发布内容的真实性，白宫正在转向使用加密技术，让人们能够验证哪些是真的，哪些是假的。一种常见的方法是将私钥和公钥配对。信息源会为任何给定的视频或文件生成一个哈希值，并使用自己的私人密钥进行加密。该散列值只能用公钥解密，公钥对所有人开放并归属于原作者。因此，使用公共密钥成功解密后，就能确认私人密钥的所有者验证来源。任何试图更改文件的第三方都不会包含原始哈希值，因此无法验证自己的真实性。虽然这些努力肯定会带来一些好处，但也需要考虑一些潜在的风险。适当的使用无疑会帮助人们核实真实的通信内容，但这些权力会给总统及其幕僚提供一种方式，让他们可以宣称什么是"真相"。如果总统在白宫视频中出现错误或口误，他们根本无法对视频内容进行加密签名，并否认视频是假的，鉴于政治格局的分裂状态，这种权力似乎很有可能被武器化。不过，目前我们还不知道这一进展的时间表。拜登的人工智能特别顾问本-布坎南（Ben Buchanan）在接受《商业内幕》（Business Insider）采访时，只是简单地确认了该工作"正在进行中"。 ... PC版： 手机版：