跨国公司加速推动与中国数据脱钩

跨国公司加速推动与中国数据脱钩 近几个月来，随着北京加强对数据的控制和监管，中国数据完全本地化以及信息技术系统与世界其他地区分离的进程加速。 过去，西方公司担心将电子设备带入中国，因为担心中国可能访问他们的数据。现在，他们同样担心敏感数据离开中国，因为担心违反北京的规定。 一家美国咨询公司的高管表示，他的公司几个月前就开始重组其系统，为几乎所有数字工具创建了昂贵的“中国版”版本。员工被禁止将中国发行的笔记本电脑带出境，该公司正在为当地团队成员创建中国服务器和以“.cn”结尾的第二个电子邮件地址。 “我们现在基本上有了两个身份证，”该顾问说，并补充说，数据问题“触及了在中国做生意困难的核心问题”。他补充说，该公司还没有弄清楚如何处理手机。 中国欧盟商会今年春天对大约 500 家欧洲公司进行了调查，其中近 10% 表示，他们正在将中国 IT 系统与世界其他地区完全脱钩。四分之三的受访者表示，他们已在一定程度上本地化了 IT 系统和数据存储。 中国美国商会四月份表示，如果金融机构完全遵守中国的数据法，合规成本将是“无法估量的”。 欧华律师事务所 (DLA Piper) 亚洲数据隐私团队负责人卡罗琳·比格 (Carolyn Bigg) 表示，一些公司正在采取行动剔除中国客户。

印度选举委员会敦促各政党避免在竞选活动中使用Deepfake技术

印度选举委员会敦促各政党避免在竞选活动中使用Deepfake技术 本周一发布的公告要求各政党在发现任何深度伪造的音频或视频存在后三小时内将其删除。此外，还建议各政党查明并警告对创建篡改内容负有责任的个人。德里高等法院在一份请愿书中提出这一问题后下令要求选举委员会解决这一问题，选举委员会随后采取了行动。拥有超过 15 亿人口的印度于 4 月 19 日开始大选，投票过程将于 6 月 1 日结束。围绕使用深度伪造和错误信息的争议已经给选举蒙上了阴影。上月底，印度总理纳伦德拉-莫迪（Narendra Modi）抱怨说，有人使用假声音，声称领导人发表了他们"想都没想过"的言论，并声称这是一场旨在制造社会紧张局势的阴谋的一部分。印度警方逮捕了来自印度最大反对党印度国民大会社交媒体团队的至少六人，原因是他们传播了一段假视频，显示内政部长阿米特-沙阿发表了他声称从未发表过的言论。几个月来，印度一直在努力解决深度伪造视频的使用和传播问题。印度信息技术部长 Ashwini Vaishnaw 于 11 月会见了包括 Meta 和Google在内的大型社交媒体公司，并"达成了共识"，即需要制定法规，以更好地打击深度伪造视频的传播以及为其制作提供便利的应用程序。今年 1 月，另一位信息技术部长警告说，如果科技公司不采取积极措施打击深度伪造视频，将受到包括禁令在内的严厉处罚。该国尚未将有关深度伪造的法规草案编纂成法律。选举委员会周一表示，它已"多次指示"各政党及其领导人"在公共竞选活动中保持礼仪和最大限度的克制"。 ... PC版： 手机版：

密码管理器LastPass员工遭到深度伪造攻击 所幸及时发现

密码管理器LastPass员工遭到深度伪造攻击 所幸及时发现 黑客并没有使用深度伪造技术生成视频，而是伪造 LastPass 首席执行官 Karim Toubba 的声音，通过 WhatsApp 联系这名员工要求执行一些不合理的操作。这名员工看起来还是比较有经验的，他很快就发现对方存在社会工程学尝试的许多特征，因此相信自己应该是遭到钓鱼了。LastPass 情报分析师透露，在此次案例中至少一名员工收到了一系列电话、短信和至少一段语音邮件，在公司内部通常有自己的协作工具，而黑客使用 WhatsApp 来添加和联系员工也引起了怀疑。此次钓鱼没有对 LastPass 产生任何影响，为此该公司也在对更多员工进行培训，防止还有黑客继续通过这种深度伪造 + 社会工程学攻击。这种案例对我们也有警示意义，因为现在深度伪造技术已经可以生成逼真的视频和声音，LastPass 称黑客伪造的声音可能是截图 Karim Toubba 在 YouTube 上发布的演讲视频训练的，以目前的 AI 技术，只要有一小段你的声音，那就可以轻松伪造出来几乎相同的声音。所以如果碰到视频或电话，对方自称是谁谁谁时一定要提高警惕，尤其是要求执行某些操作、转账的时候。这种社会工程学攻击通常还伴随着强制紧迫性，即攻击者故意编造一些事情声称事态紧急需要处理，这样更容易骗到人。 ... PC版： 手机版：

密码管理器 LastPass 员工遭到深度伪造攻击 所幸及时发现没有造成问题

密码管理器 LastPass 员工遭到深度伪造攻击 所幸及时发现没有造成问题 （英文） 密码管理器 LastPass 本周透露，有黑客尝试使用深度伪造技术 (Deepfake) 对该公司一名员工进行钓鱼，不过这名员工发现异常后立即报告，随后 LastPass 安全团队介入，黑客的诡计并未得逞。 2024-01-04 2023-05-30 2023-03-06 2023-02-11 2022-12-23 2022-12-23 2022-12-01 2022-08-26 2022-06-07 2022-01-12 2021-03-02 2021-02-17

美国联邦贸易委员会寻求修改规则打击Deepfake

美国联邦贸易委员会寻求修改规则打击Deepfake "欺诈者正在利用人工智能工具以令人毛骨悚然的精确度和更大的规模冒充个人，"联邦贸易委员会主席莉娜-汗在一份新闻稿中说。"随着语音克隆和其他人工智能驱动的欺诈行为不断增加，保护美国人免受冒名欺诈比以往任何时候都更加重要。我们建议对最终的冒充规则进行扩展，这将加强联邦贸易委员会的工具包，以应对人工智能驱动的冒充个人的欺诈行为。"不只是泰勒-斯威夫特（Taylor Swift）这样的人需要担心假新闻。涉及"假冒"的网恋诈骗也在增加，骗子们还冒充公司员工从公司榨取现金。在 YouGov 最近的一项民意调查中，85% 的美国人表示，他们非常担心或有些担心误导性视频和音频深度伪造的传播。美联社-NORC 公共事务研究中心的另一项调查发现，近 60% 的成年人认为，在 2024 年美国大选周期，人工智能工具将加剧虚假和误导性信息的传播。上周，美国联邦通信委员会（FCC）通过重新解释禁止人工和预录垃圾信息的现有规则，将基于AI的自动语音电话定为非法的举措。针对美国总统拜登的电话诈骗活动希望阻止新罕布什尔州公民的投票热情，这一规则的改变以及联邦贸易委员会今天采取的措施是联邦政府目前打击深度伪造和深度伪造技术的主要手段。没有联邦法律明确禁止Deepfake。理论上，名人等高知名度的受害者可以求助于更传统的现有法律补救措施进行反击，包括版权法、肖像权和侵权行为（如侵犯隐私、故意造成精神痛苦），然而这些拼凑起来的法律可能会耗费大量时间和精力来进行诉讼。在国会未采取行动的情况下，全美已有 10 个州颁布了法规将Deepfake定为刑事犯罪，尽管大部分是未经同意的色情内容。毫无疑问，随着深度假新闻生成工具的日益复杂，我们将看到这些法律得到修订，以涵盖更广泛的深度假新闻，并通过更多的州级法律，(明尼苏达州的法律已经明确针对政治竞选中使用的Deepfake假新闻）。 ... PC版： 手机版：

Deepfake假CFO骗走公司1.8个亿 员工：视频会议里每个人看起来都很真实啊

Deepfake假CFO骗走公司1.8个亿 员工：视频会议里每个人看起来都很真实啊 先别着急骂这大兄弟警惕性太低，Ta也不是没有过一丝丝怀疑，但是，这可不是什么诈骗界常见的一对一视频通话参与会议的有好几个熟面孔，无论是脸还是声音，当事人描述“每个人看起来都很真实啊”。甭管怎么说，这事儿的惊悚程度，是有点吓到网友们了。借由AI技术犯罪的话题，一时间又成为了各大平台的讨论焦点。冲锋在AI批评一线的马库斯就第一时间拉着网友们吃起了瓜：好家伙，这是《黑镜》降临了。深度伪造的狗屎越来越真实了。事件始末我们暂且称这位被骗的财务人员为“小帅”，事情的具体经过是这样婶儿的……最初，小帅收到了一封远在英国总部的“CFO”发来的邮件。由于内容提到需要执行一项秘密交易，小帅一开始有些疑虑，并怀疑这是网络钓鱼信息。不想，骗子立马展开下一步动作，邀请小帅进行视频会议。小帅进入视频会议后彻底被眼前的一幕唬住了：不仅公司CFO在，小帅的一些同事也在，还有一些外部人员。关键是，这些假同事和小帅认识的真同事无论是模样长相还是声音，都别无二致。会议中，这个假冒CFO还让小帅做自我介绍，不过在此过程中会议突然中断。骗子随后又通过即时通讯平台、电邮、一对一视频通话与小帅保持联系。如此接连下套，小帅最终中了骗子的诡计，按照会议中的指示，分别向5个香港银行账户进行了15次转账，总计2亿港元，也就是约2560万美元，约合RMB1.8个亿。从骗子联系小帅开始，整个事件大概持续了一个周，直到小帅之后向公司总部核实情况，才惊觉整个事件不过是一场精心策划的诈骗。之后他们报了警。警方立即展开调查，发现会议中除小帅外的所有参与者，都是骗子使用公开的个人视频和音频片段重建的数字人。视频中让小帅自我介绍并不是真的在和他互动，而只是单纯的用虚拟形象下达指令。警方还透露，不法分子曾使用相同的多人视频通话策略，试图诈骗该公司分部的另外一名员工，总共接触了两到三名员工。但警方未提供有关他们遭遇的完整信息。目前该案还在进一步调查中，尚未对诈骗者实施逮捕。后续在新闻发布会上，香港警方表示已逮捕6名与此类诈骗有关的人员，且类似案件还有很多：去年7-9月，有8张被盗的香港身份证被用于申请了90份贷款、登记了54个银行账户；至少有20次，AI Deepfake被用来模仿身份证上的人像，以骗过面部识别程序。AI“克隆”有多猛可以看到，整个案件中，最终让小帅放下戒备的一大关键点就在于视频会议中的假人过于真实。那么现在的“数字克隆人”究竟能有多真？一起来看几个栗子。就比如下面这段霉霉说中文的视频就来自一款爆火AI工具HeyGen。音色口型简直完美复刻，网友看了之后都吓得直喊妈：HeyGen的最新技术展示中，和数字克隆人实时聊天也已成为现实。AI语音合成方面，最近比较火的是一家叫做11Labs（ElevenLabs）的初创公司。11Labs不仅能实现29个语种的语音生成，而且仅需短至1分钟的音频素材，就能很好地“克隆”任何一个人的声音，语调、情绪变化都能模仿到位的那种。关键是，现如今这些AI克隆术不仅真实度越拉越满，门槛也在逐渐降低……比如下面这种开源项目，已经可以分分钟实现实时视频换脸。项目主页列有不少现成的不同人的面部模型，如果不喜欢还可以自己训练模型。“数字克隆版的你即将到来”或许是受到这一事件和前段时间霉霉成Deepfake受害者事件的影响，上述这个实时换脸项目再获关注，还新鲜冲上了GitHub趋势榜。就在这个项目的issues中，不少网友的抵触情绪早已弥漫多时。但正如许多网友提到的那样，技术没有善恶之分。并且更现实的问题在于，开弓没有回头箭。于是很多人把关注的重点，放到了“如何防御”这件事上。除了更多规范和政策的制定，从技术的角度来说，Nature就在“2024最值得关注的七项技术”一文中提到：让开发者在AI工具中加入隐形水印机制或许是一种方案。而从个人的角度来说，提高警惕，已经成为AIGC技术爆发时代不得不面对的命题。香港警方也在这次事件中表示，将扩大警报系统，以提前警告、阻止用户向诈骗相关账户转移资金。不过，Deepfake假CFO骗走公司1.8个亿这种事儿，多少还是有点过于离谱。以致于不少网友提出了质疑：这么大一个公司，就没点风险管理措施？怕不是有内鬼吧。那么，你怎么看？ ... PC版： 手机版：