看到一个来自中国网络的视频，据称是近期某地对 “#反诈中心” 应用程序的推广。

看到一个来自中国网络的视频，据称是近期某地对 “#反诈中心” 应用程序的推广。 统治阶级对信息引擎(即 叙事矩阵)的把控，是其绝对权力之体现的重要部分；但他们是否能真的做到完全把控，取决于公民的反抗智慧和创造力。 任何国家的当权者都擅长最充分地使用这种权力构建对他们有利的叙事矩阵。昨天我们提及了印度这场长达一年的反抗运动的成功，不久后我们将详细分析这场反抗运动中的经验，其中就涉及到反抗者打破叙事矩阵的努力 即 当大众能接收到的所有媒介都在抹黑抗议运动的时候，抗议者如何动员公众的支持。 目前我们看到了很多对 “反诈中心” 应用程序的质疑，但这些质疑大多在 “墙外”，这是一个主要难题。在全球互联网自由联盟中，在信息自由方面我们有一个原则，即：主动穿破封锁作为首选战略。也就是说，比如对于中国的墙(GFW)，在这一战略下会鼓励活动家致力于帮助公民直接获取被封锁的内容，而不是首先致力于要求人们都学会翻墙。翻墙技术作为工具之一，而不是战略目标。 换句话说，比如在反诈中心问题上，如果会翻墙的人读到了我们的技术审计报告，将其打印出来在自己的社区、家庭、小团队内分发，甚至只是口口相传，即符合上述战略。 如您所知，这需要一个基础，即 互信；您至少需要存在于一个可互信的小团体中。如果您没有，值得考虑这是为什么 造成您的孤独孤立的原因，就是维护统治阶级权力稳固的原因（《为什么我们互不信任？》 ） 再推一次《反诈中心应用程序危险在哪里？如何抵制？- 审计报告》

频道社论：在中国，国家安全体系中的两大支柱国家反诈中心和长城防火墙(GFW)一直被视为守卫国家安全和网络安全的重要力量。国家反诈

频道社论：在中国，国家安全体系中的两大支柱国家反诈中心和长城防火墙(GFW)一直被视为守卫国家安全和网络安全的重要力量。国家反诈中心致力于打击日益猖獗的电信网络诈骗，而长城防火墙则旨在防范外部信息的入侵和对内部网络的控制。这两大系统无疑在保护国家安全和维护社会稳定方面发挥了重要作用。然而，随着它们监控力度的加强，一个日益突出的问题是：在这样一个密切监控的网络环境中，谁来守护中国网络用户的隐私安全？ 近年来，国家反诈中心通过监控个人的通信和网络活动，展现出其对诈骗活动打击的决心。然而，这种监控的深度和广度引起了公众对个人隐私侵犯的严重担忧。诸如未经用户同意就追踪其安装应用程序、接听电话的行为，甚至在个别情况下，警方在接到反诈中心的提示后上门“查水表”，这些都是对个人隐私的直接侵犯。此外，长城防火墙对信息的严格控制，虽然从国家安全的角度出发，但也限制了用户访问信息的自由。 这种情况下，中国网络用户的隐私安全成为了一个被广泛关注的议题。尽管政府强调这些监控措施旨在保护公民免受诈骗和外部不良信息的影响，但无可否认的是，在实际执行上面不少地区采用强制安装，地区安装量指标考核等方式强行推进国家反诈中心的普及，这种粗暴的做法在一定程度上牺牲了个人隐私，还带来了无尽的争议。隐私权是每个公民的基本权利，任何国家的安全措施都应在保障公民基本权利的前提下进行。 因此，面对国家反诈中心和长城防火墙带来的隐私安全挑战，急需在政策和法律层面上找到平衡点。这需要政府、法律机构、社会团体和全体公民共同努力，通过制定更为严格的数据保护法律、加强对监控活动的透明度、建立更有效的监督机制来实现。同时，公民也应提高自我保护意识，通过合法渠道维护自己的隐私权益。 在国家安全与个人隐私安全的天平上找到平衡，既保护了国家免受各种威胁，又维护了公民的基本权利，这是一个现代化社会的标志。中国在追求网络安全的同时，也需要构建一个既能防范外部威胁，又能保护公民隐私权利的健康网络环境，确保每个人的隐私安全得到尊重和保护。这不仅是对国家法治建设的考验，也是对社会文明进步的体现。

有多少乌克兰网红的脸被做成了带货工具？

有多少乌克兰网红的脸被做成了带货工具？ 我本以为，随着那篇报道的结束，中国人假冒毛子的故事就告一段落。但我万万没想到，在 2024 年，这个套路他 360 度大升级了。具体是咋回事呢？这两天，一个叫 Olga Loiek 的乌克兰女孩发了条视频，说有个朋友给她发个链接，自己一看，人都傻了。好家伙，我怎么在中国咔咔带上货了？？原来在小红书上，有这样一类账号，天天就是一个长相完全一致的金发美女，变着法的讲中俄友谊长存，三句离不开谢谢中国。视频结尾，还会给你介绍下俄罗斯的美食。而看视频的老铁们，自然也要照顾下大妹子的生意。是的，成百上千万中国观众看到的这张侃侃而谈的 “ 脸庞 ” ，就是 Olga Loiek 。反观 Olga ，自己还没在 YouTube 上赚到半毛钱呢。而且更尴尬的是，脸被别人偷去用来带货不说，作为一个乌克兰人，人设还是个俄罗斯人，带得还都是人俄罗斯的土特产……这找谁说理去。如果你没法和这个女孩共情，不妨可以设想一下，一个美国人顶着你的脸，假装自己是日本人，变着法吹日本。然后他还利用你的脸，从其他美国人手里，赚了你这辈子都不一定能赚到的钱，在视频评论区里，观众们刷的都是 “ 你好日本，爱来自美国 ” 。你气不气？Olga Loiek 也不是唯一一个倒霉蛋，另一位来自瑞典的网红拉纳布莱克利的脸，也被移花接木到了中国人脸上。在视频里， “ 她 ” 大谈中国人的勤劳善良，并且嫁给中国老公，余生在中国定居。看完视频的网友也不知道自己成了即将被噶的韭菜，还在问她喜欢中国哪个城市。在抽查了几个被 Olga Loiek 展示的账号之后，我发现这些假冒外国人的中国账号，有些已经在各大平台注销掉了，但还有一些依旧逍遥法外。可世上只有千日做贼，哪有千日防贼。AI 技术的发展速度，明显比人类目前的应对速度要快。在一年前， AI 技术还是被网友嘲笑的对象，网友看了也只会觉得这辈子的恐怖谷效应都犯完了。然而现在， AI 技术已经可以产生以假乱真的效果了。变化总是在悄无声息中进行，在 AI 技术日渐进步的今天，眼睛和耳朵，正在逐渐失去辨别能力。人的知觉，正在信息时代的冲击下 “ 被退化 ” 。看到这，估计很多差友会觉得这些事都离自己太远，比如那个假冒的乌克兰女孩，懂行的一看就知道了，完全骗不到自己啊？那你再试试这个呢？如果你比较关注游戏杂谈，那你可能还记得一个叫做敖厂长的视频博主，他因为几波舆论潮，基本败完了自己的口碑。在去年，他先后停止了 B 站和抖音的更新，悄无声息的从网友的关注列表里消失了。可就在前两天，一位 B 站 UP 主用自研 AI 文本转语音技术，搭配上他原有的文案和剪辑风格，愣是复刻了一整个 UP 主敖厂长出来，给我看恍惚了。弹幕里都在刷 “ 亡灵法师 ”“ 招魂成功 ” 。在这个 UP 主页贴出的网址中，还能找到更多奇奇怪怪的 AI 音声，比如丁真、科比、孙笑川，以及一些知道这个网站八成要发律师函的明星们。那么，使用 AI 生成一个人的音声，要搜集多少真人的声音呢？UP 主在视频介绍中，给出的答案是：5 秒。没错，你只要说 5 秒钟的话，你的声音就可能已经被克隆了。如果以上的技术，能够用在发展生产力，推动社会进步上，那勉强还能算是最好的结局。但你要知道，现在的 AI 技术，已经越来越下沉。第一天出了个厉害的 AI 软件，第二天使用教程就有博主给你发抖音了，简直就是手把手教学，从入坑到精通给你安排的明明白白。不可否认，这是一件好事，可它也把人心底的阴暗面一点点放大，最后形成公共事件。前几天， AI 生成的泰勒斯威夫特虚假不雅照片，在整个网络上疯传，甚至惊动了美国白宫。白宫新闻发言人卡里娜 · 让 - 皮埃尔警告 AI 生成照片的传播 “ 令人担忧 ” ，并敦促社交媒体公司防止此类错误信息的传播。泰勒这事为啥这么爆炸？毕竟早在 PS 时代，就有很多女性饱受换脸的困扰了对吧？但在 AI 时代，照片里的所有细节都可以被精心定制。泰勒这次，就是因为交了一个橄榄球星男朋友，被生成出了在橄榄球更衣室里的照片……换谁不急眼？后来也是由于类似的图片过多，Twitter一度封锁了对斯威夫特的相关搜索。为什么全美国因为这事都开始变得神经兮兮，因为大家都清楚，今天是泰勒，明天可能就是自己。而且 AI 干的坏事，也不只是下三路，它的能量比你想的庞大。在中国香港，发生过一起 AI“ 深度伪造 ” 诈骗案。诈骗者就是通过 AI 技术，把网上搜集到的跨国公司总部高层的声音和面貌，替换到自己身上，然后，简简单单从该公司的香港分公司骗走了 2 亿港元，甚至，公司财务连老板的人脸和声音都没看出来有啥异常。你以为 AI 也就到这种程度吗？别忘了， 2022 年，乌克兰总统泽连斯基 “ 呼吁乌克兰士兵放下武器投降 ” 的视频在网上传播。这条十分整蛊的视频，逼到乌克兰国防部都要站出来声明 “ 这是不可能的 ” 。由此可见，从个人到团体，甚至是国家之间的战争，每个能钻的空子，都成为了 AI 的突破口。更可怕是，到目前为止，还没有一个特别好的招儿能防让住人用 AI 干坏事。网络安全业内人士，i春秋的朋友小傲（ 化名 ）就告诉世超，反 AI 犯罪的难点主要有两方面，一个是技术层面，一个是经济层面。在技术层面上， AI 生成内容的识别难度大，特别是 AI 越发展，肉眼能识别出来的概率也越小，这种时候就只能上机器。而在经济层面上，用 AI 来犯罪并不是难事也不需要花什么钱，但用 AI 来反 AI 的成本就高了，你得砸钱出力去搞研究。现阶段，国内外有不少监管机构和公司在想法子拴住 AI ，去年公安部就端了个用 AI 写勒索病毒的团伙。市面上，也有不少检测 AI 生成内容的工具，但效果还不好说。像 OpenAI 之前就推出过一款文本检测工具，但因为检测错误率太高偷偷给下架了……两年前，微软还有 BBC 等几家科技公司和媒体一起合作，成立了个内容来源和真实性联盟 ( C2PA ) 。有了 C2PA 协议之后，内容是谁创作的，历史的修改记录，都会被记录下来。就相当于给生成的内容，打上了一层看不见的水印。但用小傲的话来说， C2PA 这玩意属于防君子不防小人，大厂守规矩，不代表很多开源调出来的小模型，也会遵守协议。而且， C2PA 现在还有不少 Bug ，像一截图水印就没了，要生效也得好几个平台都使用协议才行。所以很残酷的一个现实是，现阶段咱们没法儿杜绝 AI 干坏事。关键在于， AI 技术发展得实在是太快了， AI 生成的内容越来越逼真，生成的门槛却越来越低，就像 Sora 问世后，大家都在说 “ 现实，不存在了 ” 。不可否认，之后的立法、反 AI 技术肯定会跟上，但这种敌在暗我在明的情况，监管就很被动了。这就像一场猫鼠游戏， AI 知道规则就会绕过去，人类再设置新的规则，这场游戏，或许永无止境。我们能做的，除了多加分辨，就只剩下下载国家反诈中心 App 了。 ... PC版： 手机版：

要把开源管起来 还要“一举两得”限制中国 加州SB-1047法案被LeCun骂惨了

要把开源管起来 还要“一举两得”限制中国 加州SB-1047法案被LeCun骂惨了 这位Dan Hendrycks是美国AI政策领域的后起之星，2023年被《时代周刊》评选为全球百大AI人物之一。博士毕业于UC Berkeley计算机科学系，曾发明GELU激活函数和神经网络鲁棒性基准。目前担任旧金山非营利组织AI安全中心（CAIS）主任和xAI的安全顾问。图：The Boston Globe作为SB-1047的重要参与者和推动者之一，Hendrycks一直在多个平台大力宣传该法案，提醒公众警惕先进AI带来的社会风险。他在Yann LeCun转发的这则采访中指出：人工智能将“从执行日常任务到摧毁整个宇宙”，它虽不懂人类是什么，但会寻求权力并表现得”自私”，而美国加大AI监管也会“一举两得”地扼制中国人工智能发展。此番言论马上被一大批科技人士痛批“bullshit”，对这个SB-1047法案也是深恶痛绝。因为它表面看似为增强AI模型安全性、透明度、促进公平竞争做出的立法努力，实则会让开发者背负沉重负担，很可能扼杀创新，给AI初创公司和开源社区带来巨大的负面影响。a16z合伙人Martin Casado称SB-1047“是一场灾难，会攻击AI创新，伤害研究人员、学者和创业公司。”什么是加州SB-1047法案？SB-1047 法案，全称为“前沿人工智能安全创新法案（Safe and Secure Innovation for Frontier Artificial Intelligence Act）”，由加州参议员Scott Wiener在今年2月首次提出。目的是“为大规模人工智能系统的开发和部署设立严格安全标准，以确保其安全性并防止潜在重大危害。”该法案针对超过10^26次浮点运算能力（FLOPs）和1亿美元训练成本，以及任何基于以上AI模型微调的、运算能力不少于3 倍10^25 FLOPs的智能系统。几乎把现在市面所有主流大模型囊括在内。主要内容包括要求开发者进行部署前的安全评估，实施强有力的网络安全保护，具备紧急关停模型的能力，提交年度合规认证，72小时内上报安全事件等。另外还要求开发者对其模型的下游使用或修改承担法律责任。换言之，但凡有人用你的模型做了“坏事”，你就要“连坐受罚”，跟古代皇宫里“株连九族”差不多意思。在开始训练之前，开发者需要保证他们的模型不会被用来或提供"危险能力"，并实施一系列保障措施来防止未经授权的访问或滥用，还必须要立下“书面字据”。一个新成立的“前沿模型司（Frontier Model Division）”将负责监督新法规的执行。它将隶属于加州技术部，由向开发者收取的费用和罚款来资助。向该机构虚假陈述模型能力可能会因伪证罪而入狱。同时条款明文写着“鼓励告密”，呼吁AI公司内部员工报告雇主的不合规行为，且不会因此而遭到报复不知为什么，总觉得这机构满满的反派感。目前该法案的进度是，已于5月21日在加州参议院获得两党支持通过，正在众议院审议中。6月20日刚进行了最新阅读和修订，计划7月2日举行听证会，并最终在8月进行议会投票。一旦投票通过，只需州长盖文纽森一个签名，SB-1047就将正式确立为加州法律，成为悬在所有硅谷AI从业者头顶的一把大刀。极限高压严管， SB-1047将怎样影响AI开发者？只通篇略读，就已经觉得这个法案槽点太多，群起反抗迫在眉睫。加州是全球人工智能的创新热土：坐拥学术重镇斯坦福大学、加州理工、伯克利、南加大、UCLA，是Meta、Google、微软等科技巨头和OpenAI、Anthropic这些业内领军企业的总部所在地，更别提遍地涌现的AI独角兽、技术实验室和开源社区。颁布这样一条法案弊远大于利，当然引来Yann LeCun等许多权威人士的严辞抵制。首先是“受管制模型” CEO、fastai库作者Jeremy Howard指出其定义方法过于宽泛，很可能把大量风险极小的开源模型包括在内，进而误将从事有益AI项目的善意开发者活动归为犯罪。a16z普通合伙人Anjney Midha认为，随着算法效率的提升和计算成本的下降， 10^26 FLOPs的阈值将很快覆盖比科技巨头开发的最大、最尖端模型多得多的模型，这将真正伤害到大批AI初创公司。而关于“1亿美元训练成本”的界定也十分模糊。它应该包括研究人员薪资吗？是包含历代模型还是只计算最终版本，模型对齐的人类反馈费用怎么算？若是从别人的模型微调而来，那基础模型的成本又是否涵盖在内？这些都是没有明确答案的开放性问题，给小型开发者带来巨大的应对负担。接下来是批判声浪最大也最荒谬，对模型开发者施加民事甚至刑事责任的22603条款。该细则要求开发人员在训练模型之前，必须采取一系列措施防止滥用，包括实施网络安全保护、关键时刻能不考虑用户紧急关停模型等。此外，存在潜在风险的模型不得用于商业或公共用途。开发人员每年要重新评估安全措施，提交合规证明。2028年开始必须获得第三方审计员的合规证书。还要评估模型是否可能导致“严重危害”，确保能够准确追踪其衍生行为及后果。由于上述疏忽而出现AI安全事故的话，第一开发者将负连带责任。也就是前面说过的，当素不相识的下游用户做出一些不法行为时，基础模型开发者将成为共同受罚的冤大头。好比让汽车制造商对每一起驾驶员造成的事故负责，简直离大谱。Jeremy Howard在评论中写道，“AI模型是计算机上运行的通用软件，就像计算器或网络浏览器。模型的创建者无法确保模型未来不会被用于有害用途，就像网络浏览器不能决定打开什么网页一样。”这也是SB-1047法案的根本缺陷 它不是专注于滥用和恶意用户，反而试图监管模型和基础设施，把如此繁重的负担放在了初创公司、创始人和工程师身上。DeepLearning.AI创始人吴恩达在X撰写长文，称“安全性是应用程序的属性，而不是技术或模型的属性….如果有机会，我希望您能加入发声，共同反对这一法案。”接着来到22604条款，对运营计算集群的人员来说，当客户使用其算力资源训练“前沿模型”时，要收集客户的身份信息、支付方式和联系方式，包括相关金融机构、信用卡号码、账户号码、交易标识符或虚拟货币钱包地址等。而且，还要保留客户的IP地址和访问记录长达七年，每年对用户行为和意图进行评估，也要在海关、边境总署备案。诸如这样不合理的责任条款还有很多，那它们带来的实际效果会是什么呢？a16z合伙人Anjney Midha认为，它将把先进AI开发推向地下或海外，“创始人将把公司业务转移到一个监管环境更明智的辖区，而加州甚至美国将失去这些机会，就这么简单。”并且由于合规成本的增加，企业或个人开发者在开源大模型权重上会非常谨慎。而开源一直是软件技术进步的关键推动力，提供了许多现代人工智能基本构建块。事实上，生成式 AI浪潮正是源自Google实验室的Transformer架构，然后由OpenAI 去开创和继续。Mistral和Meta们的开源模型对下由贡献不可估量，今天的一切都是开源合作的结果，而这项法案会大大减缓其发展。Yann LeCun解释说，“SB-1047 的级联责任制将使开源 AI 平台面临极大风险。没有开源 AI，就没有 AI 初创公司生态系统，也没有大模型的学术研究。Meta 会没事，但 AI 初创公司将会死亡。在我看来，这才是末日景象。”Y Combinator掌门人Gary Tan表示，“SB-1047将对加州的 AI 发展产生强烈的寒蝉效应。”Kentauros AI CEO 、前Red Hat高级架构师Daniel Jeffries认为这根本不是一项AI安全法案，而是一匹“特洛伊木马”。真正目的是让一小撮反AI极端分子拥有关闭先进AI的权力，同时给加州的科技产业制造麻烦。“不要让模型对别人的犯罪负责。没人因为安然公司有人用Excel诈骗投资者就惩罚微软，该惩罚的是安... PC版： 手机版：