DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首 谷歌旗下 DeepMind 部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。

巴尔的摩警方逮捕用人工智能技术伪造校长声音的高中体育主任

巴尔的摩警方逮捕用人工智能技术伪造校长声音的高中体育主任 据 NBC 新闻报道，警方在前派克维尔高中体育主管达尊-达里恩试图登上飞往德克萨斯州休斯顿的航班时将其逮捕。运输安全管理局官员因达里恩携带申报枪支而将其拘留。当地警方赶到后，在对其进行背景调查并发现其有未执行的逮捕令后将其逮捕。据称，达里恩于 1 月份在多个未具名的社交媒体网站上发布了现已删除的音频片段，片段中的主要声音听起来像是派克维尔高中的校长埃里克-埃斯沃特（Eric Eiswert）。这似乎是一段与未具名人士的对话。警方报告指出，在对话过程中，艾斯瓦特说非裔美国学生无法"从纸袋里考出来"。他还对犹太社区的人和两名"根本不应该被雇用"的学校员工进行了诽谤。音频曝光后，艾斯瓦特被暂时解职。他在网上收到了大量恶毒的留言，学校也接到了无数愤怒的社区成员打来的电话。埃斯沃特告诉警方，他认为达里恩利用人工智能编造了这段音频，以报复他因工作表现不佳、涉嫌不当处理学校资金而未续约，以及在 2023 年未经批准终止了一名长期教练的合同。他还说，他相信达里恩精通技术，懂得使用人工智能工具。警探发现有证据表明，达里恩在 12 月和 1 月曾多次访问学校网络，搜索"OpenAI 工具"，调查人员随后将他与多个付费 OpenAI 账户联系起来。联邦调查局聘请了一位大学教授和法证专家对录音进行分析。他发现文件中含有人工智能生成内容的痕迹。录音的设计者还添加了环境噪音背景音轨，使其听起来更自然。加州大学伯克利分校进行的第二次分析得出结论：有人篡改了音频文件。 ... PC版： 手机版：

微软：中国利用人工智能挑动美国舆论

微软：中国利用人工智能挑动美国舆论 微软威胁分析中心 (MTAC) 的最新报告显示，中国正在增加使用人工智能生成的内容和虚假社交媒体帐户在大选前挑动美国和其他地方的分裂。微软威胁分析中心总经理克林特·瓦茨在4日晚间发布的这份报告中表示：“中国正在利用虚假的社交媒体账户对选民进行民调，了解他们最大的分歧是什么，从而播下分裂的种子，并可能影响美国总统选举的结果，使之对中国有利。”他指出“中国还增加了对人工智能生成内容的使用，以更好地实现其在世界各地的目标”。报告称，中国抓住时机增加其影响力，例如肯塔基州的火车脱轨或夏威夷毛伊岛的火灾，以加剧对美国政府的不信任。根据报告的调查结果，几乎没有迹象表明这些影响力行动成功地影响了舆论。

中国军队如何采用人工智能

中国军队如何采用人工智能 所谓的人工智能（AI）正在以闪电般的速度发展。现在已经成为全世界军事和情报部门的核心焦点。 部分原因由于人工智能的快速发展，大多数对其军事前景的分析往往更关注国家的未来愿景，而不是当今的能力。这对中国人民解放军来说尤其如此，解放军经常明确表示希望利用人工智能来发挥军事优势，他们更倾向于对其实际的技术能力保持密切关注。 这份最新的报告通过分析343份与人工智能有关的设备合同，详细分析了解放军对人工智能的采用情况，这是解放军各单位和国有国防企业在2020年公布的66000多份采购记录中的一个更广泛样本。 该报告的优势在于，它确定了关键的人工智能国防工业供应商，是相关研究的一个可靠资源；但其缺点是，它并没有对自主武器的侵犯性和灾难性进行深度剖析，反而是侧重中美的对比，强调美国出口管制政策的“差距”，并将解放军的人工智能投资纳入中美 “竞争” 的战略中。 IYP反对自主武器，不论是谁在研发。故，此报告不代表我们的观点。但它可以成为一份资料，帮助相关研究人员了解中国方面的局势。 其主要发现包括： 1. 中国军方领导人已经在采购与人工智能相关的系统和设备，为“智能化” 战争做准备，但到目前为止，人工智能只占整个采购活动的一小部分。 2. 在2020年4月至2020年11月期间授予的解放军公开合同中，约有1.9%与人工智能或自主武器有关。 3. 虽然只能估计中国军事人工智能支出的底线，但解放军每年在人工智能相关的系统和设备上的支出可能超过16亿美元。 4. 解放军似乎最专注于采购人工智能技术用于情报分析、预测性保全、信息战、以及自主车辆的导航和目标识别。 5. 尽管一些解放军军官对开发致命的自主武器系统（LAWS）表示严重保留意见，但中国军方下属的实验室正在积极开展基于人工智能的目标识别和火力控制研究，这可能会用于LAWS。 6. 中国领导人认为，人工智能是将解放军转变为 “世界级”、具有全球竞争力的军事力量的关键。解放军在人工智能和自主武器方面的进展将为美国和在印太地区行动的盟军带来新的脆弱性。 7. 中国的 “军民融合” 发展战略正在帮助解放军获得COTS技术，包括从中国私营技术公司和中国以外的来源获得技术。 …… 以及更多。

研究发现：用人工智能生成的图像训练出的人工智能产生了糟糕的结果。

研究发现：用人工智能生成的图像训练出的人工智能产生了糟糕的结果。 斯坦福大学和莱斯大学的研究人员发现，生成式人工智能模型需要“新鲜的真实数据”，否则输出的质量就会下降。 这对摄影师和其他创作者来说是个好消息，因为研究人员发现，训练数据集中的合成图像会放大人工痕迹，使人工智能画出的人类看起来越来越不像真人。 研究小组将这种状况命名为“模型自噬障碍”。如果自噬循环的每一代都没有足够的新鲜真实数据，未来的生成模型注定会逐渐降低其质量或多样性。 如果该研究论文是正确的，那么这意味着人工智能将无法开发出无穷无尽的数据源。人工智能仍然需要真实、高质量的图像来不断进步，而不是依赖自己的输出。这意味着生成式人工智能将需要摄影师。