微软：中共利用人工智能扰乱美国2024总统选举

微软：中共利用人工智能扰乱美国2024总统选举微软(Microsoft)在一份新的报告中指出，中共正在利用人工智能来扰乱美国选民，并在2024年美国总统选举前挑拨离间。微软威胁分析师9月7日在一篇文章中警告，北京已经开发出一种新的人工智能能力，与之前中共的影响力行动相比，它可以产生“吸引眼球的内容”，更有可能在网络疯传。

微软和OpenAI投入200万美元设立基金打击选举相关的内容造假

微软和OpenAI投入200万美元设立基金打击选举相关的内容造假生成式人工智能（包括ChatGPT等大受欢迎的聊天机器人）的兴起导致了一种新的重大威胁，其中涉及人工智能生成的"深度伪造"，其目的是使虚假信息永久化。这些新工具可以广泛使用，任何人都可以制作假视频、照片或高知名度政治实体的音频，但这并没有什么帮助。就在本周一，印度选举委员会敦促各政党在围绕选举开展的网络宣传活动中避免使用深度伪造和类似的虚假信息。正是在这一背景下，包括微软和OpenAI在内的所有主要科技公司都签署了应对此类风险的自愿承诺，并计划建立一个共同框架，以应对专门为误导选民而制造的深度伪造。在其他地方，主要的人工智能公司已经开始通过在其软件中引入限制来应对这些风险。例如，Google表示不允许其Gemini人工智能聊天机器人回答有关选举的问题，而Facebook的母公司Meta也限制通过其人工智能聊天机器人回答与选举有关的问题。今天早些时候，OpenAI为虚假信息研究人员推出了一款新的深度虚假检测工具，旨在帮助识别由其自己的DALL-E图像生成器生成的虚假内容，同时它还加入了行业机构内容出处和真实性联盟（C2PA）的指导委员会，该联盟的成员包括Adobe、微软、Google和英特尔。新的"社会复原力基金"是这一更广泛的"负责任"人工智能推动力的一部分，微软和OpenAI目前正致力于"在选民和弱势群体中进一步开展人工智能教育和扫盲活动"。这将涉及向一些组织发放补助金，其中包括老年人技术服务组织（OATS）、内容真实性联盟（C2PA）、国际民主与选举援助研究所（InternationalIDEA）和人工智能合作伙伴关系（PAI）。根据微软的说法，这些资助旨在让全社会更好地了解人工智能及其能力。例如，OATS显然将把赠款用于针对美国50岁及以上人群的培训项目，内容涵盖"人工智能的基础方面"。社会复原力基金的启动只是微软和OpenAI致力于应对人工智能扫盲和教育领域的挑战和需求的其中一步，"微软负责技术和企业责任的公司副总裁TeresaHutson在博文中表示。"微软和OpenAI将一如既往地致力于这项工作，我们将继续与拥有共同目标和价值观的组织和倡议合作。"...PC版：https://www.cnbeta.com.tw/articles/soft/1429998.htm手机版：https://m.cnbeta.com.tw/view/1429998.htm

微软和 OpenAI 推出200万美元基金以打击选举深度造假

微软和OpenAI推出200万美元基金以打击选举深度造假微软和OpenAI宣布设立200万美元基金，以应对人工智能和深度造假被用来“欺骗选民和破坏民主”的日益增长的风险。根据博文，微软和OpenAI的新“SocietalResilience基金”致力于“在选民和弱势社区中进一步开展人工智能教育和扫盲”。这将涉及向少数组织发放赠款，包括老年人技术服务(OATS)、内容来源和真实性联盟(C2PA)、国际民主和选举援助研究所(InternationalIDEA)和人工智能伙伴关系(PAI)。据微软称，这些赠款旨在让全社会更好地了解人工智能及其能力。——

微软：中国利用人工智能挑动美国舆论

微软：中国利用人工智能挑动美国舆论微软威胁分析中心(MTAC)的最新报告显示，中国正在增加使用人工智能生成的内容和虚假社交媒体帐户在大选前挑动美国和其他地方的分裂。微软威胁分析中心总经理克林特·瓦茨在4日晚间发布的这份报告中表示：“中国正在利用虚假的社交媒体账户对选民进行民调，了解他们最大的分歧是什么，从而播下分裂的种子，并可能影响美国总统选举的结果，使之对中国有利。”他指出“中国还增加了对人工智能生成内容的使用，以更好地实现其在世界各地的目标”。报告称，中国抓住时机增加其影响力，例如肯塔基州的火车脱轨或夏威夷毛伊岛的火灾，以加剧对美国政府的不信任。根据报告的调查结果，几乎没有迹象表明这些影响力行动成功地影响了舆论。——

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击微软在今天的一篇博文中说："网络犯罪集团、民族国家威胁行动者和其他对手正在探索和测试新出现的各种人工智能技术，试图了解它们对其行动的潜在价值以及它们可能需要规避的安全控制。"与俄罗斯军事情报机构有关联的"锶"组织被发现使用LLMs"了解卫星通信协议、雷达成像技术和特定技术参数"。该黑客组织也被称为APT28或FancyBear，在俄罗斯的乌克兰战争期间一直很活跃，此前曾参与2016年针对希拉里-克林顿总统竞选活动的攻击。据微软称，该小组还一直在使用LLM来帮助完成"基本的脚本任务，包括文件操作、数据选择、正则表达式和多进程处理，以实现技术操作的自动化或优化"。一个名为Thallium的朝鲜黑客组织一直在使用LLMs来研究公开报道的漏洞和目标组织，帮助完成基本的脚本任务，并为网络钓鱼活动起草内容。微软称，名为Curium的伊朗组织也一直在使用LLMs生成网络钓鱼电子邮件，甚至是用于躲避杀毒软件检测的代码。与中国政府有关联的黑客也在使用LLMs进行研究、编写脚本、翻译和改进现有工具。人们一直担心在网络攻击中使用人工智能，特别是出现了像WormGPT和FraudGPT这样的人工智能工具来协助创建恶意电子邮件和破解工具。美国国家安全局的一位高级官员上个月也警告说，黑客正在利用人工智能让他们的钓鱼邮件看起来更有说服力。微软和OpenAI尚未发现任何使用LLMs的"重大攻击"，但这两家公司已经关闭了与这些黑客组织相关的所有账户和资产。微软表示："与此同时，我们认为这是一项重要的研究，通过发布来揭露我们观察到的知名威胁行为者试图采取的早期、渐进式行动，并与防御者社区分享我们如何阻止和反击这些行动的信息。"虽然目前人工智能在网络攻击中的应用似乎还很有限，但微软对未来的使用案例（如语音冒充）发出了警告。"人工智能驱动的欺诈是另一个令人严重关切的问题。语音合成就是一个例子，三秒钟的语音样本就能训练出一个听起来像任何人的模型，即使是像语音邮件问候语这样无害的东西，也可以用来获得足够的样本。"微软的解决方案是利用人工智能来应对人工智能攻击。"人工智能可以帮助攻击者提高攻击的复杂程度，而且他们有足够的资源来应对。"微软首席检测分析经理霍马-海蒂法（HomaHayatyfar）说。"我们已经从微软追踪的300多个威胁行为体身上看到了这一点，我们使用人工智能来保护、检测和应对。"微软正在打造一款新的人工智能助手SecurityCopilot，专为网络安全专业人士设计，用于识别漏洞并更好地理解每天通过网络安全工具产生的大量信号和数据。在Azure云遭受重大攻击，甚至俄罗斯黑客监视微软高管之后，这家软件巨头也在全面整顿其软件安全机制。了解更多：https://www.microsoft.com/en-us/security/blog/2024/02/14/staying-ahead-of-threat-actors-in-the-age-of-ai/...PC版：https://www.cnbeta.com.tw/articles/soft/1418125.htm手机版：https://m.cnbeta.com.tw/view/1418125.htm

微软和 OpenAI 启动 200 万美元基金打击选举深度造假

微软和OpenAI启动200万美元基金打击选举深度造假微软和OpenAI宣布成立一项200万美元的基金，以应对日益增长的人工智能和深度伪造被用于"欺骗选民和破坏民主"的风险。根据微软和OpenAI今天发布的一篇博客文章，微软和OpenAI的新“社会复原力基金”致力于“在选民和弱势社区中进一步开展人工智能教育和扫盲”。这将涉及向少数组织发放赠款，包括老年人技术服务(OATS)、内容来源和真实性联盟(C2PA)、国际民主和选举援助研究所(国际IDEA)和人工智能伙伴关系(PAI)。