多家科技企业承诺打击滥用人工智能干扰选举

多家科技企业承诺打击滥用人工智能干扰选举全球多家科技企业16日在第60届慕尼黑安全会议（慕安会）上签署协议，承诺在2024年这个多国举行重要选举的年份打击旨在干扰选举的人工智能滥用行为。2024年被国际舆论称为“超级选举年”。据不完全统计，今年全球将有70多个国家或地区举行重要选举，覆盖超过全球半数人口。人工智能的负面影响被本届慕安会列为全球主要安全威胁之一。其中，用人工智能生成欺骗性内容干扰选举被认为是全球面临的重要挑战。

科技巨头签署自愿承诺，打击滥用人工智能干扰选举

科技巨头签署自愿承诺，打击滥用人工智能干扰选举当地时间2月16日，在第60届慕尼黑安全会议上，微软、Meta、谷歌、亚马逊、Adobe和IBM在内的供应商签署了一项协议，表明他们打算采用一个通用框架来应对人工智能生成的旨在误导选民的深度伪造内容。其他13家公司，包括人工智能公司OpenAI、Anthropic和StabilityAI，以及社交媒体平台X、TikTok和Snap，以及芯片设计公司ARM等也加入了该协议的签署行列。签署者表示，当误导性政治深度伪造内容在他们的平台上创建和传播时，他们将使用各种方法来检测和标记这些深度伪造内容，相互分享最佳实践，并在这些内容开始传播时提供“迅速和相应的回应”。——

大型人工智能公司同意打击虐待儿童图像

大型人工智能公司同意打击虐待儿童图像谷歌、Meta、OpenAI、微软和亚马逊等科技公司今天承诺审查其人工智能训练数据中的儿童性虐待内容(CSAM)，并将其从任何未来模型中删除。这些公司签署了一套旨在限制CSAM扩散的新原则。他们承诺确保训练数据集不包含CSAM，避免使用包含CSAM的高风险数据集，并从数据源中删除CSAM图像或指向CSAM的链接。这些公司还承诺对人工智能模型进行“压力测试”，以确保它们不会生成任何CSAM图像，并且只发布经过儿童安全评估后的模型。其他签署者包括Anthropic、Civita、Metaphysical、MistralAI和StabilityAI。——

OpenAI 悄然关闭其人工智能检测工具

OpenAI悄然关闭其人工智能检测工具一月份，人工智能巨头OpenAI宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。半年后，这个工具就死了，因为它无法完成其设计目的。这就上周，OpenAI悄悄地断开了其AI检测工具AIClassifier，因为该公司表示该工具的准确率较低。OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”——

Meta 将成立团队打击欧盟选举中的虚假信息和人工智能滥用行为

Meta将成立团队打击欧盟选举中的虚假信息和人工智能滥用行为由于担忧虚假信息和人工智能的滥用对选举的干扰，Meta公司将在6月欧洲议会选举前成立一个小组，处理虚假信息和滥用人工智能生成的问题。欧洲议会选举将于6月6日至9日举行。欧洲议会的720名议员与欧盟各国政府将一起通过新的欧盟政策和法律。Meta欧盟事务主管MarcoPancini表示，随着选举的临近，Meta将启动选举运营中心，以识别潜在威胁并实时采取措施。(界面新闻)

15 家美国公司现承诺负责任地开发人工智能

15家美国公司现承诺负责任地开发人工智能今天，Adobe、Nvidia、IBM、Palantir、Stability、Salesforce、Cohere和Scale与OpenAI、亚马逊、谷歌、Meta、微软、Anthropic和Inflection一起做出了承诺，开发技术来识别人工智能生成的图像，并与政府和学术界共享定期安全数据。来源：¹²投稿：@ZaiHuaBot频道：@TestFlightCN