DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首 谷歌旗下 DeepMind 部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。

世贸组织报告呼吁加强对人工智能监管

世贸组织报告呼吁加强对人工智能监管 世界贸易组织（WTO）星期四（11月21日）在瑞士日内瓦发布报告，重点探讨人工智能（AI）对世界贸易的影响，并呼吁国际社会加强对人工智能的监管。 新华社报道，世贸组织报告说，AI有助于降低贸易成本，促进AI相关的货物和服务贸易增长，并重新定义经济体的比较优势。同时，AI监管方法呈碎片化趋势，可能会对小微和中型企业的贸易机会产生显著影响。报告概述了各国政府在本国、地区和国际层面为促进和规范AI而采取的举措。 世贸组织总干事伊维拉表示，这份报告旨在解决两个重要问题：世贸组织如何确保全球共享AI带来的红利，以及如何以全球协调的方式应对AI带来的挑战。 报告警告，各经济体之间以及不同规模企业之间的AI鸿沟不断扩大，带来巨大风险。报告呼吁加强数据治理，确保AI值得信赖，并厘清AI与知识产权之间的关系。 报告表示，作为谈判、讨论和制定规则的多边机构，世贸组织可在提升AI带来的红利的同时限制其风险方面发挥重要作用。 #世界贸易组织 #人工智能 #监管 #贸易-电报频道- #娟姐新闻:@juanjienews

呼吁暂停六个月AI训练的公开信中许多签名是假冒的，更多专家公开反对这封信

呼吁暂停六个月AI训练的公开信中许多签名是假冒的，更多专家公开反对这封信 超过 30,000 人包括特斯拉的埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、政治家安德鲁·杨和一些领先的人工智能研究人员签署了一封公开信，呼吁暂停训练比 GPT-4 更强大的人工智能系统六个月. 这封信立即引起了轩然大波，因为签署人纷纷撤回他们的立场，一些著名的签署人被证明是假的，更多的人工智能研究人员和专家公开反对这封信的提议和方法。 这封信由生命未来研究所 (Future of Life Institute)撰写，这是一家非营利组织，其使命是“减少强大技术带来的全球灾难性和生存风险”。它也是长期主义的最大支持者之一，这是一种由许多硅谷科技精英成员推动的世俗宗教，因为它鼓吹寻求大量财富以解决人类在遥远的未来面临的问题。 未来生命研究所向 Motherboard 确认所有签名者都“通过直接沟通进行了独立验证”。 尽管有这个验证过程，这封信还是以一些虚假的签名开始，包括冒充 OpenAI 首席执行官山姆奥特曼、中国国家主席习近平和 Meta 首席人工智能科学家 Yann LeCun，之后该研究所清理了名单并暂停显示签名。

NIST 推出评估生成式人工智能的新平台

NIST 推出评估生成式人工智能的新平台 NIST 在新推出的 NIST GenAI网站和一份新闻稿中解释说，NISTGenAI将发布基准，帮助创建"内容真实性"检测（即深度验假）系统，并鼓励开发软件来识别人工智能生成的虚假或误导性信息的来源。"NIST GenAI 计划将发布一系列挑战问题，[旨在]评估和衡量生成式人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的策略，并指导安全、负责任地使用数字内容"。NIST GenAI 的第一个项目是一项试点研究，目的是建立能够可靠区分人类创建的媒体和人工智能生成的媒体的系统，首先从文本开始。(虽然许多服务都声称可以检测深度伪造，但研究和测试表明，它们充其量只能说是不可靠的，尤其是在文本方面）。NIST GenAI 邀请学术界、工业界和研究实验室的团队提交"生成器"（生成内容的人工智能系统）或"鉴别器"（旨在识别人工智能生成内容的系统）。研究中的生成器必须生成 250 字或更少的摘要，提供一个主题和一组文档，而判别器必须检测给定摘要是否可能是人工智能编写的。为确保公平，NIST GenAI 将提供测试生成器所需的数据。NIST 表示："以公开数据训练的系统如果不"遵守适用的法律法规"，将不被接受。试点登记将于 5 月 1 日开始，第一轮两家计划于 8 月 2 日结束。 预计研究的最终结果将于 2025 年 2 月公布。在人工智能生成的错误信息和虚假信息呈指数级增长之际，NIST GenAI 启动了以深度伪造为重点的研究。根据深度假货检测公司Clarity 的数据，与去年同期相比，今年制作和发布的深度假货数量增加了 900%。这引起了人们的恐慌，这是可以理解的。 YouGov 最近的 一项民意调查 发现，85% 的美国人担心误导性的深度假新闻会在网上传播。NIST GenAI 的启动是 NIST 响应乔-拜登总统关于人工智能的行政命令的一部分，拜登总统的行政命令规定，要求人工智能公司在其模型如何工作方面提高透明度，并制定了一系列新标准，包括对人工智能生成的内容进行标注。这也是 NIST 在任命前 OpenAI 研究员保罗-克里斯蒂亚诺（Paul Christiano）为该机构的人工智能安全研究所成员后，首次发布与人工智能相关的消息。克里斯蒂亚诺因其"现实主义"观点而备受争议；他曾预言，"人工智能的发展有50%的可能以[人类毁灭]而告终"。据报道，包括美国国家标准与技术研究院（NIST）科学家在内的批评人士担心，克里斯蒂亚诺可能会鼓励人工智能安全研究所关注"幻想的场景"，而不是现实的、更直接的人工智能风险。NIST 表示，NIST GenAI 将为人工智能安全研究所的工作提供参考。 ... PC版： 手机版：

韩国警方拟开发新系统打击深度伪造

韩国警方拟开发新系统打击深度伪造 韩国多名官员2日说，警方将投资91亿韩元开发一个可以查出深度伪造文件和虚假信息的系统，以应对涉及人工智能生成图像和声音的犯罪案件激增的状况。官员表示，警方计划开发一个使用多模态算法的系统，通过分析噪音和声音频率查出深度伪造视频和人工智能生成的声音，并可追踪到网络信息来源，以便能在早期阶段应对和阻止假新闻和错误信息的传播。开发工作预计2027年12月完成。警方希望该系统有助于大幅缩短辨别深度伪造视频和音频片段所需的时间。

【OpenAI CTO：ChatGPT和其他人工智能工具均应受到监管】

【OpenAI CTO：ChatGPT和其他人工智能工具均应受到监管】 2月6日消息，人工智能研究公司OpenAI首席技术官Mira Murati表示，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具没有什么区别一样。 当被问及像OpenAI这样的公司等机构是否有责任监管这一工具时，Murati说：“对OpenAI等公司来说，最重要的是以一种可控和负责任的方式将其引入公共意识。”但她强调，公司还需要来自监管机构、政府甚至所有人的帮助。她补充说，现在对ChatGPT进行监管“并不算为时过早”。 据悉，ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话和代码，并回答各类疑问。