多位人工智能专家和行业高管在公开信中呼吁加强对深度伪造的监管

多位人工智能专家和行业高管在公开信中呼吁加强对深度伪造的监管YoshuaBengio"如今，深度伪造往往涉及性图像、欺诈或政治虚假信息。由于人工智能发展迅速，使得深度伪造变得更加容易，因此需要采取保障措施，"该组织在信中说，这封信是由加州大学伯克利分校的人工智能研究员安德鲁-克里奇（AndrewCritch）撰写的。深度伪造（Deepfake）是由人工智能算法创建的逼真而又虚假的图像、音频和视频，最近的技术进步使它们与人类创建的内容越来越难以区分。这封题为"扰乱深度假货供应链"的信就如何监管深度假货提出了建议，包括将深度假货儿童色情制品完全定为刑事犯罪，对任何故意制造或协助传播有害深度假货的个人进行刑事处罚，以及要求人工智能公司防止其产品制造有害深度假货。截至本周三上午，已有来自学术界、娱乐界和政界等各行各业的400多人在信上签名。签名者包括哈佛大学心理学教授史蒂文-平克（StevenPinker）、两位爱沙尼亚前总统、GoogleDeepMind的研究人员和OpenAI的研究人员。自微软支持的OpenAI于2022年底推出ChatGPT以来，确保人工智能系统不危害社会一直是监管机构的首要任务。知名人士曾多次就人工智能风险发出警告，特别是埃隆-马斯克（ElonMusk）去年签署了一封信，呼吁暂停开发比OpenAI的GPT-4人工智能模型更强大的系统，为期六个月。...PC版：https://www.cnbeta.com.tw/articles/soft/1419951.htm手机版：https://m.cnbeta.com.tw/view/1419951.htm

相关推荐

封面图片

DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首谷歌旗下DeepMind部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。——
封面图片

呼吁暂停六个月AI训练的公开信中许多签名是假冒的，更多专家公开反对这封信

呼吁暂停六个月AI训练的公开信中许多签名是假冒的，更多专家公开反对这封信超过30,000人——包括特斯拉的埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、政治家安德鲁·杨和一些领先的人工智能研究人员签署了一封公开信，呼吁暂停训练比GPT-4更强大的人工智能系统六个月.这封信立即引起了轩然大波，因为签署人纷纷撤回他们的立场，一些著名的签署人被证明是假的，更多的人工智能研究人员和专家公开反对这封信的提议和方法。这封信由生命未来研究所(FutureofLifeInstitute)撰写，这是一家非营利组织，其使命是“减少强大技术带来的全球灾难性和生存风险”。它也是长期主义的最大支持者之一，这是一种由许多硅谷科技精英成员推动的世俗宗教，因为它鼓吹寻求大量财富以解决人类在遥远的未来面临的问题。未来生命研究所向Motherboard确认所有签名者都“通过直接沟通进行了独立验证”。尽管有这个验证过程，这封信还是以一些虚假的签名开始，包括冒充OpenAI首席执行官山姆奥特曼、中国国家主席和Meta首席人工智能科学家YannLeCun，之后该研究所清理了名单并暂停显示签名。来源：VICE杂志https://www.vice.com/en/article/qjvppm/the-open-letter-to-stop-dangerous-ai-race-is-a-huge-mess投稿：@ZaiHuabot频道：@TestFlightCN
封面图片

佛罗里达州青少年因制作同学的"深度伪造"人工智能裸照而被捕

佛罗里达州青少年因制作同学的"深度伪造"人工智能裸照而被捕佛罗里达州两名中学生于12月被捕，并被指控犯有三级重罪，罪名是涉嫌制作同学的深度伪造裸照。Wiredcites警方的一份报告称，两名年龄分别为13岁和14岁的男孩被指控使用未命名的"人工智能应用程序"生成其他"12岁至13岁"学生的露骨图像。未成年人制作人工智能生成的裸体和其他儿童的露骨图像已成为美国各地学区日益普遍的问题，但除了佛罗里达事件之外，据TheVerge所知，没有一起事件导致逮捕。该事件可能是美国首例与人工智能生成的裸体图像相关的刑事指控。线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN
封面图片

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险称：OpenAI的人工智能系统已经接近人类智能水平，通用人工智能AGI有50%的可能性在2027年就会问世，而不是此前预测的2050年！这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。签署公开信的多位OpenAI前任雇员曾从事人工智能安全工作，为公开信背书的业内大佬则有“人工智能教父”GeoffreyHinton、因开创性AI研究而获得图灵奖的YoshuaBengio，以及AI安全领域的顶尖专家StuartRussell。关注频道@ZaiHuaPd频道爆料@ZaiHuabot
封面图片

OpenAI 员工发表公开信 警示人工智能监管缺失风险

OpenAI员工发表公开信警示人工智能监管缺失风险美国开放人工智能研究中心（OpenAI）和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信，对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。据多家外媒援引信件报道，这些员工认为，人工智能企业受利益驱使缺乏有效监管，现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。（央视新闻）
封面图片

【OpenAI员工发表公开信，警示人工智能监管缺失风险】

【OpenAI员工发表公开信，警示人工智能监管缺失风险】2024年06月06日08点26分老不正经报道，美国开放人工智能研究中心（OpenAI）和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信，对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。据多家外媒援引信件报道，这些员工认为，人工智能企业受利益驱使缺乏有效监管，现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。（央视新闻）

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人