欧盟拟议新法规要求大规模扫描数字消息，包括加密消息，以检测儿童性虐待材料

欧盟拟议新法规要求大规模扫描数字消息，包括加密消息，以检测儿童性虐待材料欧盟正接近通过一项新法规，该法规将强制对所有数字消息进行大规模扫描，包括加密消息，目的是检测儿童性虐待材料（CSAM）。这项提议的法律，首次于2022年提出，将实施一种“上传审查”系统，扫描所有数字消息，包括共享的图像、视频和链接。如果用户不同意扫描，将无法分享图片或链接。该法律似乎同时支持和拒绝端到端加密，一方面强调端到端加密是保护基本权利的必要手段，另一方面指出加密消息服务可能成为儿童性虐待材料的“安全区域”。隐私倡导者和一些组织，如Mozilla，已签署联合声明，敦促欧盟拒绝扫描用户内容的提议。议会成员也表达了对该提议的反对，指出无差别搜索和错误频出的私人聊天和私密照片泄露将破坏我们的基本通信隐私权。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

FBI逮捕一名利用AI生成儿童性虐待图像并传播的男子

FBI逮捕一名利用AI生成儿童性虐待图像并传播的男子司法部在周一的一份公告中说："这些图像中有许多描绘了裸体或半裸的未成年人淫荡地展示或触摸自己的生殖器，或与男性发生性关系。从安德雷格的电子设备中找到的证据显示，他利用与未成年人有关的特定、露骨的文字提示生成了这些图片，然后将其存储在自己的电脑中。"据称，他随后与一名15岁的男孩进行了交流，描述了自己创建图片的过程，并通过Instagram的直接消息向他发送了几张人工智能生成的未成年人图片。在一些信息中，安德雷格告诉Instagram用户，他使用Telegram发布人工智能生成的CSAM。法庭记录指控说："他通过Instagram和Telegram积极建立了一个由臭味相投的犯罪者组成的在线社区，在这个社区里，他可以炫耀他对未成年人的淫秽描绘，并与这些其他犯罪者讨论他们对儿童的共同性兴趣。换句话说，他利用这些GenAI图像来吸引其他罪犯，这些罪犯可以将他对儿童的性兴趣正常化并加以确认，同时助长这些罪犯和他自己看到未成年人遭受性虐待的兴趣。"这标志着联邦调查局首次指控某人利用人工智能制作儿童性虐待材料。今年3月，威斯康星州警方指控安德雷格两项"让儿童接触有害材料"的罪名，以及另一项"与13岁以下儿童发生性接触"的罪名，但他拒绝认罪。根据福布斯当时的报道。警长的副手在一份宣誓书中说，安德雷格在网上接受其他人的请求，生成青少年的人工智能图像，现今人工智能色情市场已经成为滥用图像制造商的大生意.公告指出，安德雷格之所以落网，是因为Instagram向国家失踪与被剥削儿童中心报告了他的账户传播图片的行为。法庭记录称，"他的笔记本电脑里有13000多张GenAI图像，其中数百张（如果不是数千张的话）描绘了未成年裸体或半裸的未成年人淫荡地展示或触摸自己的生殖器。还有一些图片描绘了未成年少女触摸看似成年男性的阴茎或进行性交的画面。笔记本电脑中的其他证据表明，他使用了极其具体和明确的提示来创建这些图像。同样，他还使用了特定的'负面'提示，即指导GenAI模型在生成的内容中不包含哪些内容的提示，以避免生成描绘成年人的图像"。此前媒体报道了StableDiffusion生成儿童性虐待材料的能力，以及生成式人工智能公司承认其用户可能使用其工具制作CSAM的情况，尽管官方已经使用"负面提示"来避免创建成人人工智能图像的情况。这个案例证明了在线虐童问题专家几个月前警告过的问题，当时LAION-5B数据集被发现包含疑似儿童性虐待图像。专家曾警告过：即使在人工智能生成的图像中无法识别真实的儿童，性剥削者者也可能利用生成的图像来诱骗真实的儿童。首席副助理司法部长NicoleM.Argentieri在联邦调查局的一份新闻稿中说："今天的公告传达了一个明确的信息：使用人工智能制作儿童色情图片是非法的，司法部将毫不犹豫地追究那些拥有、制作或传播人工智能生成的儿童性虐待材料的人的责任。"安德雷格被联邦拘留，等待定于5月22日举行的拘留听证会。...PC版：https://www.cnbeta.com.tw/articles/soft/1431703.htm手机版：https://m.cnbeta.com.tw/view/1431703.htm