FBI逮捕利用AI生成儿童性虐待图像的男子

FBI逮捕利用AI生成儿童性虐待图像的男子美国联邦调查局因涉嫌使用人工智能生成儿童性虐待图像并将其发送给未成年人而以刑事指控逮捕了一名男子。检察官在20日的声明中说，来自威斯康星州霍尔门的42岁男子史蒂文·安德雷格涉嫌使用文本到图像生成式人工智能模型StableDiffusion创建“数千张青春期前未成年人的逼真图像”。从安德雷格的电子设备中恢复的证据显示，他使用与未成年人相关的特定的、露骨的色情文本提示生成了这些图像，然后将其存储在计算机上。”他随后与一名15岁的男孩进行了交流，描述了他创建图像的过程，并通过Instagram私信向他发送了几张人工智能生成的未成年人图像。——（摘抄部分）

大型人工智能公司同意打击虐待儿童图像

大型人工智能公司同意打击虐待儿童图像谷歌、Meta、OpenAI、微软和亚马逊等科技公司今天承诺审查其人工智能训练数据中的儿童性虐待内容(CSAM)，并将其从任何未来模型中删除。这些公司签署了一套旨在限制CSAM扩散的新原则。他们承诺确保训练数据集不包含CSAM，避免使用包含CSAM的高风险数据集，并从数据源中删除CSAM图像或指向CSAM的链接。这些公司还承诺对人工智能模型进行“压力测试”，以确保它们不会生成任何CSAM图像，并且只发布经过儿童安全评估后的模型。其他签署者包括Anthropic、Civita、Metaphysical、MistralAI和StabilityAI。——

澳大利亚新法规要求科技公司消除AI生成的虐待儿童图像

澳大利亚新法规要求科技公司消除AI生成的虐待儿童图像澳大利亚电子安全专员JulieInmanGrant表示，科技公司需要在减少其产品可能带来的危害方面发挥主导作用。她指出，目前已经出现了合成虐待儿童材料，并称恐怖组织正在使用生成式人工智能来制作宣传材料，这已经成为现实，不再是幻想。因此，有必要采取行动。图源备注：图片由AI生成，图片授权服务商Midjourney根据新的法规，搜索引擎公司将被要求定期审查和改进其人工智能工具，以确保不返回“1A类”材料，包括儿童性虐待、恐怖主义和极端暴力材料。此外，这些公司还必须研究技术，帮助用户检测和识别可从其服务访问的深度伪造图像。这一法规被认为是世界上第一批类似框架之一。JulieInmanGrant形容人工智能的迅猛发展为一场“军备竞赛”，并表示这一技术的演变“让大多数政策制定者、监管机构和国家措手不及”。她认为，对于生成式人工智能，监管工具的使用需要有不同的思考方式，并强调监管审查必须从设计和部署阶段开始，而不是问题出现后才采取应对措施。在这一背景下，新法规要求科技公司从一开始就将进一步监管这些工具的规定纳入其中，而不是在问题出现后进行应对，这种情况类似于汽车制造商被要求安装安全带。JulieInmanGrant表示，这种做法对科技行业是有商业意义的，现在科技行业需要类似于“安全带时刻”的规定。电子安全专员还表示，监管机构已经意识到一些不良分子正在利用新的人工智能工具进行非法活动，包括生成虐待儿童材料。新规则将迫使科技公司不仅要减少其平台上的危害，还要致力于构建工具，促进更高的在线安全，例如检测深度伪造图像。澳大利亚总检察长MarkDreyfus在议会上宣布，澳大利亚联邦警察正在使用人工智能来检测虐待儿童材料，而不再依赖手动审查照片。这一倡议的新工具呼吁成年人提交自己儿童时期的照片，以帮助训练人工智能模型，从而更好地应对虐待儿童材料问题。...PC版：https://www.cnbeta.com.tw/articles/soft/1382487.htm手机版：https://m.cnbeta.com.tw/view/1382487.htm

调查：西班牙超20万未成年人或遭教会性虐待

调查：西班牙超20万未成年人或遭教会性虐待一个独立委员会称，自1940年以来，西班牙可能有超过20万名未成年人遭罗马天主教神职人员性虐待。法新社星期五（10月27日）报道，尽管报告并未公布具体数字，但委员会表明，一项面向8000多人的民意调查显示，在西班牙约3900万成年人口中，有0.6%的人表示曾在儿时遭过神职人员性虐待。另据路透社6月报道，西班牙天主教会针对神职人员和非神职人员性侵儿童开展的调查报告显示，自20世纪40年代以来，确认有728名涉嫌施虐儿童者，以及927名受害者。西班牙主教会议发言人维拉（JoseGabrielVera）说：“我们承认所造成的伤害。我们希望帮助所有受害者……陪伴他们康复。”2021年，西班牙《国家报》（ElPais）报道了1200多起相关指控案件；西班牙政府和教会内部随后启动了多项调查。维拉说：“我们想知道在挑选圣职候选人时出了什么问题，在他们的培训过程中出了什么问题……是什么导致一个决定把自己献给上帝的人，（最终）把自己献给了性虐待。”这份报告汇编了受害者的证词，但并不能证明施虐者有罪或无罪。报告称，有99%以上的被控施暴者为男性，半数是神职人员。由于多数记录在案的案件发生在20世纪60至80年代，受害者称，63%以上的施暴者已经死亡，且大部分是男性。2023年10月27日7:46PM

美国总统拜登签署保护儿童免受网络性虐待和性剥削的报告法案

美国总统拜登签署保护儿童免受网络性虐待和性剥削的报告法案这标志着网站和社交媒体平台首次有法律义务向国家失踪与被剥削儿童中心（NCMEC）的网络热线报告与联邦贩卖、诱骗和引诱儿童相关的犯罪行为。根据新法律，故意忽视报告其网站上儿童性虐待材料的公司将被处以巨额罚款。以用户数量超过1亿的平台为例，首次违规将被处以85万美元的罚款。为了确保执法部门对儿童性剥削的紧急威胁进行认真彻底的调查，法律要求证据的保存时间更长，可长达一年，而不是只有90天。由于人手不足和技术落后，国家未成年人保护委员会在调查每年收到的数百万份儿童性虐待报告时面临挑战。虽然新法律不能完全解决问题，但它允许在商业云计算服务中合法存储数据等，从而有望提高报告评估的效率。参议员布莱克本在一份声明中说："孩子们越来越多地盯着屏幕，而现实情况是，这让更多无辜的孩子面临在线剥削的风险。我很荣幸能与参议员奥索夫和众议员劳雷尔-李一起倡导这一两党解决方案，以保护弱势儿童并追究这些令人发指的罪行的实施者的责任。我也非常感谢全国失踪与被剥削儿童中心坚定不移的合作，使这一方案得以顺利完成。"...PC版：https://www.cnbeta.com.tw/articles/soft/1430035.htm手机版：https://m.cnbeta.com.tw/view/1430035.htm