男子用AI换脸技术侵害公共信息安全 杭州检方提起民事公益诉讼

男子用AI换脸技术侵害公共信息安全杭州检方提起民事公益诉讼澎湃新闻6月20日从杭州萧山区检察院获悉,除了此前以涉嫌制作、传播淫秽物品牟利罪对被告人虞某某提起公诉外,该院在审查时发现,被告人不仅涉嫌刑事犯罪,同时还存在损害社会公共利益的行为。对此,该院正式依法向杭州互联网法院提起民事公益诉讼。据介绍,2020年,虞某某从互联网接触到“AI换脸”软件及技术,并通过学习掌握了该软件的使用方法。2021年开始,虞某某以牟利为目的,在未取得被编辑人同意的情况下,利用上述“AI换脸”软件,将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成,制作生成虚假的换脸淫秽视频,在网络社交软件上进行传播并获利。截至案发,公安机关共在虞某某所组建的公开群内查获淫秽视频1200余部、图片1600余张。2022年11月30日,公安机关以涉嫌传播淫秽物品牟利罪将虞某某移送萧山区检察院审查起诉。该院在审查时发现,虞某某不仅涉嫌刑事犯罪(目前已对虞某某以制作、传播淫秽物品牟利罪提起公诉),同时还存在损害社会公共利益的行为。经查,虞某某在使用“AI换脸”技术制作淫秽视频的同时,还为他人提供换脸视频定制服务,即根据客户提供的视频或照片,制作换脸视频。此外,虞某某还在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。检察机关认为,人脸信息作为敏感个人信息,对于保障公民人身财产安全具有重要意义,应当依法受到严格保护。本案中,虞某某从互联网公共空间非法获取众多人脸信息,利用“AI换脸”等深度合成技术非法处理、制作淫秽视频后,在超过2000人的网络社交软件群组传播,同时提供换脸视频定制服务,使不特定群体成为潜在的被侵害对象,违反了法律法规和社会公德,混淆社会公众认知,污染社会风气,侵害了承载在不特定多数社会主体个人信息之上的公共信息安全,破坏社会公共秩序,构成对公共信息安全领域的社会公共利益侵害;除此之外,虞某某在明知他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下,仍向他人销售“AI换脸”软件、提供换脸素材并传授使用教程,使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。虞某某的行为违反了《中华人民共和国民法典》《个人信息保护法》等相关法律规定,应当承担相应的民事责任。鉴于此,在依法履行诉前公告程序、无适格主体提起诉讼请求后,萧山区检察院于6月9日向杭州互联网法院提起民事公益诉讼,请求判令被告停止侵权,删除持有的所有涉案个人信息,不得再违法使用深度合成技术侵害社会公益;支付公益损害赔偿金人民币60000元(专门用于个人信息保护、人脸深度合成技术应用的治理等公益事项);在国家级媒体上向社会公众公开赔礼道歉。“人脸信息与个人的隐私权、名誉权、财产权等多种权益关系紧密,属于敏感个人信息,从司法实践来看,人脸信息的不正当使用将对社会公众的人身和财产安全带来重大风险,一旦造成侵害往往是长久的、持续的、难以弥补的。”承办该案的检察官说,近年来,利用“AI换脸”技术制作换脸视频,绕过人脸识别系统监管从而实施诈骗、盗窃等犯罪的情形时有发生。可以说,“AI换脸”技术在灰色领域甚至违法犯罪领域的滥用,给社会公众带来了极大危害。“我们希望通过该案的办理,能够进一步震慑犯罪分子,也提醒广大群众,在使用新兴技术时,不能忘记法律的规制、道德伦理的约束,这是所有技术发展应有的边界。”...PC版:https://www.cnbeta.com.tw/articles/soft/1366429.htm手机版:https://m.cnbeta.com.tw/view/1366429.htm

相关推荐

封面图片

国风博主被换脸制作成付费模板 北京市首例“AI”软件侵权案宣判

国风博主被换脸制作成付费模板北京市首例“AI换脸”软件侵权案宣判据介绍,两案原告廖某、吴某均系国风短视频模特,在全网拥有众多粉丝,被告是一款“换脸”APP的运营者。在未经其授权同意的情况下,被告使用原告的出镜视频制作换脸模板,并上传至涉案换脸APP中,提供给用户付费使用借此牟利,原告认为其行为侵害了原告的肖像权。同时,被告未经原告同意擅自上传和使用了具有原告肖像信息的视频,这一行为系被告非法获取原告人脸信息并篡改,将原告的人脸通过AI技术手段抠除并替换成第三方的脸,再将技术处理后的视频用作付费模板供涉案APP的用户使用并以此获利,侵害了原告的个人信息权益。原告据此要求被告赔礼道歉,并赔偿精神损失和经济损失。经审理,法院认为被告不构成对原告肖像权的侵害,但其行为构成对原告个人信息权益的侵犯。法院判决被告向原告赔礼道歉,赔偿精神损失及经济损失。目前案件尚在上诉期,一审判决未生效。法官表示,本案中,被告本质上利用了原告的短视频,该行为包括了利用原告部分人脸信息用于新上传照片的融合,以及利用该视频中的妆容、发型、服饰等整体造型及灯光、镜头切换等因素形成模板视频。换言之,被告获利的主要因素是原告涉案视频中的劳动投入。被告若未经相关权利人同意使用上述要素,对他人的劳动投入“搭便车”,相关权利人可以基于劳动创造投入、竞争性利益等其他请求权基础维护合法权益。...PC版:https://www.cnbeta.com.tw/articles/soft/1435540.htm手机版:https://m.cnbeta.com.tw/view/1435540.htm

封面图片

海南三亚市城郊人民检察院18日就罗昌平案向城郊法院提起公诉和刑事附带民事公益诉讼。

海南三亚市城郊人民检察院18日就向城郊法院提起公诉和刑事附带民事公益诉讼。检方指控:被告人以侮辱方式侵害英雄烈士名誉、荣誉,损害社会公共利益,情节严重,依法应当以侵害英雄烈士名誉、荣誉罪追究其刑事责任,并请求判令承担相应民事责任。被告人自愿认罪认罚。检方说,在网络上公然侮辱、诋毁英雄烈士的言行是对社会主义核心价值观和爱国主义精神的公然反对和践踏,检察机关将全面履行刑事公诉和公益诉讼检察职能,加强对英雄烈士名誉、荣誉的综合保护。()

封面图片

【三部门发布“深度合成”技术新规,为元宇宙、人脸合成等公司划红线】

【三部门发布“深度合成”技术新规,为元宇宙、人脸合成等公司划红线】12月11日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。深度合成技术涵盖了内容合成、人脸合成、语音合成以及虚拟人全身合成等技术类型,AI作画、AI创作、AI换脸以及虚拟人制作等,都属于深度合成技术支持下的应用。《规定》要求,深度合成服务者需要采取技术或者人工方式对输入数据和合成结果进行审核,管理深度合成内容,并建立辟谣机制,并且建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度。

封面图片

北京首例 “AI 换脸” 软件侵权案宣判

北京首例“AI换脸”软件侵权案宣判两名短视频模特发现,其出镜的多个短视频在未经授权情况下被用于制作换脸模板,供用户付费使用。北京互联网法院昨天一审开庭宣判本市首例“AI换脸”软件侵权案件,认定涉案行为虽不构成对两案原告肖像权的侵犯,但侵害了两案原告的个人信息权益。被告公司最终被判赔礼道歉,并赔偿原告廖女士、吴女士精神损失各500元,赔偿廖女士财产损失1500元、吴女士经济损失1000元。(北京日报)

封面图片

【公安部:严打行业内鬼泄露个人信息,紧盯ChatGPT、区块链等新技术】

【公安部:严打行业内鬼泄露个人信息,紧盯ChatGPT、区块链等新技术】2023年08月10日10点57分老不正经报道,公安部网络安全保卫局政委孙劲峰8月10日在新闻发布会上表示,针对侵犯公民个人信息违法犯罪行为,公安机关锚定行业内部泄露源头,重拳打击行业“内鬼”,2020年以来共抓获电信运营商、医院、保险公司、房地产、物业、快递公司等行业“内鬼”2300余名;锚定买卖公民个人信息的重点网络平台,抓获了一批数据中间商和物料供应商;紧盯ChatGPT、云计算、区块链、“AI换脸”等新技术、新应用、新业态,边研究边打击,侦破一批利用人工智能技术侵犯公民个人信息的新型案件;循线深挖下游犯罪线索,连带破获大量电信诈骗、套路贷、网络盗窃、网络洗钱等违法犯罪案件。

封面图片

中国警方破获79起AI换脸诈骗案 抓获515名嫌疑人

中国警方破获79起AI换脸诈骗案抓获515名嫌疑人中国警方针对“AI换脸”欺诈问题发起专项行动,侦破相关案件79起,抓获犯罪嫌疑人515名。综合中新社、中国日报报道,中国公安部星期四(8月10日)召开发布会,通报全国公安机关打击整治侵犯公民个人信息违法犯罪行为的举措成效,其中包括上述“AI换脸”诈骗类案件。新华社下属的《瞭望》新闻周刊7月2日曾报道,中国出现好几起利用“AI换脸”的诈骗案件,甚至出现涉政苗头,有不法分子利用人工智能“深度伪造”冒充领导干部行骗。业内人士称,只要有足够的图像、音频素材,不法分子就可以通过人工智能“换脸”软件、合成声音软件伪造虚拟形象,实施诈骗。中国公安部网络安全保卫局副局长李彤星期四在发布会上说,犯罪分子用于实施“AI换脸”的物料主要为照片,特别是身份证照片,同时结合人员姓名、身份证号来突破人脸识别验证系统。公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP,及时发现人脸识别验证系统存在的风险隐患,通报运营主体升级安全保护措施和人脸识别算法。李彤说,警方依托“净网”专项行动,严打泄露身份证照片等图像信息的犯罪源头,破获“AI换脸”案件79起,抓获犯罪嫌疑人515名,有效遏制了该类犯罪势头。除此之外,针对快递信息泄露引发电信诈骗的问题,发布会上提到,公安部会同中央网信办、国家邮政局联合开展为期六个月的邮政快递领域个人信息泄露治理专项行动,共侦破窃取、贩卖快递信息案件206起,抓获犯罪嫌疑人844名,其中快递公司内部人员240名。另外,针对装修、贷款等骚扰电话的问题,公安机关联合工商部门开展专项整治,惩处了一批非法买卖公民个人信息的金融公司、装修公司、物业公司和房地产公司,循线打掉多个电话推广犯罪团伙。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人