ai人脸替换，人脸换脸技术？

很抱歉，我无法根据人民日报客户端的内容进行创作。

未经允许使用他人的人脸信息进行换脸视频可能导致严重后果，不仅会侵犯他人的隐私权，还可能对公共信息安全造成威胁，对社会公共利益造成危害。

换脸，不是想换就换

——透视“AI换脸”侵犯个人信息公益诉讼案

大家对“AI换脸”这一技术应该都不陌生，它通过深度合成技术，只需一张照片，就能让任何人成为热播影视作品中的主角，甚至连表情、神态都能以假乱真。然而，近年来，随着技术门槛的降低和应用场景的增多，“换脸技术”已经不再局限于娱乐范围，甚至成为不法分子赚钱的手段。

今年6月，浙江省杭州市萧山区检察院提起了一起利用“AI换脸”技术侵犯公民个人信息的民事公益诉讼。8月4日，经过杭州互联网法院的审理后，对该案作出了判决，支持检察机关作为公益诉讼起诉人的全部诉讼请求：被告虞某须立即停止侵权行为，删除在社交软件群组中留存的所有涉案个人信息；并在国家级媒体上刊发向社会公众的赔礼道歉声明，以消除影响和进行警示，并支付6万元的侵害社会公共利益的损害赔偿款。这一判决于8月22日正式生效。

“换脸并非随心所欲！我们希望透过处理此案来提醒社会大众，在使用新兴技术时，不能忽视法律的规范和道德伦理的限制。这是所有技术发展应遵循的界限。”杭州市萧山区检察院检委会专职委员章蕾告诉记者。

仅凭几张照片

成为受害者的可能性存在于每个人身上。

虞某现年36岁，当初出于好奇尝试了“换脸”手术，如今他深感后悔。除了面临刑事处罚，他还必须承担相应的民事责任。

在2020年过年前后，虞某第一次接触到“AI换脸”技术时，对它产生了浓厚的兴趣。随后，虞某通过下载相关软件并掌握视频合成技术，开始尝试使用这项技术。然而，他逐渐将注意力转向了商业利用：制作换脸淫秽视频，并在网络社交平台上传播，从中获取关注和牟利。从2021年6月开始，虞某未经允许，利用“AI换脸”软件，将收集到的他人人脸信息与淫秽视频中的人脸信息进行替换，然后在网络社交平台上传播。虞某还在社交平台上提供换脸视频定制服务，并销售相关软件和素材，同时教授使用技巧。

虞某在社交软件群组内开展了涉嫌制作、传播淫秽物品牟利的犯罪活动，通过手机软件可以实现的换脸视频服务，吸引了大量用户。他声称可以让一切遮挡消失，30秒内即可操作，明星、网红、素人的面部都可以替换。他还承诺提供定制换脸视频服务，吸引了众多用户向他咨询定制服务并进行了200余次口令红包的支付，总金额达6万余元。

公安机关在2022年8月发现了虞某违法犯罪的行为，并对其进行了立案侦查。随后，虞某被移送至萧山区检察院审查起诉。今年3月28日，该院对虞某以涉嫌制作、传播淫秽物品牟利罪提起公诉。

章蕾在参与虞某的刑事案件讨论时得知了一些事实，包括虞某传播淫秽物品牟利的行为，以及为他人提供定制换脸视频服务并传授换脸软件的使用方法。此外，虞某还会根据客户提供的视频或照片制作特定的换脸视频，并在网络社交软件上直接销售“AI换脸”软件，教授客户使用软件的方法并提供相关素材。值得注意的是，客户的换脸对象不仅包括公众人物，也包括普通人。

“任何人仅凭几张照片就可能成为受害者。”章蕾指出，滥用“AI换脸”技术进行各种侵犯个人信息的行为近年来并不少见。只要有一张换脸照片或者一段换脸视频，就可能被用来编造新闻、制造热点，或者被用于侮辱诽谤、实施勒索诈骗。“这类行为在网络上传播后，可能会导致伤害程度裂变增加，对被侵害者造成长期、持续且难以弥补的伤害。”

捍卫私益背后的公益是至关重要的，这意味着我们要保护那些在私人利益之下被忽视的公共利益。

擅自使用他人人脸信息，制作换脸视频，侵犯的到底是被害人的私益，还是公共利益？“要看到隐藏在每一个被害人的个人权益的背后，是网络正常的公共秩序，是承载在不特定多数社会主体个人之上的公共利益。”在讨论这一案件时，章蕾表示。

“一键脱衣”事件把女子地铁照片嫁接到淫秽视频中，揭示了“AI换脸”技术的滥用。这种行为不仅仅侵犯了个人的人格权、肖像权、名誉权和隐私权，更是对社会公序良俗的践踏。它对社会的稳定和网络空间的清朗构成了挑战。

虞某利用“AI换脸”技术在互联网上非法获取了大量人脸信息，并制作淫秽视频在超过2000人的网络社交软件群组中传播，严重违反了法律法规和社会公德，对公共信息安全造成了侵害，破坏了社会公共秩序。另外，他还明知他人可能将“AI换脸”软件用于不正当目的的情况下，向他人销售“AI换脸”软件、提供换脸素材并传授使用教程，扩大了侵犯公民个人信息的社会危险性。鉴于此，除了应当依法追究其刑事责任外，提起民事公益诉讼对这类侵犯公民个人信息的行为予以规制是必要的。

经过讨论，大家一致认为有必要提起公益诉讼。接下来，该机构向杭州市检察院进行了汇报，并得到了支持。

杭州市检察院第八检察部主任毕克强调了个人信息泄露所带来的危害，包括推销电话、未经同意的数据收集和网络诈骗等问题。他指出，一旦个人信息被过度收集、泄露和非法利用，所造成的危害难以估量。同时，毕克认为人脸信息作为一种高度可识别和强关联性的敏感个人信息，更应当受到法律的重点保护。

虞某因“AI换脸”侵犯个人信息一事，萧山区检察院于4月14日决定立案进行公益诉讼。经过公告程序后，未有适格主体提起诉讼。随后，该院于6月9日依法对虞某提起民事公益诉讼。6月12日，杭州互联网法院正式受理了此案。

技术本无善恶

但技术的使用需要规制

该案在杭州互联网法院于7月28日进行了一审公开审理。

在庭审中，萧山区检察院作为公益诉讼的起诉人派出了章蕾出庭。检察机关结合案件事实、危害后果、法律责任等对被告虞某进行了法庭教育。虞某通过其诉讼代理人表示真诚悔过，并表达了履行赔偿的意愿。

在法庭上，章蕾发表了一段令人印象深刻的言论：“技术本身并不具有有害性，但技术的中立并不意味着价值的中立，尤其是在技术的开发和应用过程中。更重要的是，技术中立也并不意味着参与者不应当受到法律规范和道德伦理的约束。”

法院审理认定，虞某滥用人脸深度合成技术损害了社会公共利益，依法判决其承担民事责任，包括停止侵害、赔偿损失和赔礼道歉。虞某已服从法院判决，判决已生效，并履行了道歉和赔偿义务。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

对于深度合成技术的规制，法官肖芄强调了从参与者入手的管理路径，包括发明者、应用者、传播者等方面的规制，以确保技术的合理使用，避免给个人、社会和国家带来风险。此外，他还提到需要引导技术开发和应用者自觉遵守法律规定和科技伦理道德，并培育积极健康、向上向善的研发和应用环境，以保护和鼓励新兴智能技术的有益探索。

国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》于今年1月正式实施。新规划定了深度合成服务的“底线”和“红线”，强调禁止利用深度合成服务进行法律和行政法规禁止的活动，并要求深度合成服务提供者承担好信息安全主体责任。

国家网信办联合多部门于8月15日正式实施了《生成式人工智能服务管理暂行办法》，该暂行办法对生成式人工智能产业做出了详细规定。针对此前的制度不断完善和技术迭代加速的情况，审判长、杭州互联网法院常务副院长朱敏明表示，监管部门和司法机关共同面对着克服法律对技术规制滞后性以及应对技术发展中新现象、新问题的新难题。

在处理这个案件的过程中，我们深刻体会到技术迭代带来的问题，即侵权易、维权难的矛盾更加突出。章蕾指出，在过去的司法实践中，很少有公民个人提起保护个人信息的诉讼，其中高昂的维权成本、专业性要求以及举证困难是主要原因。以这个案件为例，要证明人脸信息侵权的存在，可能需要举证信息处理者、处理方式、信息获取、信息处理加工是否违法等多个方面的事实。普通公众几乎无法凭自身力量完成初步举证，即使司法机关在调查取证的过程中也需要耗费大量时间和精力。面对这种情况，许多公民往往无奈地放弃诉讼维权，这间接导致侵权行为肆意侵害公共利益，使技术违法行为一直处于法律底线之外。

据报道，今年6月，杭州互联网法院与杭州市余杭区检察院签署了《关于推进互联网检察公益诉讼案件办理的协作办法（试行）》，这一举措得到了最高检第八检察厅的直接指导和推动。该协议旨在通过探索互联网检察公益诉讼新型办案模式，共同开辟一条网络空间司法协同治理的新途径。

各方声音

加强推动互联网检察公益诉讼。

全国人大代表

浙江省检察公益诉讼形象大使负责向公众宣传和推广检察机关开展的公益诉讼工作，增强社会对公益诉讼工作的认可和支持。

浙江省永康市阳光爱心义工协会是一个致力于为社区提供爱心服务的志愿者组织。他们积极参与社区公益事业，开展关爱留守儿童、慰问孤寡老人、义务助人等活动，为社会传递温暖和爱心。

名誉会长 黄美媚

建议着重加强检察机关在代表公共利益方面的角色，特别是针对那些关乎民生和普通群众切身利益的问题。检察机关需要立足于自身的职能，依法积极地行使职权，不受私利的限制，更好地解决司法实践中的问题，从而提升公众对国家法治、个人安全和社会治理的信心。当前，互联网检察公益诉讼已成为建设依法治网体系的重要组成部分，推动在互联网相关法律中增加检察公益诉讼条款将是一个正确的举措。

促进“善治”与“善智”的双赢是我们共同努力的目标。通过不断完善治理体系，提高智慧水平，我们能够实现社会的稳定与进步。

浙江理工大学数据法治研究院的副院长

郭兵是数据法学创新团队的负责人。

我一直关注人脸信息安全，也关注着该案的办理进展。人脸信息的随意收集、存储、使用可能给个人带来严重的安全风险，进而造成网络空间的失序，任何个人都可能成为人脸信息滥用的受害者，这对网络秩序具有极大的破坏力。随着人脸识别技术的广泛应用，类似“AI换脸”的技术应用层出不穷，不法分子可以通过此类技术实施违法犯罪活动，对公众的人身、财产安全具有极大危害。为了加强公民个人信息保护，要引导和规范新技术应用，加强源头治理，检察履职推动实现“善治”与“善智”的双赢，需要各方合力共治。

加强对“AI换脸”系统的治理是非常重要的。这种系统可能会被滥用，导致信息安全和隐私受到威胁。因此，需要加强监管和技术研发，以防止恶意使用和滥用AI换脸技术。同时，还需要加强对个人信息和肖像权的保护，确保人们不会成为未经授权的换脸图片和视频的受害者。

最高人民检察院第八检察厅副厅长是中国法律系统中的一位高级官员，负责领导和协调相关检察工作。

邱景辉

杭州检察机关，与公安机关、审判机关一道，针对利用生成式人工智能技术生成淫秽色情、虚假有害信息等违法行为展开了协同行动。他们除了依法对犯罪行为进行刑事追诉外，还通过民事公益诉讼来体现司法价值引领。此举和今年8月15日实施的《生成式人工智能服务管理暂行办法》相呼应，旨在彰显国家为促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益而加大执法司法力度的信心和决心。

针对利用生成式人工智能技术提供虚假信息和欺诈行为，检察机关提出了一系列应对措施。他们建议加强治理即时通讯、网络直播、网络社交、电商平台、金融支付等重点App，督促服务提供者依法进行查纠整改以及严格履行法律责任。同时，还呼吁加强对人脸识别验证系统和深度合成技术的监管，并强化对技术支持者的监督，以深化对“AI换脸”问题的治理。