人脸深度伪造主动防御技术综述

作     者：瞿左珉 殷琪林 盛紫琦 吴俊彦 张博林 余尚戎 卢伟 Qu Zuomin;Yin Qilin;Sheng Ziqi;Wu Junyan;Zhang Bolin;Yu Shangrong;Lu Wei

作者机构：中山大学计算机学院广州510006 广东省信息安全技术重点实验室广州510006 教育部机器智能与先进计算重点实验室广州510006 

出 版 物：《中国图象图形学报》 (Journal of Image and Graphics)

年 卷 期：2024年第29卷第2期

页      面：318-342页

核心收录：

学科分类：0839[工学-网络空间安全] 08[工学] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(U2001202,62072480) 媒体融合与传播国家重点实验室(中国传媒大学)开放课题(SKLMCC2022KF0**) 

主　　题：人脸深度伪造 人脸深度伪造防御 主动防御 对抗攻击 生成对抗网络(GAN) 深度学习 

摘      要：深度生成模型的飞速发展推动了人脸深度伪造技术的进步,以Deepfake为代表的深度伪造模型也得到了十分广泛的应用。深度伪造技术可以对人脸图像或视频进行有目的的操纵,一方面,这种技术广泛应用于电影特效、娱乐场景中,丰富了人们的娱乐生活,促进了互联网多媒体的传播;另一方面,深度伪造也应用于一些可能造成不良影响的场景,给公民的名誉权、肖像权造成了危害,同时也给国家安全和社会稳定带来了极大的威胁,因此对深度伪造防御技术的研究日益迫切。现有的防御技术主要分为被动检测和主动防御,而被动检测的方式无法消除伪造人脸在广泛传播中造成的影响,难以做到“事前防御,因此主动防御的思想得到了研究人员的广泛关注。然而,目前学术界有关深度伪造防御的综述主要关注基于检测的被动式防御方法,几乎没有以深度伪造主动防御技术为重点的综述。基于此,本文对当前学术界提出的人脸深度伪造主动防御技术进行梳理、总结和讨论。首先阐述了深度伪造主动防御的提出背景和主要思想,并对现有的人脸深度伪造主动防御算法进行汇总和归类,然后对各类主动防御算法的技术原理、性能、优缺点等进行了系统性的总结,同时介绍了研究常用的数据集和评估方法,最后对深度伪造主动防御所面临的技术挑战进行了分析,对其未来的发展方向展开了思考和讨论。