基于模型解释的PE文件对抗性恶意代码检测

作     者：田志成 张伟哲 乔延臣 刘洋 TIAN Zhi-Cheng;ZHANG Wei-Zhe;QIAO Yan-Chen;LIU Yang

作者机构：哈尔滨工业大学(深圳)计算机科学与技术学院广东深圳518055 鹏城实验室广东深圳518055 

出 版 物：《软件学报》 (Journal of Software)

年 卷 期：2023年第34卷第4期

页      面：1926-1943页

核心收录：

学科分类：0839[工学-网络空间安全] 08[工学] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：广东省重点领域研发计划(2019B010136001) 深圳市基础研究专项资金(JCYJ20190806143418198) 

主　　题：对抗样本 恶意代码检测 模型解释 异常检测 深度学习 

摘      要：深度学习已经逐渐应用于恶意代码检测并取得了不错的效果.然而,最近的研究表明:深度学习模型自身存在不安全因素,容易遭受对抗样本攻击.在不改变恶意代码原有功能的前提下,攻击者通过对恶意代码做少量修改,可以误导恶意代码检测器做出错误的决策,造成恶意代码的漏报.为防御对抗样本攻击,已有的研究工作中最常用的方法是对抗训练.然而对抗训练方法需要生成大量对抗样本加入训练集中重新训练模型,效率较低,并且防御效果受限于训练中所使用的对抗样本生成方法.为此,提出一种PE文件格式恶意代码对抗样本检测方法,针对在程序功能无关区域添加修改的一类对抗样本攻击,利用模型解释技术提取端到端恶意代码检测模型的决策依据作为特征,进而通过异常检测方法准确识别对抗样本.该方法作为恶意代码检测模型的附加模块,不需要对原有模型做修改,相较于对抗训练等其他防御方法效率更高,且具有更强的泛化能力,能够防御多种对抗样本攻击.在真实的恶意代码数据集上进行了实验,实验结果表明,该方法能够有效防御针对端到端PE文件恶意代码检测模型的对抗样本攻击.