一种对抗攻击检测方法

专利申请号：CN202110931933.2

公 开 号：CN113627543B

发 明 人：徐思涵 麦隽韵 王志煜 李君龙 李梅 蔡祥睿 

代 理 人：天津创智睿诚知识产权代理有限公司王海滨

代理机构：天津创智睿诚知识产权代理有限公司

专利类型：发明专利

申 请 日：20230822

公 开 日：20210813

专利主分类号：G06F21/55

关 键 词：输入样本 对抗 样本 攻击模式 全局特征 神经网络 样本检测 最终特征 隐含层 被攻击目标 训练分类器 动态分配 攻击检测 模型检测 算法生成 特征融合 攻击 隐藏层 权重 检测 发现 

摘      要：本发明公开了一种对抗攻击检测方法，包括以下步骤：步骤S1，通过多种对抗攻击算法生成对于目标深度神经网络的对抗样本，并与自然输入样本混合作为输入样本；步骤S2，将输入样本输入到目标深度神经网络中提取全局特征和隐含层特征；步骤S3，将输入样本的全局特征和隐含层特征进行特征融合，得到输入样本的最终特征表示；步骤S4，使用输入样本的最终特征表示训练分类器，得到对抗样本检测模型；步骤S5，利用步骤4得到的对抗样本检测模型检测输入数据中是否含有对抗样本。本发明可以为被攻击目标系统的不同隐藏层动态分配不同的权重，不仅能发现单攻击模式下的对抗样本，而且能够不受混合攻击模式影响地检测出每种攻击方法所产生的对抗样本。