基于改进型生成式对抗网络的EEG-fNIRS多模态信号数据增广研究

作     者：王鹏举 李明爱 WANG Pengju;LI Mingai

作者机构：北京工业大学信息学部北京100124 计算智能与智能系统北京市重点实验室北京100124 教育部数字社区教育工程中心北京100124 

出 版 物：《北京生物医学工程》 (Beijing Biomedical Engineering)

年 卷 期：2024年第43卷第3期

页      面：250-258页

学科分类：0831[工学-生物医学工程（可授工学、理学、医学学位）] 08[工学] 0836[工学-生物工程] 

基　　金：国家自然科学基金(11882003、81471770)资助 

主　　题：脑电图 功能性近红外光成像技术 多模态信号 条件生成式对抗网络 数据增广 

摘      要：目的基于深度学习的脑电图-功能性近红外光谱技术(electroencephalogram-functional near-infrared spectroscopy,EEG-fNIRS)多模态脑机接口在康复工程中具有广泛的应用前景,但存在数据量不足的问题。为此,本文提出一种基于改进条件生成式对抗网络(conditional generative adversarial network,CGAN)的EEG-fNIRS多模态信号数据增广方法,以解决EEG-fNIRS多模态脑机接口与深度学习结合时面临的数据量匮乏的问题。方法首先,对EEG和fNIRS数据进行滤波、归一化和下采样等预处理。然后,针对EEG的非平稳特点,在CGAN生成器和判别器中增加自注意力机制,获得EEG数据增广模型CGAN_(E),加强捕捉和学习时变关键信息的能力。同时,针对fNIRS采样率低、信息量不充分问题,在CGAN生成器和判别器中增加上采样卷积层,获得fNIRS数据增广模型CGAN_(f),加强模型的信息挖掘能力,并将CGAN_(E)和CGAN_(f)的条件信息设置为类标签;进而,利用CGAN_(E)和CGAN_(f)对每导EEG和fNIRS分别进行增广,并将多导EEG扩增数据和多导fNIRS[包括氧合血红蛋白浓度(oxyhemoglobin concentration,HbO)和脱氧血红蛋白浓度(deoxyhemoglobin concentration,HbR)两种]扩增数据串接融合,获得EEG-fNIRS多模态增广数据。最后,对公开的EEG-fNIRS多模态信号数据集TU-Berlin-A前6名受试者数据进行增广实验,并设计一维卷积神经网络分类器评估增广数据的质量。结果基于EEG-fNIRS多模态信号公开数据集TU-Berlin-A前6名受试者的左右手运动想象数据进行实验研究表明,当数据扩增5倍时,本文方法取得94.81%的平均分类准确率。结论CGAN_(E)和CGAN_(f)能够生成接近真实数据分布的EEG和fNIRS信号,验证了对CGAN改进和本文所提EEG-fNIRS多模态数据增广方法的有效性。