生成链接树:一种高数据真实性的反事实解释生成方法

作     者：王明 武文芳 王大玲 冯时 张一飞 WANG Ming;WU Wen-fang;WANG Da-ling;FENG Shi;ZHANG Yi-fei

作者机构：东北大学计算机科学与工程学院沈阳110169 

出 版 物：《计算机科学》 (Computer Science)

年 卷 期：2022年第49卷第9期

页      面：33-40页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(62172086 61872074) 

主　　题：可解释性 填充式 反事实解释 数据真实性 

摘      要：超大的数据规模及结构复杂的深度模型在互联网数据的处理与应用方面表现出了优异的性能,但降低了人工智能(Artificial Intelligence, AI)系统的可解释性。反事实解释(Counterfactual Explanations, CE)作为可解释性领域研究中一种特殊的解释方法,受到了很多研究者的关注。反事实解释除了作为解释外,也可以被视为一种生成的数据。从应用角度出发,文中提出了一种生成具有高数据真实性反事实解释的方法,称为生成链接树(Generative Link Tree, GLT),采用分治策略与局部贪心策略,依据训练数据中出现的案例生成反事实解释。文中对反事实解释的生成方法进行了总结并选取了其中热门的数据集来验证GLT方法。此外,提出“数据真实性(Data Fidelity, DF)的指标,用于评估反事实解释作为数据的有效性和潜在应用能力。与基线方法相比,GLT生成的反事实解释数据的真实性明显高于基线模型所生成的反事实解释。