人工智能辅助辨别虚假信息中的用户信任与感知研究

作     者：蒋昀霖 夏志杰 谢妍曦 Jiang Yunlin;Xia Zhijie;Xie Yanxi

作者机构：上海工程技术大学管理学院上海201620 

出 版 物：《情报杂志》 (Journal of Intelligence)

年 卷 期：2025年第44卷第1期

页      面：164-171页

核心收录：

学科分类：050302[文学-传播学] 05[文学] 0503[文学-新闻传播学] 

基　　金：国家社会科学基金一般项目“大数据支持下网络谣言智慧治理机制及运行策略研究”(编号:21BGL243) 上海市哲学社会科学规划一般项目“大数据时代伪健康信息传播特征及多主体协同干预研究”(编号:2020BGL005) 上海市哲学社会科学规划青年项目“突发事件中社交网络信息传播特征及干预策略研究”(编号:2021EGL004)研究成果 

主　　题：信息传播 虚假信息 人工智能 人机交互 交互模型 用户感知 知识失衡 

摘      要：[研究目的]对虚假信息辨别中用户在面对AI辅助决策时的信任与感知机制展开研究,旨在缓解虚假信息辨别中的知识失衡问题并为设计更加智能、用户友好的AI辅助决策系统提供科学依据。[研究方法]以健康类虚假信息为例,采用控制实验法开展672次人机交互实验,利用非参数检验分析在AI辅助决策中用户参与度对用户信任与感知的影响。[研究结果/结论]在具有显著知识失衡的虚假信息任务中,用户参与度越高,用户对AI建议的接受度、信任、贡献与协作的感知会提高,但过度参与会让用户产生依赖与过度信任。因此,人机交互中的用户参与能够有效缓解知识失衡,但仍需探究合理的交互方式,以优化AI在虚假信息治理中的应用策略。