基于深度学习的时序数据预测研究与应用

作     者：于春潇 

作者单位：兰州交通大学 

学位级别：硕士

导师姓名：火久元;马生峰

授予年度：2023年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：近邻多点时空数据 组合深度学习 迁移学习 注意力机制 子图划分 

摘      要：随着大数据、人工智能技术的快速发展以及各类移动传感设备及技术的普及,人们获取了海量的区域时空数据,即地理背景下的近邻多点时空数据。针对这些时空数据进行分析以及建模预测研究可以为城市规划、灾害防护、资源管理等社会经济活动提供重要的决策支持基础,从而产生出巨大的经济和社会效益。近些年来,国内外针对近邻多点时序数据的预测模型有多种,但在空间关联、运行效率、预测精度等方面仍存在一定的局限性。目前,近邻多点时序数据预测研究的挑战如下:1.不同节点间的数据样本量差异较大、数据分布可能不同,且特征存在较大异质性,因此无法使用同一个模型实现准确的多点建模;2.该类时空数据具有复杂的空间维度及多元特征,现有模型无法有效捕捉其高维非线性时空耦合特征,因此需要考虑数据多元时空特征的融合;3.对时空数据的预测任务需要极高的时效性及精确性,但其庞大的规模和数据量使得现有模型无法快速训练,因此无法及时得到预测结果。针对这些挑战,本文分别基于迁移学习和图结构分析理论设计组合深度学习模型进行多点时空数据预测,并结合上述两种理论在不同角度的优点,构建更高效的子图迁移时空预测模型。本文的主要工作和贡献总结如下:(1)针对多点时序数据预处理过程中存在的问题,分别提出数据分量分解算法、源域数据选取算法及小样本数据增强算法,为后续模型的训练提供良好的数据基础。(2)构建基于迁移学习的两阶段组合深度学习预测模型对空间近邻多点数据进行预测。该方法将预训练得到的基础模型迁移至所覆盖的多个近邻节点上进行微调训练,这样既可以保留该区域节点上普遍存在的时空特性,又对每个节点的异质性进行有效处理,因此使得整个区域多节点的预测精度表现较优。该方法可解决空间中不同节点间样本量差异较大、数据分布不同的问题。以三峡水库白水河地区滑坡位移预测任务及美国Pe MSD8高速公路交通流预测任务为例,与其它广泛应用的时序预测方法相比,该模型为近邻多点时序数据的预测提供了较好的解决方案。(3)构建基于图结构分析的近邻多点时空预测模型。该模型通过多个并联的Transformer网络对所有节点的时序特性进行编码,然后使用基于注意力机制的图卷积神经网络对节点间的空间耦合特性进行解码分析。该模型可解决节点中存在的多元时空关联问题。以美国加州高速公路数据集Pe MSD4及Pe MSD8交通流预测任务为例,与其它广泛应用的交通流预测方法相比,该模型为图结构时空数据的预测提供了一定的参考价值。(4)构建基于子图迁移的近邻多点时空预测模型。该模型结合子图划分、图结构分析理论、迁移学习等方法极大缩短模型训练时间。首先将复杂全图数据拆分为多个平衡子图,并在源域子图上进行基于图结构分析的基础模型预训练,然后将基础模型迁移至其他子图中进行微调训练。同时,加入子图间“骨干节点注意力机制对子图间节点邻接关系进行分析。最终得到预测结果。以美国Pe MSD8交通流预测任务为例,该方法无论是在训练时间,还是模型精度上,均优于上述其它模型。