检索结果-内蒙古大学图书馆

控制理论与应用 2022年第5期39卷 867-878页

作者：陈中林杨翠丽乔俊飞北京工业大学信息学部计算智能与智能系统北京市重点实验室智能环保北京实验室北京市人工智能研究院北京100124

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG-LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG-LSTM单元... 详细信息

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG-LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG-LSTM单元结构;其次,基于TG-LSTM结构设计一种网络的前向传播算法,实现输入填补和输出预测同步进行;然后,建立TG-LSTM神经网络的学习算法来对输入填补和输出预测任务整体训练;最后,通过在Mackey-glass基准数据集,月平均气温数据集和污水处理出水氨氮预测中的实验结果表明:与传统方法相比,TG-LSTM神经网络模型能以更高精度对非完整时间序列进行填补和预测.

关键词：数据缺失非完整时间序列长短期记忆神经网络前向传播算法学习算法

来源：评论

学校读者我要写书评

暂无评论

数据驱动的LSTM神经网络结构设计及应用研究

数据驱动的LSTM神经网络结构设计及应用研究

引用

作者：陈中林北京工业大学

学位级别：硕士

长短期记忆（Long short-term memory,LSTM）神经网络能够模拟人脑记忆特性,通过数据驱动建立模型从而解决一些复杂问题。但LSTM神经网络难以根据实际任务确定隐含层规模以及单元内部结构,导致网络结构与实际任务难以有效匹配,增加计算... 详细信息

长短期记忆（Long short-term memory,LSTM）神经网络能够模拟人脑记忆特性,通过数据驱动建立模型从而解决一些复杂问题。但LSTM神经网络难以根据实际任务确定隐含层规模以及单元内部结构,导致网络结构与实际任务难以有效匹配,增加计算及硬件部署成本,降低模型泛化能力。此外,LSTM神经网络依赖于完整数据进行建模,数据缺失将导致网络输入不均且样本过少,从而降低网络性能,限制其应用范围。因此,设计与实际任务数据相匹配的网络结构及算法,对于发展LSTM神经网络的理论并推广其实际应用具有重要意义。论文的主要研究内容和创新点如下:（1）基于HCPSO算法的LSTM神经网络隐含层规模设计针对LSTM神经网络难以根据实际任务数据确定其隐含层规模的问题,提出了一种混合编码粒子群优化（Hybrid Coding Particle Swarm Optimization,HCPSO）算法。首先,提出了一种离散-连续混合编码机制,实现了粒子编码到网络隐含层规模和权值的映射;然后,设计了一种基于离散更新策略（Discrete Update Strategy,DUS）和自适应非线性中度随机搜索策略（Adaptive Non-linear Moderate Random Search Strategy,ANMRSS）的混合更新算法,实现了隐含层规模和权值的动态调整,保证了算法收敛性,平衡了局部和全局搜索能力。通过时间序列预测和非线性动态系统辨识实验证明了所提算法的有效性。（2）基于HCPSO和l正则化的稀疏LSTM神经网络设计针对稠密的LSTM神经网络结构冗余且泛化能力低的问题,设计了一种基于HCPSO算法和l正则化的稀疏LSTM（Sparse LSTM with HCPSO andl,SLSTM-HCPSO-l）神经网络。首先,将权值的结构和数值作为粒子编码,建立了粒子与权值结构及数值的联系;然后,设计了一种包含网络误差与l正则化项的适应度函数,引导粒子的搜索方向;最后,应用HCPSO的DUS和ANMRSS分别调整粒子的离散和连续编码,稀疏了网络结构,提高了网络泛化能力。实验结果表明,SLSTM-HCPSO-l具有稀疏的结构和良好的泛化能力。（3）针对非完整时间序列预测的TG-LSTM神经网络设计针对时间序列中的缺失数据导致LSTM神经网络输入不均及样本过少的问题,提出一种带时间门的LSTM（LSTM with Time Gate,TG-LSTM）神经网络结构及其相关算法。首先,提出了一种TG-LSTM单元结构,实现了网络输入填补和输出预测;然后,根据TG-LSTM单元结构,设计了一种交替前向传播机制,解决了数据缺失导致网络输入不均的问题;最后,根据网络结构和前向传播机制,建立了一种联合学习算法,将填补和预测任务整体训练,实现了填补和预测的权值共享与性能匹配。通过非完整数据集上的实验表明,TG-LSTM神经网络不但可以填补缺失的输入数据,还能提高输出预测的精度。（4）基于TG-LSTM神经网络的地表水环境水质状况在线评价针对地表水环境水质指标缺失以及水环境状况难以在线评价的问题,依托“水体污染控制与治理重大科技专项”的子课题“京津冀区域水环境管理大数据平台开发研究”,设计了一种基于TG-LSTM神经网络的在线评价方法,实现了水质类别和水体营养状态评价。首先,通过地表水环境监测站采集的水质指标数据驱动TG-LSTM神经网络,实现了模型构建和缺失数据填补;其次,通过采集和填补的水质指标数据驱动TG-LSTM神经网络,预测了水质指标;然后,基于水质指标数据,参照相关国家标准评价了水质类别和水体营养状态,得到了实时的水环境评价结果,在真实水环境中的实验证明了所提方法的有效性。最后,设计并开发了“京津冀区域地表水环境水质状况在线评价系统”,采用Python和JAVA分别开发评价算法和Web界面,实现了算法集成与数据可视化。

关键词：长短期记忆神经网络隐含层规模结构稀疏非完整时间序列地表水环境

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：