检索结果-内蒙古大学图书馆

计算机工程与应用 2019年第1期55卷 128-134页

作者：周健田萱崔晓晖北京林业大学信息学院北京100083

基于循环神经网络和注意力机制的sequence-to-sequence模型神经网络方法在信息抽取和自动摘要生成方面发挥了重要作用。然而,该方法不能充分利用文本的语言特征信息,且生成结果中存在未登录词问题,从而影响文本摘要的准确性和可读性。为... 详细信息

基于循环神经网络和注意力机制的sequence-to-sequence模型神经网络方法在信息抽取和自动摘要生成方面发挥了重要作用。然而,该方法不能充分利用文本的语言特征信息,且生成结果中存在未登录词问题,从而影响文本摘要的准确性和可读性。为此,利用文本语言特征改善输入的特性,同时引入拷贝机制缓解摘要生成过程未登录词问题。在此基础上,提出基于sequence-to-sequence模型的新方法 Copy-Generator模型,以提升文本摘要生成效果。采用中文摘要数据集LCSTS为数据源进行实验,结果表明所提方法能够有效地提高生成摘要的准确率,可应用于自动文本摘要提取任务。

关键词：文本摘要 sequence-to-sequence模型语言特征拷贝机制 Copy-Generator模型

来源：评论

学校读者我要写书评

暂无评论

基于语义对齐的生成式文本摘要研究

引用

北京大学学报（自然科学版） 2021年第1期57卷 1-6页

作者：吴世鑫黄德根李玖一大连理工大学计算机学院大连116023

针对当前生成式文本摘要模型在解码时对摘要整体语义信息利用不充分的问题,提出一种基于语义对齐的神经网络文本摘要方法。该方法以带注意力、Pointer机制和Coverage机制的sequence-to-sequence模型为基础,在编码器与解码器之间加入语... 详细信息

针对当前生成式文本摘要模型在解码时对摘要整体语义信息利用不充分的问题,提出一种基于语义对齐的神经网络文本摘要方法。该方法以带注意力、Pointer机制和Coverage机制的sequence-to-sequence模型为基础,在编码器与解码器之间加入语义对齐网络,实现文本到摘要的语义信息对齐;将获得的摘要整体语义信息与解码器的词汇预测上下文向量进行拼接,使解码器在预测当前词汇时不仅利用已预测词汇序列的部分语义,而且考虑拟预测摘要的整体语义。在中文新闻语料LCSTS上的实验表明,该模型能够有效地提高文本摘要的质量,在字粒度上的实验显示,加入语义对齐机制可以使Rouge_L值提高5.4个百分点。

关键词：生成式文本摘要 sequence-to-sequence模型语义对齐网络

来源：评论

学校读者我要写书评

暂无评论

地图空间形状认知的自编码器深度学习方法

引用

测绘学报 2021年第6期50卷 757-765页

作者：晏雄锋艾廷华杨敏郑建滨同济大学测绘与地理信息学院上海200092 武汉大学资源与环境科学学院湖北武汉430079

形状是地理空间要素的重要特征,是人们建立空间概念、形成空间认知的重要依据。本文利用深度学习的特征挖掘能力引入自编码学习方法,对二维地图空间中形状边界上多组邻域尺寸下的多个特征进行集成和整合,为空间形状认知的机理和形式化... 详细信息

形状是地理空间要素的重要特征,是人们建立空间概念、形成空间认知的重要依据。本文利用深度学习的特征挖掘能力引入自编码学习方法,对二维地图空间中形状边界上多组邻域尺寸下的多个特征进行集成和整合,为空间形状认知的机理和形式化提供支撑。本文以建筑物数据为例,将建筑物形状边界转换为序列数据,并提取其描述特征;随后结合sequence-to-sequence自编码学习模型,对无标签的建筑面要素数据进行学习训练,形成形状认知编码。试验表明,本文方法能够产生符合形状认知、具有相似度计算意义的形状编码,具备对不同建筑物形状的区分能力;同时,在形状检索和匹配等应用场景中,该形状编码能有效地表示建筑物的全局和局部特征,与视觉认知结果一致。

关键词：空间认知形状编码深度学习自编码器 sequence-to-sequence模型

来源：评论

学校读者我要写书评

暂无评论

一种基于ERNIE的军事文本实体关系抽取模型

引用

信息技术 2021年第2期45卷 38-43页

作者：郑杜福黄蔚任祥辉华北计算技术研究所北京100083

针对军事文本实体关系抽取过程中存在的“一句对应多个三元组”,“一个主语对应多个客体”等问题提出一种基于ERNIE的军事文本三元组抽取模型,在编码层引入ERNIE模型获取每个词的编码序列,参考seq-to-seq解码器的建模方法和BIO序列标注... 详细信息

针对军事文本实体关系抽取过程中存在的“一句对应多个三元组”,“一个主语对应多个客体”等问题提出一种基于ERNIE的军事文本三元组抽取模型,在编码层引入ERNIE模型获取每个词的编码序列,参考seq-to-seq解码器的建模方法和BIO序列标注,采用先预测主体,再传入主体标注序列预测客体和二者之间关系的方法实现三元组的抽取。在预测层使用sigmoid实现多主体、多客体甚至多关系的提取。实验结果证明,人工标注的军事新闻数据集上,该模型的抽取效果明显优于基于循环神经网络的流水线抽取模型和基于BERT的联合实体关系抽取模型,F1值达到80.04%。

关键词：关系抽取 sequence-to-sequence模型 ERNIE模型序列标注

来源：评论

学校读者我要写书评

暂无评论

基于LSTM的驾驶员换道决策与执行预测研究

基于LSTM的驾驶员换道决策与执行预测研究

引用

作者：王皓昕北京工业大学

学位级别：硕士

面对复杂的道路交通状况，智能车辆交通事故的频繁报道，在一定程度上制约了智能车辆的未来发展。车道变换是智能车辆屡屡发生事故的关键环节。因此，了解专业驾驶员的换道过程、借鉴学习驾驶员的换道决策与换道执行过程，对于保证智能... 详细信息

面对复杂的道路交通状况，智能车辆交通事故的频繁报道，在一定程度上制约了智能车辆的未来发展。车道变换是智能车辆屡屡发生事故的关键环节。因此，了解专业驾驶员的换道过程、借鉴学习驾驶员的换道决策与换道执行过程，对于保证智能车辆换道安全，提升车辆智能化水平具有重大意义。针对传统换道决策模型难以体现多步决策情况、换道执行过程预测模型缺乏与周围环境的交互等问题，分别构建了多数据源下驾驶员换道决策模型与执行预测模型。主要研究内容如下:　　首先，利用驾驶模拟器与眼动仪构建了高速公路实验环境，招募40名驾驶员，围绕自由换道行为，进行了驾驶模拟实验，采集驾驶员换道行为数据，并对获取的换道行为数据进行了提取、对齐、零均值归一化等预处理操作。　　其次，考虑到驾驶员在换道决策过程中存在着一步决策与多步决策情况，分别基于时刻型与时序型数据构建了换道决策模型。　　针对时刻型数据，提出了随机森林下的驾驶员换道决策模型。基于特征重要性算法对换道决策特征进行了评估并提出了基于随机森林的换道决策模型，采用准确率、宏平均精确率、宏平均召回率及宏平均F1值等指标与LDA、SVM、Adaboost等模型进行了对比。结果显示，随机森林的表现优于上述三类模型。　　针对时序型数据，提出了加权指数损失函数下的LSTM换道决策模型。对比了不同损失函数下模型性能、不同数据源独立及同步训练下的模型性能、基于时刻型数据与时序型数据下的模型性能。结果表明，LSTM换道决策模型与随机森林换道决策模型表现效果相近。此外，LSTM换道决策模型能够比随机森林换道决策模型提前做出换道决策，预留更多的反应时间，对于未来智能车辆换道决策研究具有积极意义。　　最后，基于“编码器-解码器”架构，提出了基于Seq2Seq的换道执行过程预测模型并对其进行了评估。预测模型的均方误差(MSE)、平均绝对值误差(MAE)以及平均绝对值百分比误差(MAPE)分别为0.128、0.351以及0.589，模型预测换道执行过程的效果较好。

关键词：驾驶行为驾驶员车辆换道模型随机森林长短时记忆网络 sequence-to-sequence模型

来源：评论

学校读者我要写书评

暂无评论

一种基于BERT的自动文本摘要模型构建方法

引用

计算机与现代化 2020年第1期 63-68页

作者：岳一峰黄蔚任祥辉华北计算技术研究所

针对传统词向量在自动文本摘要过程中因无法对多义词进行有效表征而降低文本摘要准确度和可读性的问题,提出一种基于BERT(Bidirectional Encoder Representations from Transformers)的自动文本摘要模型构建方法。该方法引入BERT预训练... 详细信息

针对传统词向量在自动文本摘要过程中因无法对多义词进行有效表征而降低文本摘要准确度和可读性的问题,提出一种基于BERT(Bidirectional Encoder Representations from Transformers)的自动文本摘要模型构建方法。该方法引入BERT预训练语言模型用于增强词向量的语义表示,将生成的词向量输入Seq2Seq模型中进行训练并形成自动文本摘要模型,实现对文本摘要的快速生成。实验结果表明,该模型在Gigaword数据集上能有效地提高生成摘要的准确率和可读性,可用于文本摘要自动生成任务。

关键词：文本摘要 BERT模型注意力机制 sequence-to-sequence模型

来源：评论

学校读者我要写书评

暂无评论

基于Seq2Seq模型的俄汉军事语音翻译关键问题研究

基于Seq2Seq模型的俄汉军事语音翻译关键问题研究

引用

作者：杨政战略支援部队信息工程大学

学位级别：硕士

语音翻译技术是促进人类社会交流、推动人类文明进步的重要助推器。随着语音处理和机器翻译等理论及技术的扎实推进,以及计算机科学不断深化发展带来算力和存储能力的进一步提升,英法、英汉等受用人群广泛的语音翻译系统相继达到商用化... 详细信息

语音翻译技术是促进人类社会交流、推动人类文明进步的重要助推器。随着语音处理和机器翻译等理论及技术的扎实推进,以及计算机科学不断深化发展带来算力和存储能力的进一步提升,英法、英汉等受用人群广泛的语音翻译系统相继达到商用化程度。但语音翻译系统的研制囿于语料资源限制,双语语言研究匮乏等因素,语音翻译在部分语言上的实验和应用仍处于起步阶段。除此之外,现有研究多采用以级联式语音翻译系统为基础,对其中的重点问题各个击破的方法,较少采用不借助中间文本表示的直接语音翻译方法,带来研究内容繁琐、翻译模型庞杂、翻译时延较长等问题。虽然俄语和汉语作为世界使用人数排名第一和第六的语言,语音翻译应用前景广阔,但俄汉语音翻译起步较晚,双语对齐的语音语料资源建设不够完善,目前尚处于实验阶段。在此研究背景下,本研究以俄汉军事语音翻译需求为牵引,在分析对比现有语音翻译技术基础上,针对俄语和汉语语音发音特点及差异,采用端到端的语音翻译模型构建方法,设计并实现俄汉军事语言翻译系统。本文主要工作以及取得的研究成果如下:(1)根据俄语和汉语语音发音特点及差异性特征,结合语谱图和梅尔倒谱频率系数进行语音特征表示的优缺点,采用Mel谱图作为语音翻译系统的输入输出。Mel谱图与语谱图相比能在占用更少存储空间的基础上更清晰地表达语音频率特性。(2)Mel谱图输出后通过逆梅尔滤波器组,经过改进的Griffin-Lim算法拟合语音信号相位,最后通过去加重提升信噪比,实现从Mel谱图到语音波形的转化。实验证明该改进的声码器设计具有更好的收敛速度。(3)结合俄汉语音发音特点和双向长短时记忆网络特性,提出LSTM-BLSTM的模型架构。将俄语Mel谱图作为输入,编码成固定维度向量,解码为Mel谱图输出,实现语音翻译过程。并通过改进注意力机制和损失函数选择,优化了LSTM-BLSTM模型的翻译效果。(4)采集49小时军事领域俄汉双语语音语料,设计构建俄汉语音双语平行语料库。以sequence-to-sequence模型为基础设计并实现俄汉军事语音翻译原型系统,设计交互式界面。在语料库和原型系统设计完成基础上,对俄汉语音翻译效果进行实验。实验结果表明,虽然该系统翻译准确度较传统的级联式语音翻译系统仍有不足,但该模型具有翻译速度更快、翻译语音质量良好、短句翻译效果较好等优点。

关键词：俄汉语音翻译 Mel谱图 Griffin-Lim算法双向长短期记忆网络 sequence-to-sequence模型

来源：评论

学校读者我要写书评

暂无评论

中文新闻文档自动文摘关键技术研究

中文新闻文档自动文摘关键技术研究

引用

作者：李晨斌杭州师范大学

学位级别：硕士

随着互联网的飞快发展,海量的新闻信息充斥着人们的各个方面,人们因此受到了信息过载的困扰,如何将大量而又冗长的新闻信息简明扼要地呈现成为迫切待解决的问题之一。自动文摘技术是解决上述问题的一种核心手段,它能够帮助人们概括新闻... 详细信息

随着互联网的飞快发展,海量的新闻信息充斥着人们的各个方面,人们因此受到了信息过载的困扰,如何将大量而又冗长的新闻信息简明扼要地呈现成为迫切待解决的问题之一。自动文摘技术是解决上述问题的一种核心手段,它能够帮助人们概括新闻文本冗长的内容,并能够快速并准确地获取重要信息,从而提升人们阅读新闻的速度,有效地减少了浏览信息的精力。本文对新闻单文档和多文档自动摘要技术进行了深入研究,主要包含以下工作:(1)针对中文新闻单文档自动文摘任务,本文对文本词语的表示进行了优化。在数据处理的过程中,对Word Embedding融合了额外的特征,分别加入了词语的词性和TF-IDF值,使每个词语的向量表示中具有了多个维度。该方法可充分利用文本的语言特征信息,以提升生成新闻摘要的连贯性。(2)提出基于注意力机制和改进的sequence-to-sequence的模型来进行中文新闻单文档自动文摘任务。其中,Encoder采用双向长短时记忆网络和Decoder采用长短时记忆网络改进的模型结构,同时加入Decoder/Pointer机制来解决出现未登录词的问题。经实验表明,本文实验模型在News2016zh数据集上表现得优于其他几组对比实验模型,能够解决传统循环神经网络导致的梯度爆炸和梯度消失的问题。同时,Decoder/Pointer机制能够很好地缓解摘要生成过程中出现未登录词的问题,提升了摘要的可读性。(3)针对中文新闻多文档自动文摘任务,提出基于语义聚类和局部主题匹配的多文档自动文摘方法。该方法利用具有语义环境的词向量通过K-Means聚类新闻文档并从局部主题中提取具有最大信息熵的句子,从而实现新闻多文档摘要的抽取。通过与提取每个新闻文档首句方法Baseline和LDA主题模型下做的多文档摘要对比,证明该方法的有效性。

关键词：自动文摘新闻摘要 sequence-to-sequence模型语言特征聚类

来源：评论

学校读者我要写书评

暂无评论

基于TextCNN情感预测器的情感监督聊天机器人

引用

微型电脑应用 2019年第5期35卷 104-106,110页

作者：周震卿韩立新河海大学计算机与信息学院南京211100

聊天机器人是自然语言处理的热门研究领域之一。现有的生成式聊天机器人一般基于sequence-to-sequence模型实现,即使用循环神经网络将问题编码成高维语义向量,再将该向量解码成回复。但是由于解码只使用单一的语义向量,容易生成普适回... 详细信息

聊天机器人是自然语言处理的热门研究领域之一。现有的生成式聊天机器人一般基于sequence-to-sequence模型实现,即使用循环神经网络将问题编码成高维语义向量,再将该向量解码成回复。但是由于解码只使用单一的语义向量,容易生成普适回复。针对上述问题,提出了基于TextCNN情感预测器的情感监督聊天机器人,利用TextCNN情感预测器,由问题直接获得回复的情感表示,在sequence-to-sequence模型中引入更准确的情感特征,并通过情感监督方法学习情感表达方式。实验表明该模型能有效地提高聊天机器人的回复质量。

关键词：聊天机器人 sequence-to-sequence模型 TextCNN情感预测器情感监督

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：