检索结果-内蒙古大学图书馆

情报学报 2024年第4期43卷 416-429页

作者：张贞港余传明中南财经政法大学信息与安全工程学院武汉430073

文本语义匹配模型在信息检索、文本挖掘等领域已经获得了广泛应用。为解决现有模型主要从文本自身角度判断文本之间的语义关系而忽略对外部知识有效利用的问题,本文提出一种新的基于知识增强的文本语义匹配模型,以知识图谱实体作为外部... 详细信息

文本语义匹配模型在信息检索、文本挖掘等领域已经获得了广泛应用。为解决现有模型主要从文本自身角度判断文本之间的语义关系而忽略对外部知识有效利用的问题,本文提出一种新的基于知识增强的文本语义匹配模型,以知识图谱实体作为外部知识,有效建模文本的外部知识信息,并自适应地过滤外部知识中存在的噪声。针对自然语言推理和释义识别两个文本语义匹配任务,与基线方法相比,本文模型在大多数指标上取得了最优效果。研究结果表明,本文模型有助于揭示知识图谱在文本语义匹配任务中的作用,为将知识图谱应用到智能信息服务领域提供了参考。

关键词：文本语义匹配信息检索知识图谱知识增强

来源：评论

学校读者我要写书评

暂无评论

基于突发词对主题模型改进算法的微博热点话题发现研究

引用

情报杂志 2022年第1期41卷 104-112页

作者：向卓元吴玉陈浩张芙玮中南财经政法大学信息与安全工程学院武汉430073

[研究目的]针对主流话题发现模型存在数据稀疏、维度高等问题,提出了一种基于突发词对主题模型(BBTM)改进的微博热点话题发现方法(BiLSTM-HBBTM),以期在微博热点话题挖掘中获得更好的效果。[研究方法]首先,通过引入微博传播值、词项H指... 详细信息

[研究目的]针对主流话题发现模型存在数据稀疏、维度高等问题,提出了一种基于突发词对主题模型(BBTM)改进的微博热点话题发现方法(BiLSTM-HBBTM),以期在微博热点话题挖掘中获得更好的效果。[研究方法]首先,通过引入微博传播值、词项H指数和词对突发概率,从文档层面和词语层面进行特征选择,解决数据稀疏和高维度的问题。其次,通过双向长短期记忆(BiLSTM)训练词语之间的关系,结合词语的逆文档频率作为词对的先验知识,考虑了词之间的关系,解决忽略词之间关系的问题。再次,利用基于密度的方法自适应选择BBTM的最优话题数目,解决了传统的主题模型需要人工指定话题数目的问题。最后,利用真实微博数据集在热点话题发现准确度、话题质量、一致性三个方面进行验证。[研究结论]实验表明,BiLSTM-HBBTM在多种评价指标上都优于对比模型,实验结果验证了所提模型的有效性及可行性。

关键词：热点话题发现主题模型微博短文本 BiLSTM BBTM Word2Vec

来源：评论

学校读者我要写书评

暂无评论

面向学术文本的语义增强自然语言推理模型

引用

现代情报 2024年

作者：张贞港余传明王静楠中南财经政法大学信息工程学院

[目的/意义] 旨在利用大模型生成学术文本的高质量同义句，通过实施语义增强策略，以优化自然语言推理模型的性能。[方法/过程] 在利用大语言模型生成学术文本同义句的基础上，提出语义增强的自然语言推理模型SENLI，该模型包括表示模... 详细信息

[目的/意义] 旨在利用大模型生成学术文本的高质量同义句，通过实施语义增强策略，以优化自然语言推理模型的性能。[方法/过程] 在利用大语言模型生成学术文本同义句的基础上，提出语义增强的自然语言推理模型SENLI，该模型包括表示模块、语义增强模块和推理模块。其中，表示模块负责获取学术文本及其对应同义句的语义特征；语义增强模块将同义句的语义特征融合到学术文本的原始语义特征，获取语义增强特征；推理模块则基于学术文本的原始语义特征和语义增强特征，预测学术文本对的语义关系。将本文模型应用到SciTail、SciNLI和ZwNLI数据集上，开展实证研究。[结果/结论] 实验结果显示，SENLI模型在SciTail、SciNLI和ZwNLI这3个基准数据集上的准确率分别达到了95.11%、79.20%和98.43%，相较于基线模型，提升幅度至少为1.27%、1.08%和0.92%，彰显了本文模型的有效性。应用大语言模型生成的学术文本同义句进行语义增强可以提高自然语言推理模型的效果，研究有助于推动自然语言推理领域的发展，并为信息检索、学术文献挖掘等相关应用提供潜在的技术支持。

关键词：自然语言推理学术文本语义增强深度学习大语言模型

来源：评论

学校读者我要写书评

暂无评论

多特征融合的专利价值预测——以5G技术为例

引用

现代情报 2022年第11期42卷 87-96页

作者：孙冉安璐李纲武汉大学信息管理学院湖北武汉430072 武汉大学信息资源研究中心湖北武汉430072

[目的/意义]专利数据中包含大量的前沿技术信息,企业所拥有的专利可以用来衡量企业的技术创新能力。[方法/过程]本文选取Incopat专利数据库中与5G技术有关的专利数据,综合考虑专利价值的内部因素和外部因素,采用Logistic模型可视化国内... 详细信息

[目的/意义]专利数据中包含大量的前沿技术信息,企业所拥有的专利可以用来衡量企业的技术创新能力。[方法/过程]本文选取Incopat专利数据库中与5G技术有关的专利数据,综合考虑专利价值的内部因素和外部因素,采用Logistic模型可视化国内外5G专利的技术生命周期,基于BERT模型对专利标题的文本语义信息进行特征提取,构建了包含专利技术特征、市场特征、法律特征、专利权人特征、文本语义特征在内的专利价值预测模型。分别采用传统机器学习模型(如随机森林、决策树、XGBoost等)和深度学习模型(如CNN、RNN等)进行训练和预测,基于SHAP解释方法分析专利价值预测模型中的特征重要性排序。[结果/结论]基于多特征融合的高价值专利预测模型的F1值达到0.894,优于其他的基线模型。在二级指标特征中,同族国家数的特征重要性最高;其次,公开国别、被引证次数在专利价值预测重要性较高。

关键词：专利价值预测技术生命周期 XGBoost 5G

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的跨语言文本摘要研究

基于深度学习的跨语言文本摘要研究

引用

作者：朱星宇中南财经政法大学

学位级别：硕士

随着智能时代的飞速发展,人类丰富的社会行为产生了海量数据,网络新闻、评论等文本数据呈爆炸式增长,如何高效地从这些数据中提炼出关键信息以满足用户需求是亟待解决的难题。为解决上述问题,文本摘要技术应运而生,其主要对文本的语义... 详细信息

随着智能时代的飞速发展,人类丰富的社会行为产生了海量数据,网络新闻、评论等文本数据呈爆炸式增长,如何高效地从这些数据中提炼出关键信息以满足用户需求是亟待解决的难题。为解决上述问题,文本摘要技术应运而生,其主要对文本的语义信息进行建模,通过压缩冗余信息、提炼关键信息或借助自然语言生成方法来得到冗长文本对应的摘要。现有多数文本摘要研究主要关注单语言情境(以英语文本为主)的文本摘要任务,基于该任务构建了多种不同的摘要模型,尽管现有研究取得了良好效果,但仍存在以下不足:第一,很少有研究全面探究基于深度学习的方法在文本摘要任务上的性能差异;第二,当前的文本摘要研究主要针对单语言任务,跨语言文本摘要任务研究相对较少,摘要和源文档为相同语言的限制无法满足全球化环境下的语言迁移需求;第三,现有的大多数观点摘要研究的目标都是生成通用的摘要语句,即直接提取源文档中包含情感倾向的重要信息,然而面向用户查询的观点摘要能够根据不同需求,从语料中提取更精准有用的摘要语句,实用性更高。针对上述三个不足之处,本文从以下三方面开展工作:1.针对现有研究很少全面探究基于深度学习的模型在摘要任务上的性能差异这一问题,本文开展面向文本摘要的深度学习模型对比研究,分别探究基于传统序列到序列的模型和基于预训练的模型在英语数据集上的性能差异。基于序列到序列的模型主要采用Seq2Seq模型实现,该模型由编码器和解码器两部分构成,基于Seq2Seq的结构可以构建抽取式和抽象式模型。基于预训练的摘要模型主要使用BERT及其系列变体来实现。在英语数据集CNN/Dailymail数据集上应用上述方法,探究两类不同的摘要模型在实现抽取式和抽象式摘要时的差异。实验结果表明抽象式摘要模型倾向于得到优于抽取式模型的效果,在基于Seq2Seq的模型中,将拷贝机制与覆盖机制相结合的模型性能最好,而在基于BERT的模型中,MASS模型能够取得最好效果。2.针对现有研究局限于单语言文本摘要任务的问题,本文探究跨语言情境下的摘要任务,在上述的单语言研究基础上融合多任务思想,从而构建跨语言文本摘要模型。具体地,将跨语言摘要任务分别与机器翻译和单语言文本摘要任务结合构建两种不同的跨语言文本摘要模型。其中,单语言摘要任务能够促使模型学习源文档的语义信息,而机器翻译任务则可以帮助模型更好地解决不同语言之间的语义鸿沟问题。将本文构建的模型应用到ZH-EN(中文源文档-英文摘要)数据中,实验结果表明本文构建的融合多任务思想的两种跨语言方法效果均优于单一的跨语言摘要模型,其中融合单语言摘要任务的方法效果最佳,其ROUGE分数分别为19.75%、8.54%和17.38%,该分数优于基线方法。3.针对现有观点摘要研究大多生成通用式摘要,无法满足特定用户需求这一问题,本文将跨语言文本摘要任务进一步扩展为跨语言情境下面向查询的观点摘要任务,开展研究。基于此任务,构建面向查询的跨语言观点摘要模型,以满足给定目标语言用户查询,模型基于源语言文档生成与用户查询相关且包含情感倾向的目标语言观点摘要。本文通过融合跨语言词表示、摘要抽取和跨语言转换三个模块构建模型,并将该模型应用到以Debatepedia为来源的数据中进行实证分析,其ROUGE-1、ROUGE-2和ROUGE-L分数分别为22.07%、2.76%和17.59%,证明了该摘要框架的有效性。通过开展上述研究,本文对基于深度学习的两类文本摘要模型Seq2Seq模型和预训练模型在单语言摘要任务上的性能进行了全面探究。同时,本文将单语言摘要任务扩展到跨语言情境,在单语言摘要模型上融合多任务思想构建了性能良好的跨语言模型。此外,本文充分考虑观点摘要任务的现实应用场景,将用户查询和语言跨度融入该任务中,构建了通用的面向查询的跨语言观点摘要框架,以期为后续研究提供一定的借鉴。

关键词：文本摘要跨语言词表示观点摘要深度学习

来源：评论

学校读者我要写书评

暂无评论

基于标签迁移和深度学习的跨语言实体抽取研究

引用

现代情报 2020年第12期40卷 3-16,35页

作者：余传明黄婷婷林虹君安璐中南财经政法大学信息与安全工程学院湖北武汉430073 中南财经政法大学统计与数学学院湖北武汉430073 武汉大学信息管理学院湖北武汉430072

[目的/意义]从跨语言视角探究如何更好地解决低资源语言的实体抽取问题。[方法/过程]以英语为源语言,西班牙语和荷兰语为目标语言,借助迁移学习和深度学习的思想,提出一种结合自学习和GRU-LSTM-CRF网络的无监督跨语言实体抽取方法。[结... 详细信息

[目的/意义]从跨语言视角探究如何更好地解决低资源语言的实体抽取问题。[方法/过程]以英语为源语言,西班牙语和荷兰语为目标语言,借助迁移学习和深度学习的思想,提出一种结合自学习和GRU-LSTM-CRF网络的无监督跨语言实体抽取方法。[结果/结论]与有监督的跨语言实体抽取方法相比,本文提出的无监督跨语言实体抽取方法可以取得更好的效果,在西班牙语上,F1值为0.6419,在荷兰语上,F1值为0.6557。利用跨语言知识在源语言和目标语言间建立桥梁,提升低资源语言实体抽取的效果。

关键词：知识获取实体抽取跨语言深度学习标签映射

来源：评论

学校读者我要写书评

暂无评论

基于最大边界相关度的抽取式文本摘要模型研究

引用

情报科学 2021年第2期39卷 34-43页

作者：余传明郭亚静朱星宇安璐中南财经政法大学湖北武汉430073 武汉大学湖北武汉430072

【目的/意义】为得到与原文相关度高、冗余度小的摘要,本文提出一种结合深度学习的无监督抽取式文本摘要模型。【方法/过程】在最大边界相关度(Maximal Marginal Relevance, MMR)模型的基础上,利用深度学习中的词嵌入与句嵌入的文本向... 详细信息

【目的/意义】为得到与原文相关度高、冗余度小的摘要,本文提出一种结合深度学习的无监督抽取式文本摘要模型。【方法/过程】在最大边界相关度(Maximal Marginal Relevance, MMR)模型的基础上,利用深度学习中的词嵌入与句嵌入的文本向量表示方法计算句子之间的相似度,并根据关键词与位置信息对句子重要性的影响对句子排序,得到高质量的摘要。将本文提出的模型应用到2018 Byte Cup生成文章标题任务的数据集上验证模型效果。【结果/结论】模型抽取单句摘要的Rouge-L值为28.24%,高于传统的抽取式文本摘要算法CI(17.37%)、TextRank(22.70%)和MMR(23.52%);抽取多句摘要的Rouge-L值为37.78%,高于传统的抽取式文本摘要算法CI(29.35%)、TextRank(34.15%)和MMR(31.09%);结果表明深度学习有助于提升抽取式文本摘要的效果。【创新/局限】本文创新点在于将最大边界相关度(MMR)与深度学习相结合,综合考虑句子与全文相似度、关键词以及位置信息等特征以抽取摘要;局限在于研究范围仅为抽取式文本摘要,后续研究将尝试融合抽象式文本摘要模型。

关键词：文本摘要抽取式文本摘要深度学习表示学习最大边界相关度算法

来源：评论

学校读者我要写书评

暂无评论

基于深度交互的文本匹配模型研究

引用

情报学报 2021年第10期40卷 1015-1026页

作者：余传明薛浩东江一帆中南财经政法大学信息与安全工程学院武汉430073

针对文本匹配在信息检索、文本挖掘等领域的广泛应用,本文提出一种具有良好泛化能力的深度交互文本匹配(deepinteractiontextmatching,DITM)模型。基于匹配-聚合框架,DITM模型以编码层、共注意力层和融合层为交互模块,多次循环交互模块... 详细信息

针对文本匹配在信息检索、文本挖掘等领域的广泛应用,本文提出一种具有良好泛化能力的深度交互文本匹配(deepinteractiontextmatching,DITM)模型。基于匹配-聚合框架,DITM模型以编码层、共注意力层和融合层为交互模块,多次循环交互模块获取深层次的交互信息,经过多角度池化提取信息以预测文本对之间的关系。相比于基线方法,针对观点检索、答案挑选、释义识别和自然语言推理四个文本匹配任务,DITM模型在相应的数据集上均取得了最好的效果。本研究结果对于促进文本匹配模型在情报领域的实践具有重要意义。

关键词：文本匹配深度学习深度交互注意力机制神经网络

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的跨语言词汇对齐模型研究

引用

情报理论与实践 2020年第9期43卷 150-158页

作者：余传明王峰安璐中南财经政法大学信息与安全工程学院湖北武汉430073 武汉大学信息管理学院湖北武汉430072

由于能够捕捉语言的内在规律,词向量在自然语言处理任务中得到广泛应用,通过跨语言词汇对齐能够将词向量的应用推广到跨语言情境中。文章在词汇深度表示学习的基础上通过改进生成对抗网络结构,提出一种新的词汇对齐模型(Word Alignment ... 详细信息

由于能够捕捉语言的内在规律,词向量在自然语言处理任务中得到广泛应用,通过跨语言词汇对齐能够将词向量的应用推广到跨语言情境中。文章在词汇深度表示学习的基础上通过改进生成对抗网络结构,提出一种新的词汇对齐模型(Word Alignment Model,WAM)。为验证模型的有效性,在三组跨语言语料数据集上进行对比实验。与最好的无监督方法相比,WAM模型在P@1上提升0.25%,在P@10上提升0.46%。实验结果表明,通过改进生成对抗网络,能够以无监督的方式更好地实现词汇的跨语言对齐。研究结果对完成领域知识的跨语言迁移,解决跨语言情感分析、信息检索和问答系统等跨语言信息处理任务有重要意义。

关键词：词汇对齐跨语言词向量生成对抗网络深度学习无监督学习

来源：评论

学校读者我要写书评

暂无评论

基于预训练模型的法律文本类案匹配研究

引用

科技情报研究 2023年第3期5卷 13-25页

作者：余传明江一帆中南财经政法大学信息与安全工程学院武汉430073

[目的/意义]文章旨在解决传统的短文本匹配模型难以适用于法律类案检索等长文匹配的问题。[方法/过程]针对法律案例匹配任务,本文提出了一种基于预训练的法律文本类案匹配LTMR模型。在编码层通过RoFormer和法律特征提取器对法律案例进... 详细信息

[目的/意义]文章旨在解决传统的短文本匹配模型难以适用于法律类案检索等长文匹配的问题。[方法/过程]针对法律案例匹配任务,本文提出了一种基于预训练的法律文本类案匹配LTMR模型。在编码层通过RoFormer和法律特征提取器对法律案例进行编码,在推理层利用交互注意力和自注意力机制来进一步提取长文本的上下文和交互信息。将所提出的模型应用到CAIL2019-SCM数据集上,开展实证研究。[结果/结论]相对于基线方法,LTMR模型在CAIL2019数据集上均取得了最优结果,研究结果对于促进法律案例匹配的应用具有借鉴意义。

关键词：类案匹配预训练模型法律文本文本语义匹配

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：