检索结果-内蒙古大学图书馆

浙江大学学报（工学版） 2024年第5期58卷 900-907,1049页

作者：刘议丹朱小飞尹雅博重庆理工大学计算机科学与工程学院重庆400054

针对论点对抽取任务中存在着评审段和反驳段之间交互信息难以捕获以及忽略了对句子间的相对位置信息进行建模问题,提出基于异质图卷积神经网络的论点对抽取模型.该模型在评审段和反驳段中构建异质图,定义2种不同类型的节点及4种不同类... 详细信息

针对论点对抽取任务中存在着评审段和反驳段之间交互信息难以捕获以及忽略了对句子间的相对位置信息进行建模问题,提出基于异质图卷积神经网络的论点对抽取模型.该模型在评审段和反驳段中构建异质图,定义2种不同类型的节点及4种不同类型的边,通过关系图卷积神经网络来更新图中节点的表示.提出位置感知的句子对生成器,利用旋转位置编码来建模评审段和反驳段句子间的相对位置信息.在RR-passage和RR-submission-v2数据集上进行实验,实验结果表明,提出模型的性能均优于所有的基线模型.这表明通过构建异质图区分不同的节点类型和边的类型,设计位置感知的句子对生成器,能够提升论点对抽取模型的效果.

关键词：论辩挖掘论点对抽取图神经网络旋转位置编码自然语言处理

来源：评论

学校读者我要写书评

暂无评论

基于互学习网格标签的方面情感词提取

引用

Journal of Measurement Science and Instrumentation 2023年第3期14卷 369-378页

作者：王伟李婷葛洪伟江南大学人工智能与计算机学院江苏无锡214122

随着人们生活质量的提高,对服务质量的要求日益提高,用户对商家评论从简单的好坏判断提升到了具体方面,而传统的情感分类方法无法解决这个问题,其中,文本的情感方面提取是关键。现有模型大多使用分段式子任务来进行训练,为了解决模型在... 详细信息

随着人们生活质量的提高,对服务质量的要求日益提高,用户对商家评论从简单的好坏判断提升到了具体方面,而传统的情感分类方法无法解决这个问题,其中,文本的情感方面提取是关键。现有模型大多使用分段式子任务来进行训练,为了解决模型在多个子任务中错误传播的问题,并提高对数据的深层学习,提出一种基于BERT的互学习网格标签的方面情感分析模型。首先,利用旋转位置编码来加强模型对位置的敏感度,同时采用降维方式对词对进行标注,以提升学习效率。然后,将两个基于位置编码的网格标签进行互学习,使模型具有更好的泛化能力。最后,为了进一步发挥互学习的效果,提出了两种数据扩充方法:拼接法和移花接木法,使模型的性能得到进一步提升。在4个标准数据集上测试了三元组提取和二元组提取任务,在F 1值上平均提升了4%以上,最高提升了7%。实验结果表明,IGTS-BERT模型在情感词提取上表现出优越的性能。

关键词：方面情感词提取网格标签旋转位置编码互学习数据扩充

来源：评论

学校读者我要写书评

暂无评论

基于深度神经网络的自动程序修复方法研究

基于深度神经网络的自动程序修复方法研究

引用

作者：韩栋河南工业大学

学位级别：硕士

程序错误修复对于维护软件系统稳定性至关重要,它直接关系到软件产品的质量保证和长期可持续性。一旦软件中出现程序错误,将会对日常生产生活造成难以估量的影响。因此,如何有效地修复软件中的程序错误成为软件工程领域的重点研究方向... 详细信息

程序错误修复对于维护软件系统稳定性至关重要,它直接关系到软件产品的质量保证和长期可持续性。一旦软件中出现程序错误,将会对日常生产生活造成难以估量的影响。因此,如何有效地修复软件中的程序错误成为软件工程领域的重点研究方向。随着深度学习技术的发展,基于深度神经网络模型的自动程序修复方法受到越来越多的关注。这类方法能从海量的开源数据中自动学习相关程序错误修复逻辑,然后将学习到的修复知识应用于真实的修复场景。与人工修复相比,基于深度神经网络模型的自动程序修复方法可以节省大量的人力资源,同时能够大幅度提升修复效率。尽管这类方法极具潜力,其修复性能仍然受限于领域内的特定问题。为进一步提升此类方法的修复性能,本文针对相关领域问题提出了两种基于深度神经网络模型的自动程序修复方法,并将两种方法集成在一个自动程序修复工具中。主要研究内容如下: (1)针对当前修复模型推断的程序补丁可编译率较低的问题,本文提出了一种基于完全卷积神经机器翻译的自动程序修复方法。首先,采用词级分词技术对数据集进行预处理得到合适的输入序列。其次,使用训练数据训练基于Conv S2S的自动程序修复模型,该模型结合指针生成器网络和补丁长度控制策略来提升补丁可编译率。再次,使用错误定位方法获取待修复程序的错误位置信息并生成可疑列表。然后,利用最优参数修复模型为程序错误推断候选补丁。最后,通过测试套件对候选补丁进行验证,并输出有效补丁。经实验评估,该方法正确修复了评测库Defects4J中28个真实程序错误。实验结果表明该方法的补丁可编译率和修复正确率优于基线修复方法。 (2)针对基于Transformer的自动程序修复模型未能有效地利用局部依赖信息,导致修复正确率和修复效率较低的问题,本文提出了一种基于旋转位置编码神经机器翻译的自动程序修复方法。首先,采用字节对编码(Byte Pair Encoding,BPE)子词切分对数据集进行预处理以改善修复策略的搜索空间。其次,使用训练数据训练基于Transformer的自动程序修复模型,该模型使用旋转位置编码代替Transformer模型中的绝对位置编码,旋转位置编码能够强化局部依赖和深层模型的位置表示能力。再次,使用错误定位方法获取待修复程序的错误位置信息并生成可疑列表。然后,利用最优参数修复模型为程序错误推断候选补丁。最后,通过测试套件对候选补丁进行验证,并输出有效补丁。经实验评估,该方法正确修复了评测库Defects4J中31个真实程序错误。实验结果表明该方法的修复正确率和效率优于基线修复方法。 (3)本文将提出的两种自动程序修复模型集成在一个自动程序修复工具中,该工具包含错误定位、补丁推断以及补丁验证功能,用户可根据需求选取不同的修复方法。该工具简单易用,具备高度自动化与集成化等特点,在真实的程序错误修复场景中具有一定的应用价值。

关键词：自动程序修复神经机器翻译指针生成器网络子词切分旋转位置编码

来源：评论

学校读者我要写书评

暂无评论

基于音乐情感的ERoPE-Transformer音乐生成方法

引用

榆林学院学报 2025年第2期35卷 78-86页

作者：张玉梅陈章杰吕小姣延成岭卢恒陕西师范大学计算机科学学院陕西西安710062 陕西师范大学新闻与传播学院陕西西安710062 民歌智能计算与服务技术文化旅游部重点实验室陕西西安710062

针对音乐生成缺乏情感表达和交互性的问题,提出一种基于音乐情感的ERoPE-Transformer音乐生成方法。基于情感的旋转位置编码Transformer模型(Emotion Rotary Position Embedding Transformer,ERoPE-Transformer)以CP Transformer模型为基础模型,在CP编码的基础上加入情感标签,将音乐序列转换成离散的符号序列,并且引入旋转位置编码,提高模型的外推性,更好地捕获长序列建模中的音乐信息和情感特征。最后通过客观和主观实验对音乐质量和情感效果进行验证,与其他常用的音乐生成模型进行比较,包括Transformer-XL模型、CP Transformer模型和CEG-Transformer模型。客观实验从音高、节奏和音乐结构三个方面评价音乐质量,同时采用DUPSO-DSKSVM民歌快速分类算法对音乐情感进行分类,以验证生成音乐的情感效果。主观实验通过人耳听力测试从不同方面对音乐质量进行打分评价,同时使用人耳听力测试对音乐的情感效果进行评价。实验结果表明,本文提出的ERoPE-Transformer模型在音乐质量和情感表达上都有很好的效果,优于其他三种方法。

关键词：情感音乐生成 Transformer网络旋转位置编码

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的微博三孩生育意愿的文本情感分析

基于深度学习的微博三孩生育意愿的文本情感分析

引用

作者：李亦然山东大学

学位级别：硕士

近年来,我国人口老龄化趋势明显,国家积极出台二孩三孩政策刺激生育,但生育率仍未达到预期水平,国民生育意愿成为了学者研究的重要课题。传统的生育意愿研究多采用问卷调查或深入访谈的方式,对人力物力和研究者理论水平要求较高,基于深... 详细信息

近年来,我国人口老龄化趋势明显,国家积极出台二孩三孩政策刺激生育,但生育率仍未达到预期水平,国民生育意愿成为了学者研究的重要课题。传统的生育意愿研究多采用问卷调查或深入访谈的方式,对人力物力和研究者理论水平要求较高,基于深度学习的网络生育意愿研究则相对较少。随着互联网的发展,网络舆情数据为生育意愿的研究提供了新的数据来源。因此,本文提出了基于深度学习的文本情感分类模型,对微博网民的三孩生育意愿数据进行情感分类,一方面验证了基于ALBERT的模型的有效性,另一方面提出了刺激国民三孩生育意愿的政策建议。本文的主要工作如下:(1)首先,本文获取实验数据集,提出了刺激三孩生育的政策建议。通过Python爬虫,本文获取了微博三孩生育意愿数据集和SMP-ECISA2019隐式数据集,并对微博三孩生育意愿数据集进行词云分析,发现网民主要关注房价、教育、女性、职场等方面。为了进一步刺激我国国民的三孩生育意愿,本文认为提出了提高生育补贴和生育福利,推行育龄家庭的住房保障政策,保障女性的生育假和职场权利,推进教育医疗的均衡化等政策建议。(2)接下来,本文验证了基于ALBERT的情感分类模型的有效性。从深度学习模型的理论出发考虑模型特点,Word2Vec模型无法解决一词多义现象,BERT模型可以动态生成词向量但是参数量巨大,因此,本文选择参数量更小的ALBERT模型生成词向量。考虑到BiLSTM和BiGRU在特征提取中的优势,本文设计了 Word2Vec-BiLSTM、ALBERT、ALBERT-LSTM、ALBERT-BiLSTM、ALBERT-GRU和 ALBERT-BiGRU 这六个对比模型,验证基于ALBERT的模型在微博三孩生育意愿分类任务中的有效性。微博三孩生育意愿数据集属于多分类不平衡的数据,因此采用Focal Loss衡量模型损失,并采用AdamW优化器优化模型参数。在微博三孩生育意愿分类任务中,ALBERT-BiLSTM表现最优,准确率达到了 92.74%,比Word2Vec-BiLSTM提高了 17.42%。在微博三孩生育意愿数据集和SMP-ECISA2019隐式数据集,基于ALBERT的文本情感分类模型准确率分别达到了 86.92%和84.23%以上,验证了该类模型在文本情感分类任务中的有效性。(3)最后,本文优化了 ALBERT-BiLSTM,提出了一种 ALBERT-BiLSTM-RoPESA模型。新引入的RoPESA层采用旋转位置编码对Self-Attention矩阵进行微调,不但不影响模型的计算稳定性,而且使得Self-Attention矩阵的值与token的相对位置有关,距离越远的token对矩阵值的贡献越小。因此,ALBERT-BiLSTM-RoPESA模型既可以区分重要特征,又可以关注到特征的相对距离,理论上,模型表现会进一步提高。根据实验结果发现,在微博三孩生育意愿数据集上,ALBERT-BiLSTM-RoPESA模型的准确率达到93.85%、召回率达到87.56%、F1值达到了 90.39%,准确率比ALBERT-BiLSTM 提高了 1.17%,较 Word2Vec-BiLSTM 模型更是提高了 18.53%。在 SMP-ECISA2019隐式数据集上,ALBERT-BiLSTM-RoPESA模型表现最佳,准确率达到了90.14%,说明该模型对隐式情感文本的分类效果较好。综上,本文验证了 ALBERT-BiLSTM-RoPESA 模型的优越性,该模型不但可以提高微博三孩生育意愿分类任务的准确率,而且还可以应用至隐式情感分析等其他文本任务中。

关键词：三孩政策情感分析深度学习 ALBERT 注意力机制旋转位置编码

来源：评论

学校读者我要写书评

暂无评论

面向文本的信息抽取方法研究

面向文本的信息抽取方法研究

引用

作者：邓金鑫新疆大学

学位级别：硕士

随着大数据时代的到来，从自由文本中挖掘出潜在的信息具有重要的研究意义。因此，面向文本的信息抽取研究也成为了当前的研究热点之一。信息抽取是将非结构化文本转化为结构化信息的关键任务，同时也是自然语言处理的重要子任务之一。... 详细信息

随着大数据时代的到来，从自由文本中挖掘出潜在的信息具有重要的研究意义。因此，面向文本的信息抽取研究也成为了当前的研究热点之一。信息抽取是将非结构化文本转化为结构化信息的关键任务，同时也是自然语言处理的重要子任务之一。信息抽取的主要任务包括命名实体识别和关系三元组抽取。命名实体识别和关系三元组抽取是知识图谱构建，知识推理等任务的重要基础。虽然近年来面向命名实体识别和关系三元组抽取的方法在性能上得到不断的提升，但依然存在如下问题:（1）针对文本中存在着大量的嵌套实体，当前基于跨度的方法能够解决嵌套实体的问题，但是只使用了头尾字符的语义信息，忽略了头尾字符间的相对位置信息，这将导致模型识别准确率不佳。（2）当前用于关系三元组抽取的方法主要是“级联抽取方法”和“一步抽取方法”。尽管这些方法能够取得较好的表现，但仍然存在关系预测冗余、错误传播和模型泛化性能差等问题。本文针对以上问题，利用预训练语言模型、双仿射注意力机制、旋转位置编码和多任务学习等方法对命名实体识别和关系三元组抽取任务进行研究，主要贡献总结如下:　　第一、针对文本中的嵌套实体，提出了一种基于旋转位置编码和双仿射注意力机制的实体识别模型，能够对嵌套实体和非嵌套实体进行统一处理。该模型首先采用预训练模型作为编码器，有效提高了词嵌入的质量。其次，采用双仿射注意力机制捕获头尾字符之间的相关性，与此同时采用旋转位置编码配合双仿射注意力机制生成相对位置信息。最后将融合了位置特征的表示进行实体关系分类。在英文嵌套实体识别数据集（GENIA、ACE2004和ACE2005）,中文嵌套实体识别数据集（CMeEE）,中文普通实体识别数据集（Resume和MRSA）上进行实验，结果验证了本文提出模型的有效性。　　第二、针对关系三元组抽取任务提出了一个关系优先的双向级联多任务模型。该模型首先采用了一个关系检测模块，通过优先判断句子中存在的关系来解决关系预测冗余的问题。然后通过确定的关系进行两个平行方向的主客体抽取，缓解了级联模型的错误传播问题。并且模型采用实体识别作为辅助任务进行多任务学习，从而提高了模型的泛化性能。通过在NYT和WebNLG数据集上进行对比实验证明了本文方法的有效性。

关键词：信息抽取命名实体识别预训练语言注意力机制旋转位置编码

来源：评论

学校读者我要写书评

暂无评论

基于网格标签的文本方面情感分析研究与应用

基于网格标签的文本方面情感分析研究与应用

引用

作者：王伟江南大学

学位级别：硕士

情感分析是围绕人们对诸如产品、服务、组织等实体的态度、观点、情绪的分析。文本情感分析即是情感分析以文本作为统一载体,目前文本情绪分析已经成长为自然语言处理中最活跃的研究领域之一。最近几年,在该方向又细分出了很多个方向,比... 详细信息

情感分析是围绕人们对诸如产品、服务、组织等实体的态度、观点、情绪的分析。文本情感分析即是情感分析以文本作为统一载体,目前文本情绪分析已经成长为自然语言处理中最活跃的研究领域之一。最近几年,在该方向又细分出了很多个方向,比如:文本方面情感分析、基于某种语言的情感分析、基于某个平台的情感分析、基于目标的情感分析、方面情感三元组提取等,情感分析在各个领域都有应用,比如生活服务、金融分析、社会管理、国家安全等。而本文研究的方面情感三元组提取的任务,其目的是从文本中识别出方面项、观点项和情感极性,并将它们组成一个三元组。这种任务对于理解用户的观点和需求非常有用,它可以更细粒度地分析文本中的情感信息;同时,这种任务也非常具有挑战性,需要同时处理多个子问题,如方面项、观点项和情感极性的识别、抽取和关联。本文主要针对的是方面情感分析中网格标签方案模型在多个子任务中错误传播的问题。为了提高模型识别的准确率和泛化性,本文做了以下研究工作:(1)针对网格标签方案标注合理性分析,本文提出一种更加优化的压缩标注策略,同时采用旋转位置编码,加强词对位置相关性。原网格标签标注方案在设计上存在维度冗余,用6个维度表示六种状态,但是由于分布位置的区别,在不同的分布区域可以采用相同的维度标识,于是就能压缩维度,但不同的位置的区分在原模型中没有学习到,所以本文采用旋转位置编码来学习词对位置的信息,该方法在压缩维度的情况下保证模型效果有略微提升。(2)针对模型的泛化能力差的问题,提出了一种互学习网格标签算法,同时提出了两种数据扩充方案。此方法的原理是通过将两个不同参数的网格标签模型关联起来,用相同的输入样本训练,在训练的过程中让两个模型互相学习,使用KL散度作为一部分loss训练,实验表明模型具有很好的效果,最后通过提出的两种数据扩充方案,来再一步验证了互学习方案的学习能力和泛化能力,同时该方法在数据量少、标签质量差的情况下也明显有效。(3)针对网格标签方案对细节的忽视,本文提出了一种token-word网格标签算法。首先,每个句子是由多个word构成,但是在经过BERT的tokenizer后,token与word并非一一对应,很多word会被拆分成多个token,在原网格标签方案中采用的是word级训练与预测,而本文使用的方法是先使用token级标注网络训练,再采用word级预测,该方法在逻辑上更合理,实验结果表现出更优的性能,证明该方法有效。

关键词：方面情感分析网格标签维度压缩旋转位置编码互学习数据扩充 token-word网格

来源：评论

学校读者我要写书评

暂无评论

面向用户评论的方面级情感分析研究

面向用户评论的方面级情感分析研究

引用

作者：张心月华中师范大学

学位级别：硕士

随着社交媒体和电商平台的普及和发展,互联网中积累了海量用户评论文本,这些评论文本蕴含着丰富的情感信息。分析和挖掘评论文本能够明确用户的情感倾向,为政府、商家、消费者提供全面的指导建议和决策参考。然而,由于评论文本呈指数级... 详细信息

随着社交媒体和电商平台的普及和发展,互联网中积累了海量用户评论文本,这些评论文本蕴含着丰富的情感信息。分析和挖掘评论文本能够明确用户的情感倾向,为政府、商家、消费者提供全面的指导建议和决策参考。然而,由于评论文本呈指数级增长,仅依赖人工处理已无法胜任此任务,如何对评论文本进行情感分析和挖掘是当前自然语言处理领域的研究热点。方面级情感分析作为一种细粒度情感分析任务,旨在识别特定方面的情感倾向,对评论文本进行方面级情感分析能够挖掘不同方面的情感极性,对商业、社会和政治领域具有重要的研究意义和参考价值。随着深度学习技术的发展,通过预训练模型提取语义特征逐渐成为目前情感分析领域的主流方法,但大多数情感分析模型存在上下游任务之间差距较大、方面词与上下文语义特征交互不足、语义特征提取比较单一等。因此,针对用户评论的特点,本文提出一种融合提示知识的方面级情感分析方法和融合位置感知的多特征方面级情感分析模型。本文的主要工作如下:(1)针对当前情感分析方法存在上下游阶段任务不一致、难以有效建模方面词和上下文之间语义关联的问题,提出一种融合提示知识的方面级情感分析方法。先手动构造提示文本,将该提示文本、原始句子和方面词共同作为BERT模型的输入,以有效捕获方面词和上下文的语义联系,提升模型对情感分析任务的感知能力;再构建情感标签词表,并将其融入情感极性映射层,减少模型的搜索空间,以利于模型获取标签词表中的语义知识,增强模型的学习能力。所提方法在Sem Eval2014Task4的Restaurant和Laptop以及Chn Senti Corp数据集上的F1值分别达到了77.42%、75.20%、94.89%,均优于其他对比模型,验证了所提方法的有效性。(2)针对现有情感分析模型存在提取语义特征较单一、长文本语义信息提取不足的问题,提出一种融合位置感知的多特征方面级情感分析模型。该模型首先在输入中添加提示文本,引导预训练模型适配下游任务,增强模型的语义特征提取能力;然后采用基于旋转位置编码的Roformer模型对评论文本的位置信息和词级别语义信息进行建模,以充分挖掘位置关系蕴含的语义特征,获取与方面词相邻的重要信息;最后通过Bi LSTM和卷积神经网络构建融合位置信息的多特征提取层,捕获长文本中含有位置信息的全局和局部语义特征,并融合上述多层次特征,以提升长文本的上下文语义相关性,增强方面词与相邻重要信息之间的交互。该模型在AI challenger 2018数据集上的F1值达到77.81%,与其他主流模型相比具有一定的优势,验证了论文模型的有效性。

关键词：自然语言处理方面级情感分析预训练模型提示学习旋转位置编码

来源：评论

学校读者我要写书评

暂无评论

面向监控系统采集数据的停留点检测算法

引用

电子技术与软件工程 2023年第4期 1-4页

作者：卢浩顾益军中国人民公安大学信息网络安全学院北京市100038

本文针对安防监控系统数据采样不规则导致停留点检测准确性不高的问题,提出了一种基于旋转编码的停留点检测算法。该模型通过在滑动窗口内规范数据之间的采样间隔信息,并通过注意力机制完成停留点分析任务,有效避免了常见机器学习算法... 详细信息

本文针对安防监控系统数据采样不规则导致停留点检测准确性不高的问题,提出了一种基于旋转编码的停留点检测算法。该模型通过在滑动窗口内规范数据之间的采样间隔信息,并通过注意力机制完成停留点分析任务,有效避免了常见机器学习算法存在的归纳偏置对于采样不规则数据的影响。实验结果表明,该方法能够有效检测采样不规则轨迹中的停留点,相较于已有方法和常见机器学习算法具有较高的准确性。

关键词：停留点检测监控系统采集数据旋转位置编码

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：