检索结果-内蒙古大学图书馆

中文信息学报 2024年第3期38卷 75-83页

作者：杨振平毛存礼雷雄丽黄于欣张勇丙昆明理工大学信息工程与自动化学院云南昆明650500 昆明理工大学云南省人工智能重点实验室云南昆明650500 昆明冶金高等专科学校云南昆明650500

跨境民族文化领域文本中存在较多的领域词汇,使得模型提取领域信息困难,造成上下文领域信息缺失,在该领域中实体密度分布高,面临实体关系重叠的问题。考虑到领域信息对跨境民族文化文本语义表征有着重要的作用,该文提出一种基于指针标... 详细信息

跨境民族文化领域文本中存在较多的领域词汇,使得模型提取领域信息困难,造成上下文领域信息缺失,在该领域中实体密度分布高,面临实体关系重叠的问题。考虑到领域信息对跨境民族文化文本语义表征有着重要的作用,该文提出一种基于指针标注的跨境民族文化实体关系抽取方法,在字符向量表示中融入领域词典信息来增强领域信息用于解决领域实体标注不准确问题,通过多层指针标注解决跨境民族文化领域实体关系重叠问题。实验结果表明,在跨境民族文化实体关系抽取数据集上所提出方法相比于基线方法的F_(1)值提升了2.34%。

关键词：跨境民族文化实体关系抽取指针标注领域词典信息

来源：评论

学校读者我要写书评

暂无评论

融合注意力机制和指针标注的实体关系联合抽取方法

引用

小型微型计算机系统 2023年第2期44卷 256-262页

作者：唐楠楠陈吉侯磊王星辽宁工程技术大学电子与信息工程学院辽宁葫芦岛125105 临沂大学信息科学与工程学院山东临沂276000 清华大学计算机科学与技术系北京100084 清华大学人工智能研究院知识智能研究中心北京100084

实体关系三元组是组成知识图谱的基本单位,其抽取的效果直接影响大型知识图谱的构建.针对目前多数关系抽取模型存在语义特征表达能力不足、实体关系发生重叠难以抽取等问题,本文提出了一种融合注意力机制和指针标注的实体关系联合抽取模... 详细信息

实体关系三元组是组成知识图谱的基本单位,其抽取的效果直接影响大型知识图谱的构建.针对目前多数关系抽取模型存在语义特征表达能力不足、实体关系发生重叠难以抽取等问题,本文提出了一种融合注意力机制和指针标注的实体关系联合抽取模型.模型采用预训练语言模型BERT训练词向量,利用多头注意力机制获取丰富的语义特征信息,通过指针标注抽取主语,然后采用改进的层归一化将主语特征作为条件信息与句子向量进行特征融合来增强模型表达能力,最终在预定义的关系条件下抽取主语对应的宾语,通过分层的指针标注处理重叠问题.本文使用公开数据集NYT和WebNLG进行测试,实验结果表明该模型在两个数据集上的F1值相比基线模型分别提高了2.5%和0.9%,可有效提升三元组抽取效果,并在一定程度上解决了三元组重叠问题.

关键词：知识图谱实体关系联合抽取 BERT 注意力机制指针标注

来源：评论

学校读者我要写书评

暂无评论

基于指针标注的金融事件联合抽取模型

引用

长春工业大学学报 2023年第5期44卷 441-448页

作者：冯珊珊赵辉曹亚亚长春工业大学计算机科学与工程学院吉林长春130102

针对金融领域事件抽取存在的元素重叠、语句歧义以及级联错误传播问题,提出一种基于指针标注的金融事件联合抽取模型,首先利用PERT预训练模型提取语义信息;再融入事件类型信息进行语义增强,SATT-BILSTM模型加强特征提取,指针标注解决元... 详细信息

针对金融领域事件抽取存在的元素重叠、语句歧义以及级联错误传播问题,提出一种基于指针标注的金融事件联合抽取模型,首先利用PERT预训练模型提取语义信息;再融入事件类型信息进行语义增强,SATT-BILSTM模型加强特征提取,指针标注解决元素重叠;最后为了增强模型的鲁棒性和泛化性,在模型训练的过程中加入了对抗训练。文中提出的模型在FewFC测试集上进行对比实验,结果表明,抽取效果更佳。

关键词：联合学习元素重叠语句歧义错误传播指针标注对抗训练

来源：评论

学校读者我要写书评

暂无评论

融合FGM和指针标注的实体关系联合抽取方法

引用

计算机与现代化 2023年第11期 1-5,12页

作者：刘玉鹏葛艳杜军威陈卓青岛科技大学信息科学技术学院山东青岛266061

实体关系联合抽取是信息抽取的一项重要任务。由于传统的实体关系联合抽取方法把实体之间的关系建模为离散类型,因此不能很好地解决重叠三元组的问题。为了解决难以抽取重叠三元组的问题,本文提出一种融合FGM和指针标注的实体关系联合抽... 详细信息

实体关系联合抽取是信息抽取的一项重要任务。由于传统的实体关系联合抽取方法把实体之间的关系建模为离散类型,因此不能很好地解决重叠三元组的问题。为了解决难以抽取重叠三元组的问题,本文提出一种融合FGM和指针标注的实体关系联合抽取BERT-FGM模型。该模型将实体之间的关系建模为函数,通过在BERT训练词向量的过程中融入FGM提高模型的鲁棒性。模型首先通过指针标注策略抽取头实体,然后将头实体与句子向量进行融合作为一个新向量,最终将其在预定义的关系条件下抽取头实体对应的尾实体。实验使用的是公开数据集WebNLG,实验结果表明该模型F1值达到90.7%,有效地解决了三元组重叠问题。

关键词：实体关系联合抽取重叠三元组 BERT FGM 指针标注

来源：评论

学校读者我要写书评

暂无评论

基于指针标注的生物医学实体识别和关系抽取研究与应用

基于指针标注的生物医学实体识别和关系抽取研究与应用

引用

作者：董高材武汉理工大学

学位级别：硕士

近年来,生物医学领域研究取得飞速进展,大量携带研究成果的文献被发表。尽管有人力物力去手动整理这些文献中的信息,但仅仅依靠人力对信息进行更新远远跟不上文献发表的速度。与通用领域相比,生物医学文献的信息抽取存在大量的嵌套实体... 详细信息

近年来,生物医学领域研究取得飞速进展,大量携带研究成果的文献被发表。尽管有人力物力去手动整理这些文献中的信息,但仅仅依靠人力对信息进行更新远远跟不上文献发表的速度。与通用领域相比,生物医学文献的信息抽取存在大量的嵌套实体和重叠关系等问题。因此,如何准确的从大量生物医学文献中抽取出有价值的知识,是目前生物医学领域信息抽取的重大挑战。为此,本文研究了生物医学领域的实体识别和关系抽取。对于实体识别,本文基于层叠指针标注的方法不仅能有效识别生物医学领域中的非嵌套实体,同时也能实现嵌套实体的识别。识别出实体之后,本文基于两次指针标注的方法进行实体关系的联合抽取。最后,结合实体识别和关系抽取,提出了基于文献挖掘的药物重定位框架。具体地,本文的主要研究内容包括以下几个方面:（1）针对生物医学领域嵌套实体的识别,构建了基于层叠指针标注的方法CPT（Cascade Pointer Tagging）。借助层叠指针标注,解决了基于序列标注方式不能识别嵌套实体的问题。此外,本文将实体的描述信息作为先验知识,在实体识别的过程中引入实体的类别信息,可以取得更好的结果。在与基线方法的对比中,无论是嵌套实体的识别还是非嵌套实体的识别,都取得了最高的F1值。（2）针对生物医学领域文献中存在大量重叠关系的问题,构建了基于两次指针标注进行联合学习的关系抽取方法TPT（Two-time Pointer Tagging）。与基于流水线的方法相比,该方法没有错误传播、忽略子任务间的交互关系和产生冗余信息的缺点,同时还能解决生物医学领域中重叠关系的问题。本文将关系三元组的抽取转换为头部实体到尾部实体的函数映射,加强了三元组内部结构的依赖,在损失函数上添加偏执来缓解标签不平衡的问题。与基线方法进行对比时,在DDI和CPI两个公开的生物医学语料库上,本文的方法不仅提高了精准率,更能明显提升召回率,在两个语料库上都获得最高的F1值。（3）提出了基于文献挖掘的药物重定位框架,从大量的生物医学文献中获取潜在的药物和疾病之间的关系。本文基于层叠指针标注（CPT）扩充了临床变量的实体列表;基于秩和检验获取了疾病和临床变量之间的关系;基于两次指针标注的关系抽取（TPT）得到了药物和临床变量之间的关系;然后基于逻辑回归模型预测潜在的药物和疾病之间的关系并对治疗某种疾病的候选药物进行排序。本文一共收集了986个临床变量,2,532个药物实体以及超过80万篇的文献摘要,最终为三种常见的疾病（哮喘、糖尿病、心脏衰竭）找出了超过500种的候选治疗药物,为基于文献挖掘进行药物重定位提供了借鉴意义。这不仅验证了本文实体识别和关系抽取方法的有效性,也让抽取出的信息有了实际应用的价值。

关键词：指针标注嵌套实体识别关系抽取联合学习药物重定位

来源：评论

学校读者我要写书评

暂无评论

融合混合嵌入与关系标签嵌入的三元组联合抽取方法

引用

电信科学 2023年第2期39卷 132-144页

作者：戴剑锋陈星妤董黎刚蒋献浙江工商大学浙江杭州310018

三元组抽取的目的是从非结构化的文本中获取实体与实体间的关系,并应用于下游任务。嵌入机制对三元组抽取模型的性能有很大影响,嵌入向量应包含与关系抽取任务密切相关的丰富语义信息。在中文数据集中,字词之间包含的信息有很大区别,为... 详细信息

三元组抽取的目的是从非结构化的文本中获取实体与实体间的关系,并应用于下游任务。嵌入机制对三元组抽取模型的性能有很大影响,嵌入向量应包含与关系抽取任务密切相关的丰富语义信息。在中文数据集中,字词之间包含的信息有很大区别,为了改进由分词错误产生的语义信息丢失问题,设计了融合混合嵌入与关系标签嵌入的三元组联合抽取方法(HEPA),提出了采用字嵌入与词嵌入结合的混合嵌入方法,降低由分词错误产生的误差;在实体抽取层中添加关系标签嵌入机制,融合文本与关系标签,利用注意力机制来区分句子中实体与不同关系标签的相关性,由此提高匹配精度;采用指针标注的方法匹配实体,提高了对关系重叠三元组的抽取效果。在公开的DuIE数据集上进行了对比实验,相较于表现最好的基线模型(CasRel),HEPA的F1值提升了2.8%。

关键词：三元组抽取关系嵌入 BERT 注意力机制指针标注

来源：评论

学校读者我要写书评

暂无评论

基于Schema增强的中文实体关系抽取方法

引用

软件导刊 2023年第2期22卷 47-52页

作者：饶东宁李冉广东工业大学计算机学院广东广州510000

针对中文实体关系抽取任务中的实体边界切分错误和实体关系重叠,以及不同数据集的关系种类不能很好地迁移的问题,提出一种基于Schema增强的实体关系抽取方法。首先,采用字词混合嵌入的方式融合字与词的语义信息,避免中文分词时边界切分... 详细信息

针对中文实体关系抽取任务中的实体边界切分错误和实体关系重叠,以及不同数据集的关系种类不能很好地迁移的问题,提出一种基于Schema增强的实体关系抽取方法。首先,采用字词混合嵌入的方式融合字与词的语义信息,避免中文分词时边界切分出错所造成的歧义问题;其次,利用指针标注的方式解决关系重叠问题;最后,提取出每个数据集的Schema进行合并作为先验特征传入模型中,以解决实体冗余及关系种类迁移问题。在三大中文实体关系抽取数据集DuIE、FinRE、SanWen上进行实验,相较于先前的模型,该方法分别取得10%、18%、11%的F1提升,且表现出更高的稳定性。

关键词：命名实体识别关系抽取 Schema增强字词混合嵌入指针标注

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的金融领域中文实体关系联合抽取算法研究

基于深度学习的金融领域中文实体关系联合抽取算法研究

引用

作者：刘玉鹏青岛科技大学

学位级别：硕士

在当今信息化时代,金融领域的各类金融交易和活动每天都会产生海量的信息资源。如何快速而准确地从海量的数据中获取有用的知识成为金融领域信息智能处理研究的一个难点。利用实体关系抽取方法可以自动高效地从这些非结构化的金融信息... 详细信息

在当今信息化时代,金融领域的各类金融交易和活动每天都会产生海量的信息资源。如何快速而准确地从海量的数据中获取有用的知识成为金融领域信息智能处理研究的一个难点。利用实体关系抽取方法可以自动高效地从这些非结构化的金融信息中抽取三元组,为构建金融领域知识图谱提供数据支持。实体关系抽取可以分为流水线方法和实体关系联合抽取方法。流水线方法把实体关系抽取分为两个独立的任务,因此会导致任务之间缺乏关联、错误传播以及信息冗余等问题。而实体关系联合抽取方法可以在一个统一的模型中同时处理实体和关系,克服流水线方法存在的缺点,成为主流学习方法。本文针对金融领域实体关系联合抽取技术进行深入研究,主要研究内容如下:(1)针对重叠三元组问题,本文提出融合FGM(Fast Gradient Method)和指针标注的实体关系联合抽取模型BERT-FGM。该模型以BERT(Bidirectional Encoder Representations from Transformers)模型为基础,通过使用一种新的指针标注策略将实体对上的关系建模为函数,有效地解决重叠三元组问题。此外,通过在BERT模型训练词向量的过程中融入FGM对抗训练算法提高模型的泛化性能。在公共数据集Web NLG和NYT与其他实体关系联合抽取模型进行对比实验,本文提出的BERT-FGM模型的F1值达到90.7%和88.3%,有效地解决三元组重叠问题。(2)针对中文BERT模型未对金融领域优化和以字为粒度切分的缺点,本文基于金融领域预训练模型Fin BERT(BERT for Financial Text Mining)对BERT-FGM模型优化得到Fin BERT-FGM模型。该模型使用全词MASK技术对金融领域的语料库和词汇表进行预训练,学习金融领域的先验知识,克服BERT模型在中文金融文本识别不佳的缺点。在本文构建的金融关系三元组数据集上的对比实验中,Fin BERT-FGM模型相比于BERT-FGM模型在准确率和召回率上分别提升了2.8%和3.4%。使用Python设计并开发一款基于Fin BERT-FGM模型的金融领域关系三元组抽取软件,实现识别结果的可视化及保存识别结果的功能。

关键词：金融领域实体关系联合抽取重叠三元组指针标注对抗训练 FinBERT

来源：评论

学校读者我要写书评

暂无评论

面向文本的PL&A实体关系联合抽取模型研究与应用

面向文本的PL&A实体关系联合抽取模型研究与应用

引用

作者：朱宇梁江西财经大学

学位级别：硕士

信息抽取是自然语言处理领域的关键技术之一,通常是指从大量的数据中提取出有用信息。互联网上的数据多是不规则、多类型、无规律的文本数据。传统的实体识别和关系抽取多是独立的两个任务形式。抽取方式是将实体抽取和关系抽取分开进行... 详细信息

信息抽取是自然语言处理领域的关键技术之一,通常是指从大量的数据中提取出有用信息。互联网上的数据多是不规则、多类型、无规律的文本数据。传统的实体识别和关系抽取多是独立的两个任务形式。抽取方式是将实体抽取和关系抽取分开进行,这种抽取方式容易导致实体冗余、误差传递、关系重叠等诸多问题。本文面对管道式抽取存在的问题,研究基于指针(Pointer Labeling)和注意力机制(Attention Mechanism)的PL&A实体关系联合抽取模型,并将模型应用于古诗词知识图谱的构建和应用。本文主要研究工作包括如下几个方面:(1)针对联合抽取模型进行改进,在输入阶段采用动态词嵌入方式。不同于传统实体关系抽取思想,本文采用父实体和关系去预测子实体的思路,不再将关系类型看作离散化的标签,关系抽取阶段利用多重指针标注的形式进行标注。并对上述两个任务进行统一建模,实现两个任务之间的参数共享,提高模型联合抽取的性能。最后通过进行对比实验、消融实验和训练参数对比实验验证模型效果。实验证明模型在识别文本的重叠关系、解决实体冗余方面取得了良好的效果。(2)确定古诗词知识服务的需求之后,开展基于古诗词知识图谱的智能服务研究。将PL&A实体关系联合抽取模型应用于爬取的古诗词数据。在词嵌入上根据中文文本数据特点,本文在词嵌入上采用字词融合方式,采用字向量和词语向量拼接形式,提升输入句子的表征能力。并利用人工标注的古诗词数据集对实体关系联合抽取模型进行训练,构建基于古诗词文本数据的知识图谱。最后基于古诗词知识图谱和联合抽取模型设计了可视化查询、智能问答和实体关系抽取等古诗词相关知识应用。

关键词：联合抽取知识服务注意力机制 Bert 指针标注

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的事件抽取方法研究

基于深度学习的事件抽取方法研究

引用

作者：冯珊珊长春工业大学

学位级别：硕士

事件抽取是信息抽取的重要子任务,是文本信息智能化处理的基础技术,在信息检索、智能问答和知识图谱研究领域中具有广泛的应用。现阶段事件抽取方法研究除通用领域之外主要集中在司法领域、新闻领域、突发事件领域以及金融领域。随着深... 详细信息

事件抽取是信息抽取的重要子任务,是文本信息智能化处理的基础技术,在信息检索、智能问答和知识图谱研究领域中具有广泛的应用。现阶段事件抽取方法研究除通用领域之外主要集中在司法领域、新闻领域、突发事件领域以及金融领域。随着深度学习在人工智能领域的兴起,研究者发现基于深度学习的方法在事件抽取的深层次特征提取上有机器学习方法不具备的优势。基于深度学习的事件抽取通常被转换成分类任务、标注任务和机器阅读理解任务,主流的研究方法是将事件抽取转换成标注任务。事件抽取任务本身存在元素重叠、语句歧义、特征融合不充分、错误传播误差累积等问题。金融领域数据具有信息冗杂性与语序复杂性、对事件类型要求相对专业化、事件要素识别准确率要求较高等特点。本文聚焦于金融领域,针对金融领域数据本身特性和事件抽取任务存在的基本问题进行相关模型方法研究。针对事件抽取中的语句歧义、元素重叠以及错误传播问题,本文提出一种基于指针标注的事件联合抽取模型。模型的编码层利用BERT预训练模型对金融文本语句进行编码,得到句子的语义信息后融入事件类型信息进行语义增强。并将融合后的句子信息输入到触发词解码层的自注意力层中进行特征的提取,最后通过指针标注的方法对于触发词进行解码。再将融合事件类型和触发词信息的句子信息输入到论元解码层的自注意力层中进行特征的提取,用指针标注的方式加触发词的相关信息解码事件的论元。在模型训练的过程中加入对抗训练增强鲁棒性和泛化性。针对事件特征提取不充分以及金融数据的语序复杂的问题,本文在基于指针标注的事件联合抽取模型的基础上设计一种基于PERT预训练的事件联合抽取模型。金融文本句子输入到PERT预训练模型编码层中得到句子向量,融合事件类型信息,并将融合后的句子信息分别输入到触发词解码层的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后通过指针标注的方法对触发词进行解码,在将融合事件类型和触发词信息的句子信息分别输入到论元解码层中的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后用指针标注的方式加触发词的相关信息解码事件的论元。本文的两个事件联合抽取模型在中文金融数据集Few FC上进行实验验证,实验结果表明本文提出的两个事件抽取模型均能有效提升事件抽取的结果,且测试结果优于其他对比实验的结果,证明了模型的有效性和优越性。

关键词：事件抽取深度学习金融领域指针标注对抗学习

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：