检索结果-内蒙古大学图书馆

自动化学报 2020年第8期46卷 1759-1766页

作者：冯建周马祥聪燕山大学信息科学与工程学院秦皇岛066004 燕山大学河北省软件工程重点实验室秦皇岛066004

细粒度实体分类(Fine-grained entity type classification,FETC)旨在将文本中出现的实体映射到层次化的细分实体类别中.近年来,采用深度神经网络实现实体分类取得了很大进展.但是,训练一个具备精准识别度的神经网络模型需要足够数量的... 详细信息

细粒度实体分类(Fine-grained entity type classification,FETC)旨在将文本中出现的实体映射到层次化的细分实体类别中.近年来,采用深度神经网络实现实体分类取得了很大进展.但是,训练一个具备精准识别度的神经网络模型需要足够数量的标注数据,而细粒度实体分类的标注语料非常稀少,如何在没有标注语料的领域进行实体分类成为难题.针对缺少标注语料的实体分类任务,本文提出了一种基于迁移学习的细粒度实体分类方法,首先通过构建一个映射关系模型挖掘有标注语料的实体类别与无标注语料实体类别间的语义关系,对无标注语料的每个实体类别,构建其对应的有标注语料的类别映射集合.然后,构建双向长短期记忆(Bidirectional long short term memory,BiLSTM)模型,将代表映射类别集的句子向量组合作为模型的输入用来训练无标注实体类别.基于映射类别集中不同类别与对应的无标注类别的语义距离构建注意力机制,从而实现实体分类器以识别未知实体分类.实验证明,我们的方法取得了较好的效果,达到了在无任何标注语料前提下识别未知命名实体分类的目的.

关键词：细粒度实体分类迁移学习双向长短期记忆模型注意力机制

来源：评论

学校读者我要写书评

暂无评论

细粒度实体分类与短文本实体链接研究

细粒度实体分类与短文本实体链接研究

引用

作者：詹飞湖南工业大学

学位级别：硕士

互联网中的文本数据在当前的大数据时代呈现爆炸式增长,如何从海量的互联网文本中准确地找出对人们有价值的信息成为当前的热点研究问题。知识图谱的产生为海量互联网数据的充分利用提供了可能。细粒度实体分类是信息抽取任务中的关键环... 详细信息

互联网中的文本数据在当前的大数据时代呈现爆炸式增长,如何从海量的互联网文本中准确地找出对人们有价值的信息成为当前的热点研究问题。知识图谱的产生为海量互联网数据的充分利用提供了可能。细粒度实体分类是信息抽取任务中的关键环节,能够为实体链接和知识图谱的下游应用提供辅助作用;实体链接是知识图谱构建和应用过程中的关键技术。论文主要研究内容为细粒度实体分类和短文本实体链接,研究成果如下:（1）提出一种基于BERT的细粒度实体分类方法。首先将样本输入BERT层进行特征提取,然后取BERT输出的[CLS]位置对应的向量作为输入文本的句子向量;根据实体指称在输入文本中的开始和结束位置取BERT输出中对应位置的向量,将其拼接作为实体指称特征向量。将实体指称特征向量和句子向量拼接组成联合向量,将联合特征向量输入分类层对实体指称进行分类。实验结果表明,本章提出的细粒度实体分类方法能够有效解决中文细粒度实体分类问题。（2）提出一种基于多任务学习的短文本实体链接方法,将多任务学习方法引入短文本实体链接过程中。构建多任务学习模型,将短文本实体链接作为主任务,引入实体分类作为辅助任务,辅助任务能够缓解短文本实体链接过程中信息不充分的问题,促使模型学习到更加通用的底层表达,从而提高模型的泛化能力,优化模型在短文本实体链接任务中的表现。在CCKS2020（全国知识图谱与语义计算大会）任务二数据集上的实验表明,该方法取得了较好的实体链接效果,可以有效解决短文本实体链接过程中的信息不充分问题。

关键词：细粒度实体分类 BERT 联合向量短文本实体链接多任务学习信息不充分

来源：评论

学校读者我要写书评

暂无评论

融合记忆网络的细粒度实体分类方法

引用

计算机科学与探索 2022年第11期16卷 2565-2574页

作者：周祺陶皖孔超崔佰婷安徽工程大学计算机与信息学院安徽芜湖241000

细粒度实体分类是在给定实体指称后要求为其分配细粒度类型标签的任务。大多数细粒度实体分类采用远程监督的方法,为实体指称分配知识库中实体所对应的全部类型标签,这会引入无关或具体的噪声标签。在远程监督中,将分配与指称上下文无... 详细信息

细粒度实体分类是在给定实体指称后要求为其分配细粒度类型标签的任务。大多数细粒度实体分类采用远程监督的方法,为实体指称分配知识库中实体所对应的全部类型标签,这会引入无关或具体的噪声标签。在远程监督中,将分配与指称上下文无关的类型标签归为无关噪声标签,分配细粒度标签导致在上下文中实体含义不准确的类型标签归为具体噪声标签。为减轻噪声影响,以往采用人工标注、启发式规则剪枝等方法,但存在效率低、缩减训练集规模导致分类模型整体性能变差等问题。通过引入记忆网络,分类模型能深入学习实体指称上下文与类型标签之间的关联性,增强对相似的指称上下文所对应类型标签的记忆表示,有效减轻无关噪声标签的影响。与此同时,利用变形的层次损失函数有效学习类型标签之间的层次关系,从而缓解具体噪声标签的负面影响。此外,结合L2正则化函数防止训练模型对噪声标签的过拟合。在公开数据集上的实验结果表明,提出的方法能够有效缓解无关噪声标签和具体噪声标签对分类模型的消极影响,在准确率、MacroF1值、MicroF1值上表现均优于以往处理标签噪声的方法。

关键词：细粒度实体分类噪声处理记忆网络类型标签

来源：评论

学校读者我要写书评

暂无评论

结合上下文的细粒度实体分类特征表示方法

引用

计算机工程与科学 2024年第5期46卷 929-936页

作者：刘盼郭延明雷军王昊冉老松杨李国辉国防科技大学系统工程学院湖南长沙410073

细粒度实体分类任务赋予文本中的实体以细粒度类别,能够通过类别信息为实体提供丰富的语义信息,在关系抽取、实体链接和问答系统等下游任务中发挥重要作用。由于实体在句子中的长度和位置是不统一的,无法直接计算实体在上下文中的表示,... 详细信息

细粒度实体分类任务赋予文本中的实体以细粒度类别,能够通过类别信息为实体提供丰富的语义信息,在关系抽取、实体链接和问答系统等下游任务中发挥重要作用。由于实体在句子中的长度和位置是不统一的,无法直接计算实体在上下文中的表示,现有的细粒度实体分类方法将实体提及与其上下文分别进行处理和特征表示,割裂了实体与其上下文之间的语义关联。提出一种结合上下文的实体分类特征表示方法,将实体放回上下文,并解决了实体长度和位置不统一的情况下,实体特征表示的计算问题。实验结果表明,采用结合上下文的实体特征表示方法提取实体在上下文中的特征表示,能够大幅提升细粒度实体分类的性能,该方法在中文细粒度实体分类数据集CFET上的Macro-F1较原文普遍提高了10%以上。

关键词：细粒度实体分类上下文特征表示

来源：评论

学校读者我要写书评

暂无评论

基于层次结构感知的细粒度实体分类方法

引用

计算机应用 2022年第10期42卷 3003-3010页

作者：谢斌红李书宁张英俊太原科技大学计算机科学与技术学院太原030024

针对现有细粒度实体分类(FGET)任务的工作多着眼于如何更好地编码实体和上下文的语义信息,而忽略了标签层次结构中标签之间的依赖关系及其本身的语义信息的问题,提出了一种基于层次结构感知的细粒度实体分类(HAFGET)方法。首先,利用基... 详细信息

针对现有细粒度实体分类(FGET)任务的工作多着眼于如何更好地编码实体和上下文的语义信息,而忽略了标签层次结构中标签之间的依赖关系及其本身的语义信息的问题,提出了一种基于层次结构感知的细粒度实体分类(HAFGET)方法。首先,利用基于图卷积网络(GCN)的层次结构编码器对不同层级标签之间的依赖关系进行建模,提出了基于层次结构感知的细粒度实体分类多标签注意力(HAFGET-MLA)模型和基于层次结构感知的细粒度实体分类实体特征传播(HAFGET-MFP)模型;然后,利用HAFGET-MLA模型和HAFGET-MFP模型对实体上下文特征进行层次结构感知和分类,前者通过层次编码器学习层次结构感知标签嵌入,并与实体特征通过注意力融合后进行标签分类,后者则直接将实体特征输入到层次结构编码器更新特征表示后进行分类。在FIGER、OntoNotes和KNET三个公开数据集上的实验结果表明,与基线模型相比,HAFGET-MLA模型和HAFGET-MFP模型的准确率和宏平均F1值均提升了2%以上,验证了所提方法能够有效提升分类效果。

关键词：细粒度实体分类图卷积网络注意力机制条件概率层次结构编码器

来源：评论

学校读者我要写书评

暂无评论

细粒度实体分类的研究进展

引用

科技资讯 2023年第11期21卷 167-170页

作者：刘波韩山师范学院数学与统计学院广东潮州521041

细粒度实体分类是自然语言处理中一项重要的基础任务,实体的类别信息为实体链接、关系抽取、事件抽取等下游任务提供帮助。近年来,基于深度学习的细粒度实体分类研究成为热点,该文从处理数据噪声、对类别层级建模、少样本学习和其他一... 详细信息

细粒度实体分类是自然语言处理中一项重要的基础任务,实体的类别信息为实体链接、关系抽取、事件抽取等下游任务提供帮助。近年来,基于深度学习的细粒度实体分类研究成为热点,该文从处理数据噪声、对类别层级建模、少样本学习和其他一些方法进行了综述性介绍,并介绍了常见的数据集和评测方法,并对未来的研究方向进行了展望。

关键词：自然语言处理细粒度实体分类深度学习信息抽取

来源：评论

学校读者我要写书评

暂无评论

基于知识图谱表示学习的细粒度实体分类算法研究

基于知识图谱表示学习的细粒度实体分类算法研究

引用

作者：牛雷苏州大学

学位级别：硕士

实体的类型信息在知识图谱中非常重要,实体的类型信息粒度越细,其在各种知识图谱相关的任务(例如:实体链接、关系预测、问答系统等)中起到的作用就越大。然而,很多常见的知识图谱中存在着大量缺失类型的实体,实体分类的任务就是为这样... 详细信息

实体的类型信息在知识图谱中非常重要,实体的类型信息粒度越细,其在各种知识图谱相关的任务(例如:实体链接、关系预测、问答系统等)中起到的作用就越大。然而,很多常见的知识图谱中存在着大量缺失类型的实体,实体分类的任务就是为这样的实体补全缺失的类型。作为大多数知识图谱相关任务的上游任务,知识图谱表示学习通常根据实体之间的关系将实体和关系表示为方便参与计算的低维向量。近年来,知识图谱表示学习在实体分类任务中有着相当的应用。然而这类方法大多难以处理新出现的实体而且其表现也严重依赖于实体之间关系的稠密程度。并且,当类型粒度较细时,上述方法难以取得良好的效果。对此,本文主要研究了针对新增实体以及关系稀疏实体的知识图谱表示学习方法,并且探索了知识图谱表示学习技术如何提升细粒度实体分类的效果,从而更好地补全图谱的类型信息。本文的主要研究内容为:(1)本文针对新增实体提出了一种基于多重注意力的知识图谱表示学习方法。该方法首先通过实体的文本摘要信息来获得实体的初步表示,随后使用多重注意力机制增强实体的表示。本文在多个数据集上的实验验证了该方法对于新增实体的表示能力。(2)本文提出了一个专门面向关系稀疏的实体进行细粒度分类的方法。该方法借鉴了传统表示学习的思想,提出了一个专门用于实体分类的优化目标。同时本文引入了非连续型属性来解决部分实体关系稀疏的问题。本文在两个真实数据集上进行实验,证实了所提方法对于关系稀疏实体的分类能力。(3)针对细粒度实体分类这个下游任务,本文提出了一种基于多重注意力机制的双视角表示学习方法。该方法引入了实体分类任务中独有的类型的文本摘要信息以及类型之间的关系网络信息。首先在双视角下分别表示实体的语义向量以及类型的语义向量,随后经由得分函数获得实体是各个类型的可能性得分。实验结果证明了该方法的有效性。

关键词：知识图谱细粒度实体分类表示学习

来源：评论

学校读者我要写书评

暂无评论

基于半监督学习的远程监督细粒度实体分类技术研究

基于半监督学习的远程监督细粒度实体分类技术研究

引用

作者：陈博浙江大学

学位级别：硕士

细粒度实体分类是信息抽取的一项关键基础任务,该技术为信息抽取、知识图谱构建、问答系统等下游应用提供了重要的技术支撑。由于细粒度实体分类的人工标注数据较难获取,工业界与学术界通常采用远程监督的方法去获取构建细粒度实体分类... 详细信息

细粒度实体分类是信息抽取的一项关键基础任务,该技术为信息抽取、知识图谱构建、问答系统等下游应用提供了重要的技术支撑。由于细粒度实体分类的人工标注数据较难获取,工业界与学术界通常采用远程监督的方法去获取构建细粒度实体分类系统所需的训练语料。远程监督方法给细粒度实体分类带来了噪声标签的问题。如何利用带噪声标签的数据去构建细粒度实体分类系统称为远程监督细粒度实体分类,也是目前细粒度实体分类技术的核心问题。现有方法对噪声数据的利用存在丢失训练语料、易受到确认偏差影响等问题。半监督学习是监督学习与无监督学习相结合的一种学习方法,希望借助大量的未标记数据来提高模型的性能,通常依赖于数据的全局和局部一致性来利用未标记数据。针对目前对噪声数据利用方面的问题,本文从半监督学习角度出发,同样依赖于数据的全局和局部一致性以利用带噪声标签数据,提出了两种方法对该技术进行研究:(1)基于压缩隐空间簇的远程监督细粒度实体分类方法:为了绕开确认偏差问题,同时有效的利用带噪声标签的数据,该方法构造了一个基于标签传播的正则化损失对模型的特征抽取器进行约束,从而建模了局部和全局一致性假设。该约束使得同一个类簇的样本聚拢在一起。在数据间的标签相似度计算上,该方法提出在样本表示空间上通过标签传播方法得到每个样本的标签分布,然后利用这个分布去计算相似度。通过压缩隐空间簇方法,该方法在绕开确认偏误问题的同时,有效利用了噪声数据,不仅在两个基准数据集上都超过发表时国内外同类算法报告的结果(该方法发表在NAACL 2019中),而且在高噪声情况下,显著优于同等条件下基于部分标记损失的方法,在公开数据集BBN上仅仅利用27.9%的数据就达到了与之前最好的方法相当的结果。(2)基于虚拟对抗训练的远程监督细粒度实体分类方法:从局部分布式平滑度角度出发,通过虚拟对抗训练构造了一个可以增大局部分布式平滑度的损失,从而建模了局部一致性。首先,该方法构造了使局部分布式平滑度最小的扰动。然后该方法基于分类器的预测在扰动下应保持平滑的假设,去构造针对分类器的正则化损失。由于该方法存在确认偏差问题,因此在高噪声情况下,本文提出了一种启发式的样本选择函数以缓解该问题。在高噪声情况下,该样本选择函数带来了很大的性能提升。此外本文也探索了词性标注辅助任务训练与该方法结合的效果,希望模型学到词性方面的信息来帮助其分类。借助以上这些技术,该方法在两个基准数据集上显著提高了基础模型的效果,并超过了当前最先进水平。本文所提出的两种方法为远程监督细粒度实体分类提供了一种崭新的思路,相比较过去的方法更好的利用了噪声数据去训练模型,在两个公开数据集上实现了当前最好效果。此外,本文提出的方法在2019年TAC KBP大赛的实体识别与实体发现赛道上,取得了综合成绩国内第一名的优异成绩。方法本身也被应用在了中国工程科技知识中心建设项目中的知识计算引擎中。

关键词：细粒度实体分类远程监督压缩隐空间簇虚拟对抗训练半监督学习

来源：评论

学校读者我要写书评

暂无评论

基于远程监督的细粒度实体分类方法研究

基于远程监督的细粒度实体分类方法研究

引用

作者：张正奇东华大学

学位级别：硕士

细粒度实体分类任务是信息抽取中的一项重要任务,其目标是将句子中出现的实体指称项分类到一组预定义的细粒度概念集合中。理解句子中实体指称项的概念有助于各种下游应用,例如实体链接、问答系统、推荐系统等。目前流行的细粒度实体分... 详细信息

细粒度实体分类任务是信息抽取中的一项重要任务,其目标是将句子中出现的实体指称项分类到一组预定义的细粒度概念集合中。理解句子中实体指称项的概念有助于各种下游应用,例如实体链接、问答系统、推荐系统等。目前流行的细粒度实体分类模型主要基于深度学习,需要大量高质量的标注数据用于训练。然而,由人工进行标注代价高昂。因此,远程监督方法被提出用于自动地生成大规模的细粒度实体分类标注数据。其基本思想是引入外部知识库,将句子中的实体指称项链接到外部知识库的实体上,并将该实体的所属概念集作为句子中实体指称项的标注结果。尽管远程监督能够高效地生成大量的标注数据,但由于其标注的时候并没有考虑实体指称项所在的上下文信息,容易产生噪声标签。使用带噪声标签的数据训练会显著降低模型的性能。为了解决这一问题,现有的大多数方法都假定远程监督标注的细粒度实体分类数据集可以分为“干净”集和“噪声”集,并使用了不同的策略来划分和处理这两类数据。但这些方法仍然存在两方面挑战:(1)当前方法使用的“干净”集主要通过人工标注或启发式规则产生。前者需要额外的人工代价,后者产生的“干净”集的标签依然存在假阳性问题(即噪声标签)。(2)当前方法主要采用基于部分标签损失的方法来处理“噪声”集,即模型将自身的预测结果作为下一步训练的优化目标,这会导致确认偏差的问题。针对当前方法存在的挑战,本文提出了两种不同的解决方案。具体来说,本文的研究内容及主要贡献如下:(1)本文提出了一种基于三阶段课程学习的细粒度实体分类方法,迭代地从远程监督标注的数据集中自动筛选出干净的数据用于训练细粒度实体分类模型,解决了当前使用“干净”集的方法需要额外的人工代价或者存在假阳性的问题。同时,在课程学习的三个不同阶段中,针对当前数据集中存在的噪声问题,提出了基于不同策略的层次化标签平滑方法,用于对训练数据的标签进行不同程度的平滑,并用平滑后的标签来训练分类模型,防止模型拟合噪声数据。(2)本文提出了一种基于半监督学习的细粒度实体分类方法,具体来说,本文将“干净”集视为标注数据,“噪声”集视为无标注数据。针对“干净”集上的假阳性问题,本文提出了一种混合标签平滑方法来生成“干净”集中数据的平滑标签用于模型训练,避免对噪声数据的过拟合。针对“噪声”集上的确认偏差问题,本文不考虑“噪声”集中数据的原始标签,而是使用伪标签技术为“噪声”集中的数据生成可靠的伪标签用于模型训练。(3)本文在三个广泛使用的基于远程监督的细粒度实体分类数据集上进行实验。对于基于三阶段课程学习的细粒度实体分类方法,该方法与当时最相关的基线方法进行比较,实验结果表明使用该方法在三个数据集上都取得了比基线方法更好的效果,样例分析表明了该方法能够筛选干净数据。对于基于半监督学习的细粒度实体分类方法,该方法与当时最相关的基线方法在三个数据集上进行对比,实验结果表明了该方法的有效性,并显示了该方法优于其他基于半监督学习的去噪方法。

关键词：细粒度实体分类远程监督标签平滑课程学习半监督学习

来源：评论

学校读者我要写书评

暂无评论

基于多任务的元学习方法在细粒度实体分类中的研究

基于多任务的元学习方法在细粒度实体分类中的研究

引用

作者：郑路也浙江大学

学位级别：硕士

互联网发展至今,每时每刻都会产生海量的非结构化信息数据,需要利用信息抽取技术自动地将其转化为结构化知识数据存储并利用。细粒度实体分类任务是信息抽取研究关键性的基础任务之一,为知识图谱、知识库的构建提供了关键性的技术支撑... 详细信息

互联网发展至今,每时每刻都会产生海量的非结构化信息数据,需要利用信息抽取技术自动地将其转化为结构化知识数据存储并利用。细粒度实体分类任务是信息抽取研究关键性的基础任务之一,为知识图谱、知识库的构建提供了关键性的技术支撑。细粒度实体分类领域高质量数据资源匮乏,人工标注成本高,数据成为了模型的瓶颈。如何利用已有资源数据,获得更好的模型泛化能力,以及如何在少样本领域,有效地利用新标注的资源,都是亟待解决的问题。本文针对上述挑战,提出了两种方法,一种是针对整合现有数据集的多任务学习方法,另一种则是针对少样本领域的多任务元学习方法。(1)基于多任务的细粒度实体分类的方法。本文设计了基于多任务学习的硬参数共享机制,通过整合多个现有数据集和自主创建的数据集,得到一个通用型模型。此模型借助实体类型的层级信息,构建了实体类型的嵌入式表达;并通过共享特征抽取层,隐式地增加了训练数据,提高了网络的学习能力;在任务层方面,增强了与任务相关的信息,使得共享层的输出能够更加贴合任务本身,进一步提升模型拟合能力。实验结果证明,不论是数据集还是多任务学习的方法,对于细粒度实体分类任务都有较强的提升效果,最佳的模型在原基准模型上有百分之五十的提升。(2)基于多任务的元学习细粒度实体分类的方法。本文设计了一种基于多任务的元学习实验,在新任务上进行训练测试,进而比较模型学会学习的能力。在此基础上本文提出了两种方法:一种是基于梯度下降的元学习算法,它具有较快拟合,且普适性广的特点;另一种是基于原型网络的元学习算法,通过对每个任务中每个实体类型建立原型表征,令模型学习任务之间的先验分布,并通过使用该先验分布的训练结果,使模型在新数据集上取得更出色的成绩。最后通过实验结果表明基于多任务的元学习模型的结果能在基准模型上提升将近百分之四十,进一步证明了上述两种方法的优越性,为少量样本中的细粒度实体分类问题提供了新思路。本文提出的两种方法消除了现有细粒度实体分类数据集之间的鸿沟,也在一定程度上解决了少样本领域中细粒度实体分类的问题。此外,本文提出的方法参加了TAC 2019年知识库构建大赛,并取得了国内第一的成绩,并将方法直接应用到了由中国工程院牵头的中国工程科技知识中心建设项目,为知识库构建发挥了重要的作用。

关键词：细粒度实体分类元学习多任务学习少样本学习

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：