检索结果-内蒙古大学图书馆

高技术通讯 2006年第8期16卷 795-801页

作者：赵健王晓龙关毅徐志明哈尔滨工业大学计算机科学与技术学院哈尔滨150001

首次把条件随机域（CRF）模型应用到了中文名实体识别中，且根据中文的特点，定义了多种特征模板。同时，为了解决长距离约束问题，将词语触发对融合到了CRF模型中。提出了基于词语方差（word variance）的选词方法，在词语相关性计算... 详细信息

首次把条件随机域（CRF）模型应用到了中文名实体识别中，且根据中文的特点，定义了多种特征模板。同时，为了解决长距离约束问题，将词语触发对融合到了CRF模型中。提出了基于词语方差（word variance）的选词方法，在词语相关性计算上，采用了平均互信息（AMI）方法和χ^2统计量方法。通过在半年人民日报上的测试，结果表明在采用相同特征集合的条件下，条件随机域模型较其他概率模型有更好的性能表现；融合长距离触发对的条件随机域模型可以使系统的F量度提高约1．38％。

关键词：中文名实体识别概率模型条件随机域词语触发对信息抽取自然语言处理

来源：评论

学校读者我要写书评

暂无评论

条件概率模型研究及其在中文名实体识别中的应用

条件概率模型研究及其在中文名实体识别中的应用

引用

作者：赵健哈尔滨工业大学

学位级别：博士

条件概率模型，又称为判别式模型（Discriminative Model），是一类常用的模式识别方法，它相对于产生式模型有很多优点。产生式模型早期被广泛应用到自然语言处理中，包括词性标注、边界识别、名实体识别、句法分析等。从上世纪80年代... 详细信息

条件概率模型，又称为判别式模型（Discriminative Model），是一类常用的模式识别方法，它相对于产生式模型有很多优点。产生式模型早期被广泛应用到自然语言处理中，包括词性标注、边界识别、名实体识别、句法分析等。从上世纪80年代后期开始，条件概率模型开始引起研究者们的注意，特别是在自然语言处理领域，由于条件概率模型更适合序列标注以及可以使用丰富特征的特点，因此条件概率模型在诸多的应用中，例如词性标注、名实体识别、组块分析、中文分词等，其性能表现都超过了产生式模型。\n 本文主要针对最大熵模型和条件随机域模型进行了较深入的理论研究。同时讨论了如何利用最大熵模型和条件随机域模型进行中文名实体识别，通常在名实体中，人名、地名、机构名比较难以识别，而数字、日期、时间等类别采用基于规则的方法就可以很好的识别，因此本文的研究重点是针对前三种名实体的识别。具体研究内容包括以下几个方面：\n 第一，针对最大熵模型在对不完整样本进行分类时表现不好的问题，我们提出了改进原有模型中特征补偿的方式。常用于训练最大熵模型参数的GIS（Generalized Iterative Scaling）算法要求必须满足一个条件：每个事件对不同的输出类别应该包含相同数量的特征。针对这一要求，传统的方法是采用一个全局唯一的补偿特征，然后乘以丢失的特征数。其潜在的思想是认为丢失特征对分类的贡献是等同的。本文提出了一种改进的特征补偿策略，即认为不同的特征类型对不同的输出类别有不同的贡献。通过把改进后的模型在机器学习的标准数据集上和原模型做对比测试表明，修正后的补偿策略能提高模型的学习效率和分类精度。\n 第二，本文分析了传统最大熵模型中特征表达方式的特点，指出这种特征表达方式存在的两个缺点：首先是没有考虑属性类型对分类的影响，其次，由于增加补偿特征来弥补丢失属性对分类的影响，导致迭代算法的收敛速度降低。为此，我们提出了一种改进最大熵模型特征表达的方法，即在传统模型特征的基础上，引入了属性类型对分类的影响，新模型的特征包含两部分：属性值对分类的贡献和属性类型对分类的贡献。在绝大多数分类任务中，训练集中的样本大多数都是完整的或者不同样本丢失的属性并不相同。基于这个事实，在训练过程中，利用完整样本和在当前属性上有取值的样本训练得到每种属性类型对分类的贡献度，该贡献度通过线形组合和原模型中的特征共同作用于样本的分类。通过在标准机器学习数据集上的实验测试，改进后的特征表达的分类性能较传统最大熵模型的性能有较大提高。\n 第三，本文将最大熵模型用于中文名实体识别，并在其框架下，定义了多种特征，其中包括上下文特征（N-gram）、词典特征（中文姓氏词典、地名词典）、构词特征（后缀）等。同时，我们在研究过程中发现，在加入词典特征后，某些词的词典特征因为共享权值，而使得权值过度增加，无法正确识别出该词在特定上下文环境中的类别。我们把这种现象称之为“权重偏置”（Weight Bias）。为了解决这一问题，本文提出了通过把特征分为原子特征，然后再对原子特征进行二元组合和三元组合形成一组复合特征的策略。同时为了降低系统的复杂性，避免过拟合的发生，我们采用了基于互信息的特征模板选择方法。\n 第四，本文采用条件随机域（CRF：Conditional Random Field）模型来进行中文名实体识别，为了考虑长距离约束对名实体识别的影响，我们在CRF模型中融合了触发对的特征。提出了一种基于词方差的选择触发对候选词的方法，并且采用了两种词语相关度的计算方法，即平均互信息和2χ统计量，其中2χ统计量是第一次被用来抽取中文触发对。更进一步对四种主要的概率模型在同等的条件下，在中文名实体上的性能表现作了比较。实验表明在四种概率模型中，由于CRF模型兼有产生式模型和判别式模型的优点，因此其在中文名实体识别上的性能最好。

关键词：条件概率模型中文名实体识别模式识别词性标注最大熵模型条件随机域

来源：评论

学校读者我要写书评

暂无评论

N-最短路径中文分词与基于最大熵模型的中文名实体识别

N-最短路径中文分词与基于最大熵模型的中文名实体识别

引用

作者：明丽宏哈尔滨工业大学

学位级别：硕士

名实体最初是在MUC(Message Understanding Conference)上被提出的.根据最近的1997年名实体任务的定义,名实体识别包括三个子任务:实体名、时间表示语、数字表示语.其中实体名包括:人名、地名、机构名;时间表示语包括:日期短语和时间短... 详细信息

名实体最初是在MUC(Message Understanding Conference)上被提出的.根据最近的1997年名实体任务的定义,名实体识别包括三个子任务:实体名、时间表示语、数字表示语.其中实体名包括:人名、地名、机构名;时间表示语包括:日期短语和时间短语;数字表示语包括:货币短语和比例值.在信息检索、问答系统、文本分类、信息抽取等中文信息处理领域中,如何正确地识别和分类名实体是一项关键、困难的工作.特别是随着INTERNET的普及,对高速运行的名识体识别系统的要求不断增长.近几年,英文名实体识别做了大量工作,取得了一定的成效.目前,中文名实体识别还处于起步阶段.中文名实体识别由于两个原因使其比英文名实体识别困难得多,第一,在中文句子中,词与词之间没有空格,导致分词的精确度不高;第二,各类名实体没有明显的特征可以区分开(如:英文人名、地名的第一个字母大写).这些都对正确地分类和识别中文名识体提出了挑战.中文词语分析一般包括三个过程:预处理过程的词语粗切分,切分排歧与未登录词识别、词性标注.预处理过程产生的粗分结果是后续过程的处理对象,粗分结果的准确性与包容性,直接影响系统最终的准确率、召回率.采用当前常用的粗分方法,词语粗切分的召回率均不足93.5％.该文实现一种旨在提高召回率同时兼顾准确率的词语粗分模型——基于N-最短路径方法的中文词语粗分模型.根据我们对大规模真实语料库的对比测试,粗分结果的召回率比目前最好的方法至少高出6.4％,与最大匹配法比较,句子召回率提高将近15％.该文将最大熵模型应用到中文名实体识别中,提出了前向和后向(即双向)相结合的最大熵模型训练方法.实验结果表明双向名实体模型比前向名实体模型在地名和组织机构名上的精确度平均提高3％.同时,结合中文名实体的特点,综合考虑上下文信息、词本身信息、词典信息、标记信息和词的构成信息等对中文名实体的影响,给出了适合于中文名实体识别的特征模板,通过对原子特征模板的组合,得到复合特征模板,并以此生成候选特征空间.进而给出特征选择和特征引入算法,对候选特征删选得到有效特征.实验结果表明,考虑特征选择后系统精确度提高2-3％.

关键词：中文名实体识别最大熵模型特征选择 N-最短路径

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：