检索结果-内蒙古大学图书馆

作者：韩子嘉黑龙江大学

学位级别：硕士

随着网络新媒体时代的到来,用户生成的海量文本充斥了互联网,这些文本可能包含大量不规范的文字表达。伴随中国综合国力的日益提高,将汉语作为外语的学习者人数也日益增加,初学者可能在学习汉语的过程中出现各种错别字。本文就汉语错别... 详细信息

随着网络新媒体时代的到来,用户生成的海量文本充斥了互联网,这些文本可能包含大量不规范的文字表达。伴随中国综合国力的日益提高,将汉语作为外语的学习者人数也日益增加,初学者可能在学习汉语的过程中出现各种错别字。本文就汉语错别字校对任务进行探索,探究应用神经网络技术对汉语错别字进行自动检测与纠正的方法。本文内容囊括以下的三个方面:基于神经机器翻译的汉语错别字检测与纠正、基于序列标注模型的汉语错别字检测与纠正、融入拼音与笔画特征的汉语错别字检测与纠正。基于神经机器翻译的汉语错别字检测与纠正。本文将汉语错别字校对视作从错字序列到正字序列的机器翻译问题,本文提出的基于神经网络机器翻译的模型,应用了Transformer和Copy Net网络以提高检测和纠正性能。通过采用不同的Word Embedding的进一步探究预训练机制对模型性能的提升。基于序列标注模型的汉语错别字校对。由于基于机器翻译的模型对语料规模依赖较大,针对错别字语料获取困难的特点,本文采用基于序列标注模型进行错别字的检测与纠正任务,降低了模型复杂度。本文采用了Bi-LSTM以及Bi-GRU模型,从正序和逆序双向获取输入序列的语义信息,使用CRF层和Softmax函数对网络的输出进行解码,对输入序列中的汉字逐个预测正字。最终实验结果证明基于序列标注模型的错别字检测与校对的性能优于基于神经机器翻译的模型。融入拼音与笔画特征的汉语错别字校对。错别字类型可分为形近错别字和音近错别字,针对这两种错字成因,本文利用汉字中的因素和结构信息,在序列标注模型的基础上融入了拼音和笔画特征,以字符向量的方式通过卷积神经网络与字的词向量相拼接。实验结果表明融入外部特征的模型性能更优。

关键词：汉语错别字校对神经机器翻译序列标注模型循环神经网络

来源：评论

学校读者我要写书评

暂无评论

序列标注模型中的字粒度特征提取方案研究——以CCKS2017:Task2临床病历命名实体识别任务为例

引用

图书情报工作 2018年第11期62卷 103-111页

作者：孙安于英香罗永刚王祺上海大学图书情报档案系上海200444 河南科技大学图书馆洛阳471023 上海健康医学院医疗器械学院上海201318 华东理工大学计算机科学与技术系上海200237

[目的／意义]针对中文语言表达特点，提出一种含分词标签的字粒度词语特征提取方法，有效提升了中文临床病历命名实体识别任务的F1值，同时该方法可以为其他中文序列标注模型所借鉴。[方法／过程]选取汉语词语的词性标注、关键词权值、... 详细信息

[目的／意义]针对中文语言表达特点，提出一种含分词标签的字粒度词语特征提取方法，有效提升了中文临床病历命名实体识别任务的F1值，同时该方法可以为其他中文序列标注模型所借鉴。[方法／过程]选取汉语词语的词性标注、关键词权值、依存句法分析三个特征，构筑字粒度序列标注模型的临床病历训练文本，语料来源CCKs2017：Task2。在不同特征组合方式下，采用条件随机场算法验证两种字粒度词语特征提取方案Method1与Method2。[结果／结论]在四种不同词语特征组合下，Method2相对于Method1在临床病历命名实体识别任务中性能均有所提升，四折交叉测试中F1值平均提升了0．23％。实验表明在中文分词技术日趋成熟的环境下，Method2相对Method1能够获得更好的词语特征表示，对中文字粒度序列标注模型的处理性能具有提升作用。

关键词：命名实体识别字粒度特征提取序列标注模型条件随机场临床病历

来源：评论

学校读者我要写书评

暂无评论

基于ERNIE-CRF-ESL安全隐患文本结构化解析

引用

北京邮电大学学报 2021年第5期44卷 107-113页

作者：艾新波郭彦君谢云昊陈成北京邮电大学人工智能学院北京100876 北京邮电大学现代邮政学院北京100876

安全隐患描述文本是通过自然语言描述进行记录的,具有主观随意性问题,现有的序列标注相关模型无法从中提取关键知识信息.根据安全隐患描述文本的特点,首先设计了一种适用于安全隐患描述文本的序列标注方法,提出了基于知识集成的增强表示... 详细信息

安全隐患描述文本是通过自然语言描述进行记录的,具有主观随意性问题,现有的序列标注相关模型无法从中提取关键知识信息.根据安全隐患描述文本的特点,首先设计了一种适用于安全隐患描述文本的序列标注方法,提出了基于知识集成的增强表示(ERNIE)模型的进行词向量特征提取,在其基础上通过融合条件随机场(CRF)模块和信息提取(ESL)模块,构建了一种安全生产隐患描述文本结构化解析方法.在某超大城市的安全隐患描述文本上进行了实验,实验结果表明,所提模型在文本结构化解析任务的精确率达到了65.1%,可以从城市安全隐患非结构化数据中获取更多的知识信息,进而规范化安全隐患排查记录工作。

关键词：安全隐患描述文本结构化解析序列标注模型

来源：评论

学校读者我要写书评

暂无评论

基于知识图谱的中文语法纠错研究

基于知识图谱的中文语法纠错研究

引用

作者：邓倩华中师范大学

学位级别：硕士

中文语法纠错是识别并纠正中文文本中语法错误的任务。近年来该研究任务发展迅速并在文本辅助校对、文本辅助编辑、搜索引擎、语言识别、图像转文本等领域都有着广泛的应用。现如今许多自然语言处理任务都获益于基于预训练语言模型的方... 详细信息

中文语法纠错是识别并纠正中文文本中语法错误的任务。近年来该研究任务发展迅速并在文本辅助校对、文本辅助编辑、搜索引擎、语言识别、图像转文本等领域都有着广泛的应用。现如今许多自然语言处理任务都获益于基于预训练语言模型的方法,这也促进了中文语法纠错领域的研究,提高了领域模型的语义提取能力。然而,许多研究并没有充分利用预训练语言模型学习领域知识的优势,导致它们缺乏对中文语法纠错先验知识的表示能力。故本文依据中文语法纠错工作的特性提供了一个新的方法,用于构建基于语法知识图谱的预训练语言模型。另一方面,由于现有的基于序列标注的中文语法纠错模型中纠错标签处理过程太过粗糙,导致时常出现标签集合泛化性不够和一字多标签等标签冲突问题。针对此类标签问题,本文在上述预训练模型的基础上提出基于改进序列标注的中文语法纠错模型。本文主要研究工作如下:(1)构建基于语法知识图谱的预训练语言模型。本文首先采用句子成分间的句法关系构建语法知识图谱,然后采用Tuck ER模型训练知识图谱中的知识三元组增强实体表征的语法信息表达能力,最后通过知识融合编码器将蕴含外部句法知识的实体表征与语义表征深度融合。此外,本文还使用依据汉语语言特点而设定的掩码方法对选定的字词进行预测进一步学习语义和语法知识。实验结果表明该特定于中文语法纠错领域的预训练语言模型对语法知识进行建模的有效性。(2)在预训练语言模型的基础上,构建基于改进序列标注的中文语法纠错模型。本文首先将特定于中文语法纠错任务的输入放入基于知识图谱的预训练语言模型中并端到端地微调所有参数,然后针对词序错误在已有的语法纠错标签中增加了SWAP类型的标签以简化标签集合,针对标签冲突问题提出合并多标签方案,最后在模型输出层中引入特定于语法纠错领域的两个网络联合学习,相互协调,促使模型学习正确的上下文以在正确的位置上进行纠错。实验结果验证了改进的序列标注方法对该模型的影响,表明基于改进序列标注的中文语法纠错模型的可行性。(3)设计并开发了中文语法纠错平台。此平台通过Flask框架利用训练后的模型开发了中文语法纠错API接口,通过Vue框架设计并开发了前端语法纠错Web页面,实现了中文语法错误自动校对的功能。

关键词：中文语法纠错序列标注模型预训练语言模型知识图谱

来源：评论

学校读者我要写书评

暂无评论

融合知识的中文医疗实体识别模型

引用

智能计算机与应用 2021年第3期11卷 94-97页

作者：刘龙航赵铁军哈尔滨工业大学计算机科学与技术学院哈尔滨150001

从医疗文本中抽取知识对构建医疗辅助诊断系统等应用具有重要意义。实体识别是其中的核心步骤。现有的实体识别模型大都是基于标注数据的深度学习模型,非常依赖高质量大规模的标注数据。为了充分利用已有的医疗领域词典和预训练语言模型... 详细信息

从医疗文本中抽取知识对构建医疗辅助诊断系统等应用具有重要意义。实体识别是其中的核心步骤。现有的实体识别模型大都是基于标注数据的深度学习模型,非常依赖高质量大规模的标注数据。为了充分利用已有的医疗领域词典和预训练语言模型,本文提出了融合知识的中文医疗实体识别模型。一方面基于领域词典提取领域知识,另一方面,引入预训练语言模型BERT作为通用知识,然后将领域知识和通用知识融入到模型中。此外,本文引入了卷积神经网络来提高模型的上下文建模能力。本文在多个数据集上进行实验,实验结果表明,将知识融合到模型中能够有效提高中文医疗实体识别的效果。

关键词：实体识别序列标注模型融合知识

来源：评论

学校读者我要写书评

暂无评论

基于领域情感词典特征表示的细粒度意见挖掘

引用

中文信息学报 2019年第2期33卷 112-121页

作者：郁圣卫卢奇陈文亮苏州大学计算机科学与技术学院江苏苏州215006

细粒度意见挖掘的主要目标是从观点文本中获取情感要素并判断情感倾向。现有方法大多基于序列标注模型,但很少利用情感词典资源。该文提出一种基于领域情感词典特征表示的细粒度意见挖掘方法,使用领域情感词典在观点文本上构建特征表示... 详细信息

细粒度意见挖掘的主要目标是从观点文本中获取情感要素并判断情感倾向。现有方法大多基于序列标注模型,但很少利用情感词典资源。该文提出一种基于领域情感词典特征表示的细粒度意见挖掘方法,使用领域情感词典在观点文本上构建特征表示并将其加入序列标注模型的输入部分。首先构建一份新的电商领域情感词典,然后在电商评论文本真实数据上,分别为条件随机场(CRF)和双向长短期记忆-条件随机场(BiLSTM-CRF)这两种常用序列标注模型设计基于领域情感词典的特征表示。实验结果表明,基于电商领域情感词典的特征表示方法在两种模型上都取得了良好的效果,并且超过其他情感词典。

关键词：细粒度意见挖掘情感词典特征表示序列标注模型

来源：评论

学校读者我要写书评

暂无评论

基于领域情感词典特征表示的细粒度意见挖掘

基于领域情感词典特征表示的细粒度意见挖掘

引用

第十七届全国计算语言学学术会议暨第六届基于自然标注大数据的自然语言处理国际学术研讨会(CCL 2018)

作者：郁圣卫卢奇陈文亮苏州大学计算机科学与技术学院江苏省苏州市215006

细粒度意见挖掘的主要目标是从观点文本中获取情感要素并判断情感倾向.目前现有方法大多基于序列标注模型,但很少利用情感词典资源.本文提出一种基于领域情感词典特征表示的细粒度意见挖掘方法,使用领域情感词典在观点文本上构建特征表... 详细信息

细粒度意见挖掘的主要目标是从观点文本中获取情感要素并判断情感倾向.目前现有方法大多基于序列标注模型,但很少利用情感词典资源.本文提出一种基于领域情感词典特征表示的细粒度意见挖掘方法,使用领域情感词典在观点文本上构建特征表示并将其加入序列标注模型的输入部分.首先构建一份新的电商领域情感词典,然后在电商评论文本真实数据上,分别为条件随机场(CRF)和双向长短期记忆-条件随机场(BiLSM-CRF)这两种常用序列标注模型设计基于领域情感词典的特征表示.实验结果表明,基于电商领域情感词典的特征表示方法在两种模型上都取得了良好的效果,并且超过其他情感词典.

关键词：细粒度意见挖掘情感词典特征表示序列标注模型

来源：评论

学校读者我要写书评

暂无评论

基于RNN的中文二分结构句法分析

基于RNN的中文二分结构句法分析

引用

第十七届全国计算语言学学术会议暨第六届基于自然标注大数据的自然语言处理国际学术研讨会(CCL 2018)

作者：谷波王瑞波李济洪李国臣山西大学计算机与信息技术学院山西太原030006 山西大学软件学院山西太原030006 太原工业学院山西太原030008

为了构建一个简单易扩展的中文句法分析器,依据朱德熙和陆俭明先生的中文二分结构的层次分析句法理论,手工构建了一个三万甸的二分结构的中文句法树库,并使用哈夫曼编码方式来简化表示完全二叉树的层次结构.本文将中文句法分析转换为迭... 详细信息

为了构建一个简单易扩展的中文句法分析器,依据朱德熙和陆俭明先生的中文二分结构的层次分析句法理论,手工构建了一个三万甸的二分结构的中文句法树库,并使用哈夫曼编码方式来简化表示完全二叉树的层次结构.本文将中文句法分析转换为迭代二分的序列标注问题,并根据该任务的特点,提出了在词的间隔上进行标记的序列标注模型(RNN-Interval,简称RNN-INT),与常用的循环神经网络(RNN,LSTM)模型和条件随机场(CRF)进行了对比实验,使用mx2交叉验证序贯t-检验来比较模型.实验结果表明,RNN-INT模型在窗口为1的词特征就可达到了最好的性能,并好于其他窗口大小和其他序列标注模型(RNN,LSTM,CRF).最后,在测试集上,在人工分词下,RNN-INT在短语级别的F1值(块F1)达到71.25％,在句子级别的准确率达到了43％.

关键词：中文句法分析二分结构循环神经网络序列标注模型

来源：评论

学校读者我要写书评

暂无评论

基于领域情感词典特征表示的细粒度意见挖掘

基于领域情感词典特征表示的细粒度意见挖掘

引用

第十七届全国计算语言学学术会议暨第六届基于自然标注大数据的自然语言处理国际学术研讨会（CCL 2018）

作者： YU Shengwei 郁圣卫 LU Qi