检索结果-内蒙古大学图书馆

计算机学报 2023年第10期46卷 2117-2131页

作者：薄琳庞亮张朝亮王钊伟董振华徐君文继荣中国人民大学信息学院北京100872 中国科学院计算技术研究所北京100190 华为技术有限公司诺亚方舟实验室广东深圳518129 中国人民大学高瓴人工智能学院北京100872 新一代智能搜索与推荐教育部工程研究中心北京100872

传统的信息检索(Information Retrieval,IR)是知识驱动的方法,如以BM25、LMIR等为代表的检索模型在设计过程中考虑词频、逆文档频率、文档长度等关键因素计算查询-文档的相关性得分.这些关键因素被总结为IR公理,在传统模型的设计和评价... 详细信息

传统的信息检索(Information Retrieval,IR)是知识驱动的方法,如以BM25、LMIR等为代表的检索模型在设计过程中考虑词频、逆文档频率、文档长度等关键因素计算查询-文档的相关性得分.这些关键因素被总结为IR公理,在传统模型的设计和评价中起到了至关重要的作用.如词频规则认为有更多查询词的文档更相关.与之相对,数据驱动的神经排序模型基于大量的标注数据与精巧的神经网络结构自动学习相关性评分函数,带来了显著的排序精度提升.传统IR公理知识是否能用来提升神经排序模型的效果是一个值得研究的重要问题且已有学者进行了初步探索,其首先通过公理指导增强数据生成,然后利用生成的标注数据直接训练神经网络.但IR公理的形式是通过比较匹配信号的强弱给出两个文档间相对的相关关系,而非直接给出文档的相关度标签.针对这一问题,本文提出了一种通过对比学习将IR公理知识引入神经排序模型的框架,称为***利用信息检索公理生成增强数据,抽取不同文档的匹配信号,利用对比学习拉开匹配信号间差距,使正样本匹配信号强于负样本,通过上述方式,ACRank将IR公理知识自然地融入到数据驱动的神经排序模型中.ACRank作为通用框架,可应用于不同规则,本文选择词频规则进行实验,基于大规模公开数据集上的实验结果表明,ACRank能够有效提升已有神经检索模型如BERT的排序精度,相关分析实验验证了该框架的有效性.

关键词：神经检索模型信息检索公理对比学习知识驱动数据驱动

来源：评论

学校读者我要写书评

暂无评论

基于多任务学习的跨语言信息检索方法研究

引用

广西师范大学学报（自然科学版） 2022年第6期40卷 69-81页

作者：代佳洋周栋湖南科技大学计算机科学与工程学院湖南湘潭411201

跨语言信息检索是信息检索领域的重要任务之一。现有的跨语言神经检索方法通常使用单任务学习,单一的特征捕捉模式限制了神经检索模型的性能。为此,本文提出一种基于多任务学习的跨语言检索方法,利用文本分类任务作为辅助任务,使用共享... 详细信息

跨语言信息检索是信息检索领域的重要任务之一。现有的跨语言神经检索方法通常使用单任务学习,单一的特征捕捉模式限制了神经检索模型的性能。为此,本文提出一种基于多任务学习的跨语言检索方法,利用文本分类任务作为辅助任务,使用共享文本特征提取层同时捕捉2个任务的特征信息,使其学习不同任务的特征模式,然后将特征向量分别输入到神经检索模型和文本分类模型中完成2个任务。另外,文本分类任务引入的外部语料也在一定程度上起到了数据增强的作用,进一步增加了特征信息的层次。在CLEF 2000-2003数据集的4个语言对上进行的实验表明,本方法明显改善了文本特征提取的效果,从而增强了神经检索模型性能,使神经检索模型的MAP值提高0.012~0.188,并使模型收敛速度平均提高了24.3%。

关键词：信息检索多任务学习跨语言信息检索神经检索模型外部语料

来源：评论

学校读者我要写书评

暂无评论

面向专利文献的信息检索技术研究

面向专利文献的信息检索技术研究

引用

作者：陈华威沈阳航空航天大学

学位级别：硕士

专利检索是技术情报分析和实证研究的基础,已成为企业和研究机构在创新和发展过程中的关键步骤。然而,当前主流的信息检索模型仍然不能有效解决专利文献检索过程中存在的主题不匹配和查询意图表述困难的问题。本文围绕上述问题开展了面... 详细信息

专利检索是技术情报分析和实证研究的基础,已成为企业和研究机构在创新和发展过程中的关键步骤。然而,当前主流的信息检索模型仍然不能有效解决专利文献检索过程中存在的主题不匹配和查询意图表述困难的问题。本文围绕上述问题开展了面向专利文献检索的主题一致性检索模型和实例检索模型的研究。主要工作内容如下:针对专利检索结果的主题不一致问题,研究了基于主题一致性的检索结果重排序技术,利用4种神经主题检索模型对基于词匹配方法的检索结果进行重排序,进而改善专利检索效果。针对目前缺少中文专利主题检索相关数据集的问题,本文提出数据集构建方法并构建了涉及8个领域、32个大类、80个小类,包含32万篇专利摘要文本和8000个查询的数据集。利用该数据训练并实验了上述4种模型,结果表明所构建的数据集能够有效支撑模型训练及评价,通过重排序模型提升专利检索结果的主题一致性,Recall@5达到0.982,相较对比方法提升了9.6%。针对专利检索查询意图表达困难的问题,提出了一种融入结构信息的实例检索模型Instance R-BERT。将查询意图的表达粒度从关键词级别提升到摘要级别,利用专利摘要行文结构特点,从主题、组成、作用等方面细致刻画查询意图,在Col BERT模型上加入局部相似性及全局相似性矩阵建模上述信息。此外,基于池化方法构建了一个包含200个摘要级查询的专利检索(A2A)数据集。实验结果表明,在Recall@5检索评价指标上达到0.7852,较SOTA模型提升了5%,表明本文提出的实例检索模型能够更好地适应摘要级的专利检索任务。本文设计并实现了一个专利文献检索系统,基于主题一致性检索模型和实例检索模型实现了基于关键词和基于摘要的专利检索功能,有效解决了现有专利检索系统存在的主题不匹配和查询意图表述困难的问题。

关键词：专利检索神经检索模型一致性检索实例检索

来源：评论

学校读者我要写书评

暂无评论

基于预训练语言模型与多任务学习的文本检索技术研究

基于预训练语言模型与多任务学习的文本检索技术研究

引用

作者：于扬重庆大学

学位级别：硕士

在万物互联时代,搜索引擎已经成为人们获取知识的主要工具之一,支撑搜索引擎的信息检索技术已经被广泛的研究。从传统的基于概率模型到近几年发展迅速的神经检索模型,信息检索算法不断被优化,它根据用户提交的查询为其召回相关文档。开... 详细信息

在万物互联时代,搜索引擎已经成为人们获取知识的主要工具之一,支撑搜索引擎的信息检索技术已经被广泛的研究。从传统的基于概率模型到近几年发展迅速的神经检索模型,信息检索算法不断被优化,它根据用户提交的查询为其召回相关文档。开发高效率和高性能的检索模型可以为用户带来了更好的检索体验。现有的神经检索模型大多依赖于词向量表示对用户查询和文档进行表征,并在语义层面进行相关性学习,但是这些方法存在一定缺陷。首先,轻量级文本检索模型虽然训练高效,但是其建模依赖于静态词向量,语义理解较差。其次,深度文本检索模型由于结构复杂,往往需要大量的训练数据进行相关性学习。此外,由于文本歧义性,现有方法难以学习用户在真实场景中的检索意图。文本主要针对上述问题展开了研究,主要工作如下:(1)本文详细阐述了信息检索算法的研究现状,结合相关深度学习技术,系统的概括了现有算法模型的优缺点。(2)针对检索任务中轻量检索模型语义理解能力较差问题,提出了一种基于知识图谱嵌入的文本检索模型。首先通过实体连接技术将查询和文档中的实体与知识图谱中的实体对齐并且构建知识三元组。然后通过知识图谱嵌入算法学习知识表示。最后融合文本主题向量以及静态词向量进行特征提取后形成向量表示进行相似度匹配学习,实验结果表明了该算法的有效性。(3)针对检索任务中深度检索模型的训练成本高问题,提出了一种基于对比学习的文本检索模型。该模型以BERT为基本框架,本文首先提出了一种适用于对比训练的数据增强技术,然后通过对比学习算法强化用户查询和文档的文本表示。实验结果表示该模型仅需要原数据集20%的数据即可以与强基线竞争,并且将在两个流行的数据集上实现了最先进的结果,这包括改进MSMARCO的MRR为39.1,NQ的Recall@5为77.2。(4)针对用户查询模糊导致难以挖掘用户检索意图问题,提出了一种基于多任务学习的个性化检索模型。该模型首先通过联合训练文档检索和查询预测任务学习相关性匹配,然后提取用户的检索兴趣特征进行意图理解。通过两个模块的融合,对候选文档进行重新排序以构建个性化文档列表。该算法将AOL检索日志数据上的MRR以及NDCG分别改进到0.758和0.652。

关键词：相关性匹配神经检索模型对比学习数据增强多任务学习

来源：评论

学校读者我要写书评

暂无评论

基于多任务学习的跨语言信息检索方法

基于多任务学习的跨语言信息检索方法

引用

作者：代佳洋湖南科技大学

学位级别：硕士

跨语言信息检索技术使用户无需学习外语,就能直接使用母语检索外语信息,在这个全球化时代有着重要的现实意义,因而受到了研究人员的广泛关注。得益于近些年神经网络技术的发展,神经检索模型在跨语言信息检索领域取得了一定的研究成果。... 详细信息

跨语言信息检索技术使用户无需学习外语,就能直接使用母语检索外语信息,在这个全球化时代有着重要的现实意义,因而受到了研究人员的广泛关注。得益于近些年神经网络技术的发展,神经检索模型在跨语言信息检索领域取得了一定的研究成果。但跨语言环境下,不同语种间语法、词汇等方面的差异,对神经检索模型的特征提取能力造成了一定影响,限制了跨语言神经检索方法的发展前景。因此,如何改善神经检索模型在跨语言环境下的特征捕捉能力逐渐成为了研究热点。现有的跨语言神经检索方法通常通过翻译技术或语义模型统一查询和文档的语种后,再将其输入神经检索模型中计算相关性得分。由于这些方法大多为单任务学习,即神经网络仅针对检索这一任务目标进行训练,使模型侧重于捕捉查询和文档间的交互信息和匹配关系,而忽略了这两者其他层次的语义特征。一些研究表明,查询和文档在其他层次的语义特征对检索任务同样有着重要作用,忽略这些信息将会对检索模型的性能造成影响。针对以上问题,本文主要做了以下两个方面的工作:1.本文提出了一种基于软参数共享多任务学习的跨语言信息检索方法。该方法将基于交互的神经检索模型作为主模型,将基于语义的文本分类模型作为辅助模型,并在两个模型的特征提取层间交换隐藏向量进行软参数共享多任务学习。使神经检索模型在捕捉交互信息的同时,能通过文本分类任务学习提取语义信息,从而提高其表示能力,最终改善检索任务的质量。在四个语言对上的实验表明,该方法明显提高了跨语言神经检索模型的性能。2.为了缓解辅助任务的外部语料引入无关语义的问题,本文提出了一种基于硬参数共享多任务学习的跨语言信息检索方法。该方法首先对检索任务语料进行转换,使其能同时用于分类和检索任务,从而消除分类语料引入的无关信息;然后在两个任务间共享同一个词特征提取层进行多任务学习;再将该共享层提取文本表示输入基于语义的文本分类模型和基于交互的神经检索模型中分别执行两个任务。实验结果表明,该方法优于目前大多数跨语言检索方法。

关键词：信息检索多任务学习跨语言信息检索神经检索模型外部语料

来源：评论

学校读者我要写书评

暂无评论

跨语言检索数据集构建方法研究与验证

跨语言检索数据集构建方法研究与验证

引用

作者：陈梦华中师范大学

学位级别：硕士

随着互联网的飞速发展,用户对网络的信息需求越来越多,他们不仅想得到单语种的检索信息,而且也想得到其他语种的检索信息,因此,跨语言信息检索受到了众多研究人员的关注,是当前信息检索的研究热点之一。跨语言检索系统可以将用户输入的... 详细信息

随着互联网的飞速发展,用户对网络的信息需求越来越多,他们不仅想得到单语种的检索信息,而且也想得到其他语种的检索信息,因此,跨语言信息检索受到了众多研究人员的关注,是当前信息检索的研究热点之一。跨语言检索系统可以将用户输入的一种语言的查询在另一种语言或者多种语言的文档中检索相关信息,这有利于许多不了解外语的搜索引擎用户检索出更丰富的结果,获得多语言的信息资料,从而满足用户的信息需求。跨语言信息检索的研究具有重要意义:一方面,跨语言信息检索技术的出现可以在一定程度上解决用户对多语种的信息需求问题;另一方面,跨语言检索是信息检索的重要组成部分,对跨语言信息检索进行研究是丰富和完善信息检索理论体系的需要。目前,深度学习技术已经在单语言检索中取得了良好的效果,但在跨语言信息检索中的应用还不多,原因之一便是在跨语言信息检索中没有合适的数据可以用于训练神经检索模型。为了更好的实现跨语言信息检索,我们提出了一种简单又灵活的数据集构建方案。我们的英--中双语数据集是由维基百科上的数据构建而成的,它支持英文查询和中文文档之间的跨语言信息检索模型的训练和评估。我们的数据集包含三个部分,分别是英文查询、中文文档和文档之间的相关判断。根据中文文档中的文章与英文查询所在的文章的相关程度,我们将文档的相关级别分为三种,分别是最相关文档、次相关文档和不相关文档。为了验证上述数据集的可用性,我们提出了一种基于BiLSTM和注意力机制的神经检索模型用于跨语言信息检索。与传统的跨语言检索方法不同,基于BiLSTM和注意力机制的神经检索模型无需显式的翻译过程:它能够将源语言和目标语言的文本编码到同一个跨语言语义空间,然后基于编码好的文本向量进行相关度计算。实验结果表明,我们基于维基百科构建的数据集可以支撑该模型进行成功的训练与测试,该模型在测试集上表现出优于基准模型的性能。

关键词：跨语言检索数据集构建神经检索模型深度学习

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：