检索结果-内蒙古大学图书馆

现代电子技术 2025年第2期48卷 137-142页

作者：解飞宋建华姜丽张龑何帅湖北大学计算机与信息工程学院湖北武汉430062 湖北大学网络空间安全学院湖北武汉430062 华中科技大学网络空间安全学院湖北武汉430074 智能感知系统与安全教育部重点实验室湖北武汉430062 智能网联汽车网络安全湖北省工程研究中心湖北武汉430062

大语言模型(LLM)在专业领域特别是区块链漏洞领域应用时存在局限性,如专业术语噪声干扰和细粒度信息过重导致理解不足。为此,构建一种面向区块链漏洞知识库的增强型知识图谱问答模型(LMBK_KG)。通过整合大模型和知识图谱来增强知识表示... 详细信息

大语言模型(LLM)在专业领域特别是区块链漏洞领域应用时存在局限性,如专业术语噪声干扰和细粒度信息过重导致理解不足。为此,构建一种面向区块链漏洞知识库的增强型知识图谱问答模型(LMBK_KG)。通过整合大模型和知识图谱来增强知识表示和理解能力,同时利用多粒度语义信息进行专业问题的过滤和精准匹配。研究方法包括使用集成的多粒度语义信息和知识图谱来过滤专业术语噪声,以及采用大模型生成的回答与专业知识图谱进行结构化匹配和验证,以提高模型的鲁棒性和安全性。实验结果表明,所提出的模型在区块链漏洞领域问答的准确率比单独使用大模型提高26%。

关键词：大语言模型知识图谱问答模型多粒度语义信息区块链漏洞信息文本表征

来源：评论

学校读者我要写书评

暂无评论

联合分类与匹配的FAQ问答模型

引用

北京邮电大学学报 2019年第4期42卷 76-81页

作者：莫歧王小捷北京邮电大学智能科学与技术中心

文本分类或文本匹配是解决基于常见问题和解答(FAQ)问答的2个途径.单独使用分类方法不能有效利用标准问题本身的信息,而单独使用匹配方法时,负样本的选择很困难,为此,提出一类将文本分类和文本匹配方法相结合的模型,不仅能选择真正需要... 详细信息

文本分类或文本匹配是解决基于常见问题和解答(FAQ)问答的2个途径.单独使用分类方法不能有效利用标准问题本身的信息,而单独使用匹配方法时,负样本的选择很困难,为此,提出一类将文本分类和文本匹配方法相结合的模型,不仅能选择真正需要区分的负例,并且能够有效利用标准问题的信息.实验结果表明,提出的模型在多个FAQ问答数据上能达到最好性能.

关键词：问答模型文本分类文本匹配

来源：评论

学校读者我要写书评

暂无评论

基于自蒸馏与自集成的问答模型

引用

计算机应用研究 2024年第1期41卷 212-216页

作者：王同结李烨上海理工大学光电信息与计算机工程学院上海200093

知识蒸馏结合预训练语言模型是构建问答模型的主要方法之一,然而,这类方法存在知识转移效率低下、训练教师模型耗时严重、教师模型和学生模型能力不匹配等问题。针对上述问题,提出了一种基于自蒸馏与自集成的问答模型SD-SE-BERT。其中:... 详细信息

知识蒸馏结合预训练语言模型是构建问答模型的主要方法之一,然而,这类方法存在知识转移效率低下、训练教师模型耗时严重、教师模型和学生模型能力不匹配等问题。针对上述问题,提出了一种基于自蒸馏与自集成的问答模型SD-SE-BERT。其中:自集成基于滑窗机制设计;学生模型采用BERT;教师模型由训练过程中得到的若干学生模型基于其验证集性能进行加权平均组合得到;损失函数利用集成后的输出结果和真实标签指导当前轮次的学生模型进行训练。在SQuAD1.1数据集上的实验结果表明,SD-SE-BERT的EM指标和F_1指标相比较BERT模型分别提高7.5和4.9,并且模型性能优于其他代表性的单模型和蒸馏模型;相较于大型语言模型ChatGLM-6B的微调结果,EM指标提高4.5,F_1指标提高2.5。证明SD-SE-BERT可以利用模型自身的监督信息来提高模型组合不同文本数据特征的能力,无须训练复杂的教师模型,避免了教师模型与学生模型不匹配的问题。

关键词：问答模型知识蒸馏集成学习 BERT

来源：评论

学校读者我要写书评

暂无评论

非事实类问题问答模型和特征的研究

非事实类问题问答模型和特征的研究

引用

作者：周志敏华东师范大学

学位级别：硕士

研究非事实类问题的问答模型和特征是一个重要且富有挑战性的任务。现有的方法往往使用文本信息（即文本内容）和部分非文本信息（如网络日志等文本统计信息）作为特征,再结合一些传统的模型来模拟非事实类问题的问答。虽然其中取得一... 详细信息

研究非事实类问题的问答模型和特征是一个重要且富有挑战性的任务。现有的方法往往使用文本信息（即文本内容）和部分非文本信息（如网络日志等文本统计信息）作为特征,再结合一些传统的模型来模拟非事实类问题的问答。虽然其中取得一些进展,但所使用的特征往往难以抽取且经常被重复计算,而且传统的模型也不能将所有特征有效的融入计算,因此整体性能、效果还有待提高。另一方面,在对语篇关系和用户信息的研究过程中,我们发现它们也能帮助解决非事实类问题,然而现有的研究并没能有效地运用这些信息。本文对现有的特征和模型提出了改进。首先,在现有特征中融入了用户信息特征和语篇关系特征,并针对现有特征的复杂性和冗余性,采用了逻辑回归模型对特征进行有效的分类和筛选,提出以高效特征组合代替所有特征的方法来提高特征效用。其次,还使用了排序学习模型模拟非事实类问题的问答,进而结合高效特征组合预测非事实类问答的最佳答案。本文在数据集Yahoo! Answers Manner Question的实验结果表明,对于非事实类问题的确可以在几乎不影响排序系统性能的情况下,精简出高效特征以提升整体系统效能。同时,实验还揭示了用户信息相较于语篇信息能更好的帮助预测出最佳答案,并且成列排序学习模型比成对排序学习模型更适用于非事实类问题。

关键词：非事实类问题问答模型用户信息在线问答社区排序学习模型逻辑回归模型

来源：评论

学校读者我要写书评

暂无评论

基于答案选择结合知识图谱的问答模型研究

基于答案选择结合知识图谱的问答模型研究

引用

作者：董芷艺吉林大学

学位级别：硕士

问答系统能够满足人们想要快速、准确地获取信息的需求。虽然目前学者们对问答系统的研究已经取得了很大进步,但仍然存在一些问题。目前大多数的问答系统都是基于问题与问题之间的相似度,或者问题与答案之间的相似度,当用户提出的问题... 详细信息

问答系统能够满足人们想要快速、准确地获取信息的需求。虽然目前学者们对问答系统的研究已经取得了很大进步,但仍然存在一些问题。目前大多数的问答系统都是基于问题与问题之间的相似度,或者问题与答案之间的相似度,当用户提出的问题超出系统的训练语料库的范围时,会导致算法预测答案的准确度下降。为了解决这一问题,本文将知识图谱的信息应用于问答系统中以扩展问答系统的范围。同时,为了更好的利用和学习知识库的信息,本文利用知识图谱的已知事实,结合答案选择(AS)和知识库问答(KBQA)的共同点,采用传统的问答模型来提高知识库检索的准确性。本文的主要内容包括以下几点:(1)AS-KBQA模型的设计:本文提出基于答案选择与知识图谱的问答模型,即AS-KBQA问答模型,该模型设计为三个模块:问题理解模块、答案选择模块和翻译模块。问题理解模块使用CNN与bi LSTM相结合的算法提取给定问题的实体以及问题与答案之间的关系,并通过大量的探索设计了一个提取实体的启发式算法。答案选择模块使用bi LSTM结合Attention和Soft Max的深度学习模型来选择一组候选答案实体。翻译模块包括三部分:1.使用BERT模型将知识库信息映射到向量空间,并将实体关系转化为空间向量;2.处理上两个模块传递来的数据;3.结合训练好的Trans R模型,检索出答案。(2)医疗领域知识图谱的构建:本文从两个大型的医疗网站中爬取了大量数据,并将收集到的数据进行处理,包括实体、数据属性、关系的处理操作,然后构建了一个中文的医疗领域知识图谱。针对AS-KBQA模型,本文进行了两个实验以验证其准确性和适应性。实验1:选择Freebase开源数据(英文)作为知识库,在Simple Question、Yahoo QA和Web QSP三个数据集上进行实验,并且选取了近几年提出的六个问答模型用作对比实验。以精度作为每个模型的评价指标,在FB2M和FB5M两个数据集上,本文的AS-KBQA模型具有更好的效果。实验结果证明了基于知识图谱的答案选择模型能够提高知识库问答的准确性。实验2;选择本文构建的医疗领域知识图谱(中文)作为知识库,在MIE数据集上进行实验以验证AS-KBQA模型的适应性,实验结果表明该模型不仅能适应英文问答,也可以适应不同领域的中文问答。因此,本文提出的AS-KBQA模型拥有高准确性和强适应性,只需要扩展知识图谱中的信息就可以扩展问答系统的应用范围。

关键词：问答模型答案选择知识库问答知识图谱深度学习

来源：评论

学校读者我要写书评

暂无评论

专利问答模型及其系统实现

专利问答模型及其系统实现

引用

作者：刘剑内蒙古大学

学位级别：硕士

随着全球知识产权竞争愈演愈烈，专利作为知识产权的一种重要形式，受到越来越多人的重视，人们想通过专利新技术来系统有序地改进生产中存在的问题。这需要阅读大量的专利，在此过程中不仅要面临专利知识的复杂性，还要面临阅读时间限... 详细信息

随着全球知识产权竞争愈演愈烈，专利作为知识产权的一种重要形式，受到越来越多人的重视，人们想通过专利新技术来系统有序地改进生产中存在的问题。这需要阅读大量的专利，在此过程中不仅要面临专利知识的复杂性，还要面临阅读时间限制，内容查找低效，阅读重复内容等问题。交互式专利问答系统快速准确地回答用户的问题显得尤为重要。然而，目前专利问答的研究处于初步发展阶段，主要存在以下挑战，具体包括:（1）如何构建专利问答数据集;（2）如何实现多轮次的交互式专利问答;（3）模型如何对专利文本中复杂的专业名词进行有效的理解。　　为了解决上述挑战，本文研究内容对应如下:（1）在数据准备阶段中，专利问答数据集的核心是专利文本、问题和答案。其中，选择专利的摘要和权利要求作为专利文本;问题通过人工标注的方式实现;答案根据问题从专利文本中推理得出。（2）本文提出了基于循环神经网络和注意力机制相结合的专利问答模型，实现了机器阅读理解专利问答。模型的输入为专利文本和问题，对于多轮专利问答，把本轮问题与前两轮的问题和答案相拼接作为新问题，把多轮问答转换成经典的单轮问答。（3）在编码层中，对单词进行GloVe编码、BERT上下文编码和问题单词到专利文本单词的互注意力编码，将三者拼接结果作为单词的最终编码表示，对单词进行初步理解;在交互层中，通过注意力机制和Bi-LSTM对专利文本和问题单词进行交互处理，得到文本和问题单词的语义信息融合，达到更深层次的理解;在输出层中，输出文本中的单词作为答案的开始位置和结束位置的概率，以及答案为是、否、无法回答的概率，最后根据概率输出预测答案。　　实验研究表明，本文提出的基于循环神经网络与注意力机制相结合的问答模型在专利数据集上的性能表现优于其他专利问答模型。并且实现了蒙药专利问答系统的设计与开发，用户输入蒙药专利文本和问题后，系统给出相应问题的答案。

关键词：专利问答数据集问答模型机器阅读理解循环神经网络

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的智能问答模型

基于深度学习的智能问答模型

引用

作者：王晓敏同济大学

学位级别：硕士

问答是自然语言处理领域一个复杂的任务，它需要问答模型具有对文本的理解能力和对相关事实推理的能力。问答系统的发展能够帮助弥补目前搜索引擎的不足，它能够为用户直接提供准确、简洁的答案而不是一些网站链接。近年来，深度学习在... 详细信息

问答是自然语言处理领域一个复杂的任务，它需要问答模型具有对文本的理解能力和对相关事实推理的能力。问答系统的发展能够帮助弥补目前搜索引擎的不足，它能够为用户直接提供准确、简洁的答案而不是一些网站链接。近年来，深度学习在自然语言处理、图像处理、语音识别等多个领域上取得的进展为构建问答模型提供了新的思路。深度学习通过构建深层非线性网络拟合复杂函数，从而学习有效的特征表示，抽取数据的高层抽象信息。在问答模型中使用注意力机制和记忆推理过程是问答领域最新的研究热点和重点。注意力机制使得模型能够更加关注与提问有关的文章内容，记忆推理过程赋予了模型对相关事实之间的逻辑关系进行推理的能力。本文首先构建了带有注意力机制和记忆推理过程的深度学习智能问答模型，然后将所提出的模型扩展到阅读理解任务上。本文的主要贡献有以下两方面：　　(1)基于人工合成的bAbI问答数据集，构建快速联想记忆问答模型。该模型分为四个模块：输入模块、问题模块、记忆推理模块和答案模块。输入模块和问题模块使用快速联想记忆网络(FAM)进行编码，与标准的LSTM不同，FAM将临时记忆存储在快速权重中，具有更大的存储容量，并且会对最近的历史赋予更高的注意力。记忆推理模块通过多轮迭代不断更新记忆实现推理过程，同时在每轮迭代中将注意力机制与神经网络相结合形成新的记忆，用作下一轮的记忆更新。答案模块通过计算记忆推理模块输出的向量与文章每个词向量之间的距离预测最终答案。　　(2)为验证快速联想记忆网络可以从人工数据集扩展到真实数据集上以及模型的泛化能力，本文将该网络用于真实的阅读理解任务，构建基于阅读理解的快速联想记忆网络。该模型首先用两个双向快速联想记忆网络分别对输入的文章和问题进行编码，然后使用点积计算两者语义的相似度，将点积结果经过softmax后得到问题对文章单词的注意力;最后通过注意力加和的方式预测正确答案。

关键词：问答模型深度学习记忆网络注意力机制机器推理

来源：评论

学校读者我要写书评

暂无评论

Siamese-ELECTRA网络结合对抗训练的FAQ问答模型研究

引用

软件导刊 2021年第8期20卷 58-64页

作者：王仲林王卫民朱乐俊江苏科技大学计算机学院江苏镇江212003

FAQ问答系统可基于用户提出的问题在标准问题集合中自动检索出一条或多条最相似的问题,并以该问题的标准答案作为解答。针对传统基于向量空间模型的方法只能表征文本浅层语义变化,以及BERT模型句对分类任务预测效率低等问题,提出一种基... 详细信息

FAQ问答系统可基于用户提出的问题在标准问题集合中自动检索出一条或多条最相似的问题,并以该问题的标准答案作为解答。针对传统基于向量空间模型的方法只能表征文本浅层语义变化,以及BERT模型句对分类任务预测效率低等问题,提出一种基于Siamese-ELECTRA网络的FAQ检索式问答模型,将语义上相似问句的特征向量映射到相近的空间,基于向量距离公式快速计算语义相似性得分。同时,为了提升模型的鲁棒性和泛化能力,在训练模型时加入对抗训练算法FGM,对嵌入层参数矩阵进行梯度扰动;针对FAQ数据集通常只标注正样本导致负采样不充分、分类比例难平衡问题,引入无需在数据集中添加负样本即可训练的多重否定损失。实验表明,该模型相较于多种已有方法有较大提升,能够实现相似问题检索服务的毫秒级响应,具有一定的应用价值。

关键词： Siamese网络 ELECTRA FAQ 对抗训练问答模型

来源：评论

学校读者我要写书评

暂无评论

基于检索增强生成的油菜科研智能问答模型

引用

乡村科技 2024年第18期15卷 150-154页

作者：张艺聂笑一湖南农业大学信息与智能科学技术学院湖南长沙410128

针对油菜科研智能问答辅助的迫切需求,研究提出了一种智能问答模型实现方案。该方案基于油菜科研论文数据源,引入检索增强生成技术,构建了油菜科研智能问答模型。模型通过构建向量数据库,优化检索过程并保留上下文信息,显著提升了查询... 详细信息

针对油菜科研智能问答辅助的迫切需求,研究提出了一种智能问答模型实现方案。该方案基于油菜科研论文数据源,引入检索增强生成技术,构建了油菜科研智能问答模型。模型通过构建向量数据库,优化检索过程并保留上下文信息,显著提升了查询的理解能力;同时采用重排机制,进一步增强了模型生成的准确性。在Ragas评估框架下,与其他基线模型对比,研究方法在各项性能指标上均表现出色,显著优于其他方法。研究不仅为油菜科研提供了高效的智能问答工具,而且为智能问答技术在农业科研中的应用提供了新思路与参考。

关键词：油菜农业科研检索增强生成问答模型上下文检索

来源：评论

学校读者我要写书评

暂无评论

信息技术支撑下问答模型在初中英语阅读中的应用

引用

课堂内外（高中版） 2024年第46期 64-66页

作者：刘梅连北京师范大学新余附属学校江西新余338025

在教育改革大环境下,英语教育作为基础教育的重要组成部分,受到了广泛的关注。初中英语教育在整体英语教育中处于承上启下阶段,在中考分值中占据很大比重,基于此,教师应加强对初中英语教学的创新与改进。在信息时代的背景下,各类教育技... 详细信息

在教育改革大环境下,英语教育作为基础教育的重要组成部分,受到了广泛的关注。初中英语教育在整体英语教育中处于承上启下阶段,在中考分值中占据很大比重,基于此,教师应加强对初中英语教学的创新与改进。在信息时代的背景下,各类教育技术得到良好发展,为教育事业发展带来了新的教学方式与教学途径。对此,初中英语教师要充分发挥信息技术的优势,将信息技术支撑下的问答模型融入英语阅读教学中,以此提升英语阅读教学效果。文章针对信息化背景下问答模型在初中英语阅读中的应用进行了研究,以期为相关教育工作者提供新的教学思路。

关键词：初中英语阅读教学问答模型改革策略

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：