检索结果-内蒙古大学图书馆

智能系统学报 2025年第1期20卷 2-32页

作者：黄河燕李思霖兰天伟邱昱力柳泽明姚嘉树曾理单赢宇施晓明郭宇航北京理工大学计算机学院北京100081 北京航空航天大学计算机学院北京100191 哈尔滨工业大学计算机学院社会计算与信息检索研究中心黑龙江哈尔滨150001

大语言模型能够在多个领域及任务上给出与人类水平相当的解答,并且在未经训练的领域和任务上展现了丰富的涌现能力。然而,目前基于大语言模型的人工智能系统存在许多安全性隐患,例如大语言模型系统容易受到难以被察觉的攻击,模型生成的... 详细信息

大语言模型能够在多个领域及任务上给出与人类水平相当的解答,并且在未经训练的领域和任务上展现了丰富的涌现能力。然而,目前基于大语言模型的人工智能系统存在许多安全性隐患,例如大语言模型系统容易受到难以被察觉的攻击,模型生成的内容存在违法、泄密、仇恨、偏见、错误等问题。并且在实际应用中,大语言模型可能被滥用,生成的内容可能引起国家、人群和领域等多个层面的困扰。本文旨在深入探讨大语言模型面临的安全性风险并进行分类,回顾现有的评估方法,研究安全性风险背后的因果机制,并总结现有的解决措施。具体而言,本文明确了大语言模型面临的10种安全性风险,并将其归类为模型自身安全性风险与生成内容的安全性风险两个方面,并对每种风险进行了详细的分析和讲解。此外,本文还从生命周期和危害程度两个角度对大语言模型的安全风险进行了系统化的分析,并介绍了现有的大语言模型安全风险评估方法、大语言模型安全风险的出现原因以及相应的缓解措施。大语言模型的安全风险是亟待解决的重要问题。

关键词：大语言模型模型自身安全性生成内容安全性安全性分类安全性风险评估安全性风险归因安全性风险缓解措施安全性研究展望

来源：评论

学校读者我要写书评

暂无评论

面向话题的讽刺识别:新任务、新数据和新方法

引用

中文信息学报 2023年第2期37卷 138-147,157页

作者：梁斌林子杰徐睿峰秦兵哈尔滨工业大学(深圳)计算机科学与技术学院广东深圳518055 哈尔滨工业大学社会计算与信息检索研究中心黑龙江哈尔滨150006 广东省安全智能新技术重点实验室广东深圳518055

现有的文本讽刺识别研究通常只关注句子级别的讽刺表达识别,但缺乏考虑讽刺对象对讽刺表达的影响。针对这一问题,该文提出一个新的面向话题的讽刺识别任务。该任务通过话题的引入,以话题作为讽刺对象,有助于更好地理解和建模讽刺表达。... 详细信息

现有的文本讽刺识别研究通常只关注句子级别的讽刺表达识别,但缺乏考虑讽刺对象对讽刺表达的影响。针对这一问题,该文提出一个新的面向话题的讽刺识别任务。该任务通过话题的引入,以话题作为讽刺对象,有助于更好地理解和建模讽刺表达。对应地,该文构建了一个新的面向话题的讽刺识别数据集,包含707个话题,以及对应的4871个话题-评论对组。在此基础上,基于提示学习和大规模预训练语言模型,该文提出了一种面向话题的讽刺表达提示学习模型。在该文构建的面向话题讽刺识别数据集上的实验结果表明,相比基线模型,该文所提出的面向话题的讽刺表达提示学习模型性能更优。同时,实验分析也表明,面向话题的讽刺识别任务相比传统的句子级讽刺识别任务更具挑战性。本文的数据集和代码已发布在https://***/HITSZ-HLT/Tosarcasm.

关键词：讽刺识别面向话题的讽刺识别提示学习

来源：评论

学校读者我要写书评

暂无评论

面向搜索引擎的实体推荐综述

引用

计算机学报 2019年第7期42卷 1467-1494页

作者：黄际洲孙雅铭王海峰刘挺哈尔滨工业大学计算机学院社会计算与信息检索研究中心哈尔滨150001 百度公司北京100085

面向搜索引擎的实体推荐任务旨在为用户输入的搜索查询推荐出相关实体,从而帮助用户发现感兴趣的实体,提升用户的搜索体验.此外,为了帮助用户更好地理解实体推荐结果,还需要为被推荐的实体集合以及每一个被推荐实体生成恰当且合理的推... 详细信息

面向搜索引擎的实体推荐任务旨在为用户输入的搜索查询推荐出相关实体,从而帮助用户发现感兴趣的实体,提升用户的搜索体验.此外,为了帮助用户更好地理解实体推荐结果,还需要为被推荐的实体集合以及每一个被推荐实体生成恰当且合理的推荐理由.实体推荐能够帮助用户便捷地获得与其搜索需求相关的信息,有助于提升用户的信息发现体验,因此已成为现代搜索引擎中必不可少的功能之一.与传统领域的推荐任务相比较,面向搜索引擎的实体推荐面临更多的挑战,例如搜索查询中实体指称的歧义性以及实体推荐的领域无关性等.针对搜索引擎实体推荐任务的特点与存在的挑战,我们认为构建一个完备的实体推荐系统需要解决如下三个子研究任务:实体链接、实体推荐与推荐理由生成.实体链接任务的目标是将搜索查询中的实体指称消除歧义并链接到知识库中无歧义的实体上,以获得与搜索查询对应的查询实体.实体推荐任务的目标是获取与查询实体相关的实体集合并对其进行排序.为了提供更准确的推荐结果,往往还需要进一步利用历史搜索信息获取用户对实体的偏好并对当前查询进行更好地理解.推荐理由生成任务的目标是为被推荐的实体集合以及每一个被推荐实体生成推荐理由,其中集合推荐理由解释的是该集合中的被推荐实体与查询实体的关系,实体推荐理由则是单个实体被推荐的理由.本文首先介绍面向搜索引擎的实体推荐任务的研究背景与意义、存在的挑战以及各子任务,然后详细介绍每一个子任务存在的技术挑战、研究现状以及解决方法,最后对未来研究方向进行展望并对本文进行总结。

关键词：搜索引擎实体推荐实体链接推荐理由

来源：评论

学校读者我要写书评

暂无评论

基于迁移学习的中文阅读理解

引用

智能计算机与应用 2020年第6期10卷 1-3,11页

作者：孙一博秦兵哈尔滨工业大学计算机科学与技术学院社会计算与信息检索研究中心哈尔滨150001

深度学习在解决自然语言处理中的机器阅读理解任务方面引起了越来越多的关注。尽管已经取得了巨大的成功,但典型的深度学习方法依赖大量的标记数据,在解决许多实际的问题中通常是不可用的。最近,针对这种情况探索了一种知识转移范式,其... 详细信息

深度学习在解决自然语言处理中的机器阅读理解任务方面引起了越来越多的关注。尽管已经取得了巨大的成功,但典型的深度学习方法依赖大量的标记数据,在解决许多实际的问题中通常是不可用的。最近,针对这种情况探索了一种知识转移范式,其目的是利用源问题域的丰富训练数据,帮助模型在目标域中更有效地解决问题。本文重点研究基于渐进神经网络用迁移学习的方式解决中文机器阅读理解任务,提出了一种渐进式学习模型,该模型通过使用交叉注意适配器改进渐进神经网络,进而使其具有在异构输入之间传递知识的能力。通过在中国高考阅读理解数据集进行实验,结果表明本文所提出的模型优于所有的基线模型。

关键词：深度学习机器阅读理解迁移学习

来源：评论

学校读者我要写书评

暂无评论

虚假评论检测研究综述

引用

计算机学报 2018年第4期41卷 946-968页

作者：李璐旸秦兵刘挺哈尔滨工业大学计算机科学与技术学院社会计算与信息检索研究中心哈尔滨150001

随着电子商务网站及点评网站的发展,评论信息日益影响着人们的生活.越来越多的网络用户通过发布评论分享消费体验、评价产品的质量,并在做出消费决策时参考其他用户的评论.人们对评论信息的依赖催化了虚假评论的不断涌现.虚假评论,指一... 详细信息

随着电子商务网站及点评网站的发展,评论信息日益影响着人们的生活.越来越多的网络用户通过发布评论分享消费体验、评价产品的质量,并在做出消费决策时参考其他用户的评论.人们对评论信息的依赖催化了虚假评论的不断涌现.虚假评论,指一些用户出于商业或其他不良动机,在评论中编造不实消费经历、对评价对象的质量等进行鼓吹或诽谤.虚假评论容易对用户的观点或决策产生误导,干扰人们的日常生活.由于人类识别虚假评论的准确率较低,综合运用自然语言处理技术有效检测虚假评论、帮助用户获取真实评论信息,在学术研究及产业应用层面均具有深远意义.对虚假评论检测任务,研究者们主要从虚假评论文本、虚假评论发布者及虚假评论群组三个角度开展研究.该文将依次对三类研究进行归纳分析,具体分别从特征设计、模型方法、数据集、评级指标等方面进行了对比总结.最后对未来研究方向进行了探讨和展望.

关键词：虚假评论检测虚假评论者检测合谋欺诈检测观点挖掘内容挖掘

来源：评论

学校读者我要写书评

暂无评论

文本蕴含关系识别与知识获取研究进展及展望

引用

计算机学报 2017年第4期40卷 889-910页

作者：郭茂盛张宇刘挺哈尔滨工业大学计算机科学与技术学院社会计算与信息检索研究中心哈尔滨150001

文本蕴含关系是广泛分布于自然语言文本中的单向推理关系,文本蕴含相关研究是自然语言处理领域的一项基础性研究,它可以辅助其他自然语言处理任务的进行,并且具有丰富的应用场景.文中首先界定了文本蕴含研究的范畴.作为一种二元关系,文... 详细信息

文本蕴含关系是广泛分布于自然语言文本中的单向推理关系,文本蕴含相关研究是自然语言处理领域的一项基础性研究,它可以辅助其他自然语言处理任务的进行,并且具有丰富的应用场景.文中首先界定了文本蕴含研究的范畴.作为一种二元关系,文本蕴含有3个基本研究任务——关系识别、知识获取和蕴含对生成.其中,关系识别有两个核心问题——语义表示与推理机制;知识获取也有两个核心问题——知识表示与知识来源;蕴含对生成研究进展比较缓慢,文中细致地分析了其内因和外因.文中围绕语义表示与推理机制这两个核心问题梳理了关系识别的研究进展,围绕知识表示与知识来源梳理了知识获取的研究进展,并指出了各类方法的可取之处与不足之处.文本蕴含研究的进展离不开相关国际评测,文中也对这些国际评测和数据集进行了归纳总结.大数据时代的到来和深度学习理论的不断发展,为文本蕴含相关研究提供了丰富的知识来源和有力的研究工具,同时也带来了许多崭新的研究课题.文中立足当前研究形势,展望了未来研究方向,并从理论上探讨了其可行性.

关键词：文本蕴含知识获取自然语言理解自然语言处理人工智能

来源：评论

学校读者我要写书评

暂无评论

人机对话系统综述

引用

人工智能 2018年第1期 76-82页

作者：车万翔张伟男哈尔滨工业大学计算机科学与技术学院信息检索研究中心哈尔滨工业大学计算机科学与技术学院社会计算与信息检索研究中心

人机对话一直是人工智能中一个颇具难度的研究领域。它不仅能给人类日常生活带来直接的便利,还可以弥补使用者的情感空洞。人机对话系统有三个基本模块:口语语言理解、对话管理和自然语言生成。不同目的的对话系统在各个模块上的实现方... 详细信息

人机对话一直是人工智能中一个颇具难度的研究领域。它不仅能给人类日常生活带来直接的便利,还可以弥补使用者的情感空洞。人机对话系统有三个基本模块:口语语言理解、对话管理和自然语言生成。不同目的的对话系统在各个模块上的实现方法上也不尽一致。目前,各大互联网技术公司都已经推出了对话系统服务平台。当今人机对话系统的主要研究方向是赋予机器'情感',让机器得以识别对话人的情感并作出更为人性化的回应。

关键词：对话管理人机对话系统图灵测试深度学习技术系统综述

来源：评论

学校读者我要写书评

暂无评论

中文微博热点事件情感分布的原因分析

引用

中文信息学报 2018年第1期32卷 131-138页

作者：李泽魁李雪婷赵妍妍哈尔滨工业大学计算机科学与技术学院信息检索研究中心黑龙江哈尔滨150001 哈尔滨工业大学图书馆信息咨询部黑龙江哈尔滨150001 哈尔滨工业大学机电学院媒体系黑龙江哈尔滨150001

微博作为新兴的社交媒体平台,越来越多的网民选择在微博上获取与分享自己感兴趣的信息。在微博日均千万级的大数据面前,分析网民对某一事件的观点与态度是一件非常有意义的工作。调研中发现,大众对单个事件的不同话题存在不同的情感分... 详细信息

微博作为新兴的社交媒体平台,越来越多的网民选择在微博上获取与分享自己感兴趣的信息。在微博日均千万级的大数据面前,分析网民对某一事件的观点与态度是一件非常有意义的工作。调研中发现,大众对单个事件的不同话题存在不同的情感分布。针对这一现象,该文提出了使用无监督学习的层次聚类排序方法和半监督学习的微博话题纠正算法两种方法,进行事件话题及其相关微博的挖掘。最后利用情感分析的相关技术,达到对相关微博进行情感分布统计及其原因分析的目的。通过在人工构建的数据集上测试,结果表明该方法能够准确分析事件情感分布的原因。

关键词：情感原因分析话题聚类话题纠正中文微博

来源：评论

学校读者我要写书评

暂无评论

面向作文自动评分的优美句识别

引用

中文信息学报 2018年第6期32卷 88-97页

作者：付瑞吉王栋王士进胡国平刘挺科大讯飞股份有限公司研究院安徽合肥518057 科大讯飞股份有限公司哈工大讯飞联合实验室北京100094 哈尔滨工业大学计算机科学与技术学院社会计算与信息检索研究中心黑龙江哈尔滨150001

语言优美是学生写作能力中重要的一部分。该文提出一个面向作文自动评分的作文优美句识别任务,主要识别中学生中文作文中的优美句。相比传统文本分类任务,优美句识别更加难以用特征工程的方式解决。因此,该文提出一种基于卷积神经网络(C... 详细信息

语言优美是学生写作能力中重要的一部分。该文提出一个面向作文自动评分的作文优美句识别任务,主要识别中学生中文作文中的优美句。相比传统文本分类任务,优美句识别更加难以用特征工程的方式解决。因此,该文提出一种基于卷积神经网络(CNN)和双向长短时记忆(BiLSTM)网络的混合神经网络结构进行优美句识别,并和CNN、BiLSTM网络进行了对比。实验证明,混合神经网络的准确率最高,达到89.23%,F1值与BiLSTM相当,达到75.39%。此外,该文将优美句子特征用于作文自动评分任务,可使计算机评分和人工评分的大分差比例下降21.41%。

关键词：优美句识别深度神经网络作文自动评分

来源：评论

学校读者我要写书评

暂无评论

聊天机器人中用户出行消费意图识别方法

引用

中国科学：信息科学 2017年第8期47卷 997-1007页

作者：钱岳丁效刘挺陈毅恒哈尔滨工业大学计算机科学与技术学院信息检索研究中心哈尔滨150001

聊天机器人中的出行消费意图是指用户为了满足出行的需要,通过文本表达出对出行类产品或者服务的购买意愿.识别出用户的消费意图可以进行相应的产品推荐,增强用户体验.传统的消费意图识别主要使用基于模板匹配或者基于人工特征集合的机... 详细信息

聊天机器人中的出行消费意图是指用户为了满足出行的需要,通过文本表达出对出行类产品或者服务的购买意愿.识别出用户的消费意图可以进行相应的产品推荐,增强用户体验.传统的消费意图识别主要使用基于模板匹配或者基于人工特征集合的机器学习方法,这类方法费时费力,扩展性不强.本文将出行消费意图识别任务看成一个分类问题,结合深度学习方法识别用户的出行消费意图,该方法不需要人工构造特征集合或匹配模板.具体而言,本文构建了基于卷积的长短期记忆神经网络(Convolutional-LSTM)模型进行出行消费意图识别,首先通过卷积神经网络(CNN)对用户的聊天文本进行特征抽取,随后进行特征组合并送入长短记忆神经网络(LSTM)进行特征表示学习,最后输出分类结果.实验结果表明,在出行消费意图识别任务上,基于Convolutional-LSTM的模型在F值上优于最好的基线方法 2个百分点.

关键词：出行消费意图识别机器学习深度学习卷积神经网络长短期记忆网络

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：