检索结果-内蒙古大学图书馆

中兴通讯技术 2022年第2期28卷 33-43页

作者：曾炜苏腾王晖田永鸿高文鹏城实验室北京大学华为技术有限公司

在鹏城云脑Ⅱ上训练了全球首个拥有全开源2 000亿参数的自回归中文预训练语言大模型——鹏程·盘古。鹏程·盘古模型基于1.1 TB高质量中文训练数据，采用全场景人工智能计算框架MindSpore自动并行技术实现了五维并行训练策略，... 详细信息

在鹏城云脑Ⅱ上训练了全球首个拥有全开源2 000亿参数的自回归中文预训练语言大模型——鹏程·盘古。鹏程·盘古模型基于1.1 TB高质量中文训练数据，采用全场景人工智能计算框架MindSpore自动并行技术实现了五维并行训练策略，从而可将训练任务高效扩展到4 096个处理器上。对比实验表明，在少样本或零样本情况下，鹏程·盘古模型在多个中文自然语言理解或生成任务上都具有较优的性能。在此基础上，鹏程·盘古模型在大模型压缩、提示微调学习、多任务学习以及持续学习等方面也取得了很好的应用效果。

关键词：大规模预训练语言模型鹏城云脑Ⅱ 大规模分布式训练中文理解与生成提示微调学习

来源：评论

学校读者我要写书评

暂无评论

放管结合:高等教育应对大规模语言模型冲击的立场及其展开

引用

滁州学院学报 2024年第3期26卷 102-110页

作者：陈心哲安徽财经大学法学院安徽蚌埠233030

大规模预训练语言模型以学生主动使用为渠道入局高等教育,引发知识、诚信、价值观多重危机。其本身巨大的应用前景和海量用户的既定事实,表明封禁排异已不可行;现有产品尚处于快速迭代期,加之缺乏成熟的治理方案,因而鼓励推广亦为时过... 详细信息

大规模预训练语言模型以学生主动使用为渠道入局高等教育,引发知识、诚信、价值观多重危机。其本身巨大的应用前景和海量用户的既定事实,表明封禁排异已不可行;现有产品尚处于快速迭代期,加之缺乏成熟的治理方案,因而鼓励推广亦为时过早。对大模型的规制应树立“放管结合”的立场,坚持有所为、有所不为。一方面,公权力机关宜克制规制冲动、适当放任观望,仅对部分确有必要的事项精确管治;另一方面,鼓励教师、学生、企业等私主体探索自治举措,引导大模型正向赋能高等教育。未来“师—生—机”三位一体的教育模式中,教师的中心地位非但不会削弱,反将得到增强。

关键词：大规模预训练语言模型高等教育 ChatGPT 人工智能

来源：评论

学校读者我要写书评

暂无评论

基于大语言模型的本地规划知识智能问答系统研究与应用实践

引用

自然资源信息化 2024年第6期 63-70,84页

作者：林勇军深圳市规划国土发展研究中心广东深圳518000

随着人工智能技术的快速发展及应用,人工智能新技术对包括规划行业在内的各行业发展与变革具有重要意义。本文对大规模预训练语言模型(LLM)等人工智能技术在规划领域的应用进行研究,探索其在规划知识智能问答方面的技术可行性。本文探... 详细信息

随着人工智能技术的快速发展及应用,人工智能新技术对包括规划行业在内的各行业发展与变革具有重要意义。本文对大规模预训练语言模型(LLM)等人工智能技术在规划领域的应用进行研究,探索其在规划知识智能问答方面的技术可行性。本文探讨了本地规划知识智能问答系统构建的技术路径、LLM选择与微调、规划知识库和系统功能设计4个关键环节,以深圳市城市规划标准与准则为例进行了系统框架建设、模型选择与微调、本地规划知识库构建等应用实践,并分析系统问答效果。基于本地知识向量库的问答方式在设定场景下达到了预期效果,是一种在实际应用中值得推荐的技术路径,但本研究在数据完备与模型优化等方面还存在一些不足。

关键词：人工智能大规模预训练语言模型规划知识智能问答

来源：评论

学校读者我要写书评

暂无评论

基于复述增广的医疗领域机器翻译

引用

电子与信息学报 2022年第1期44卷 118-126页

作者：安波龙从军中国社会科学院民族学与人类学研究所北京100081

医疗机器翻译对于跨境医疗、医疗文献翻译等应用具有重要价值。汉英神经机器翻译依靠深度学习强大的建模能力和大规模双语平行数据取得了长足的进步。神经机器翻译通常依赖于大规模的平行句对训练翻译模型。目前,汉英翻译数据主要以新... 详细信息

医疗机器翻译对于跨境医疗、医疗文献翻译等应用具有重要价值。汉英神经机器翻译依靠深度学习强大的建模能力和大规模双语平行数据取得了长足的进步。神经机器翻译通常依赖于大规模的平行句对训练翻译模型。目前,汉英翻译数据主要以新闻、政策等领域数据为主,缺少医疗领域的数据,导致医疗领域的汉英机器翻译效果不佳。针对医疗垂直领域机器翻译训练数据不足的问题,该文提出利用复述生成技术对汉英医疗机器翻译数据进行增广,扩大汉英机器翻译的规模。通过多种主流的神经机器翻译模型的实验结果表明,通过复述生成对数据进行增广可以有效地提升机器翻译的性能,在RNNSearch,Transformer等多个主流模型上均取得了6个点以上的BLEU值提升,验证了复述增广方法对领域机器翻译的有效性。同时,基于MT5等大规模预训练语言模型可以进一步地提升机器翻译的性能。

关键词：神经机器翻译汉英翻译复述生成数据增广大规模预训练语言模型

来源：评论

学校读者我要写书评

暂无评论

AIGC赋能我国自动版权侵权检测技术发展

引用

中国出版 2024年第6期 60-64页

作者：陈潇婷湖北大学文学院

数字经济为自动版权侵权检测技术发展带来新机遇,但也面临检测规模巨大、准确率有待提高等问题。新一代人工智能技术,特别是大规模预训练语言模型(Large Language Model,LLM)可实现内容“深度理解”,显著提升检测性能。构建LLM驱动的检... 详细信息

数字经济为自动版权侵权检测技术发展带来新机遇,但也面临检测规模巨大、准确率有待提高等问题。新一代人工智能技术,特别是大规模预训练语言模型(Large Language Model,LLM)可实现内容“深度理解”,显著提升检测性能。构建LLM驱动的检测技术体系,完善法规政策,增强检测主体能力,是推动检测技术进步的重要举措。这不仅影响知识产权保护效果,也关系到文化产业数字化转型的成效。检测技术创新应兼顾经济效益和社会效益,在支持转型的同时维护文化安全。

关键词：数字经济自动版权检测大规模预训练语言模型技术创新文化产业转型

来源：评论

学校读者我要写书评

暂无评论

中文预设识别语料库的构建与预设识别

引用

大连工业大学学报 2023年第4期42卷 299-305页

作者：魏晓聪段懿桐刘思含大连外国语大学软件学院辽宁大连116044

预设是普遍存在于人类语言中的一种特殊推理关系。为提升计算机对预设这一语言现象的自然语言理解能力,构建了基于人工标注的中文预设识别语料库。本语料库与中文自然语言推理数据集的识别难度大体相同。通过在本语料库上精调BERT-base... 详细信息

预设是普遍存在于人类语言中的一种特殊推理关系。为提升计算机对预设这一语言现象的自然语言理解能力,构建了基于人工标注的中文预设识别语料库。本语料库与中文自然语言推理数据集的识别难度大体相同。通过在本语料库上精调BERT-base、BERT-wwm-ext、RoBERTa、ELECTRA以及XLNet语言模型,结果表明,该语料库能够有效促进大规模预训练模型对预设语言现象的理解,对于体裁格式比较固定的触发类型模型识别较好,对问句、与事实相悖的条件从句识别准确率较低,现有大规模预训练语言模型仍然缺乏预设触发语含义的相关知识,在中文预设别方面还有很大的提升空间。

关键词：语料库预设识别自然语言推理自然语言理解大规模预训练语言模型

来源：评论

学校读者我要写书评

暂无评论

中文慕课评论情感识别语料库的构建与应用

引用

重庆理工大学学报（自然科学） 2023年第4期37卷 174-181页

作者：魏晓聪于澜大连外国语大学软件学院辽宁大连116044

中文在线教育评论情感识别在很大程度上受到有标注数据不足的限制,针对此问题,基于806门中国大学MOOC以自动和人工相结合的方式构建中文慕课情感识别语料库,共计10340条评论,其中褒义5411条,贬义4929条,保证了语料库的平衡性和学科覆盖... 详细信息

中文在线教育评论情感识别在很大程度上受到有标注数据不足的限制,针对此问题,基于806门中国大学MOOC以自动和人工相结合的方式构建中文慕课情感识别语料库,共计10340条评论,其中褒义5411条,贬义4929条,保证了语料库的平衡性和学科覆盖的广泛性。制定语料收集和预处理策略、标注规范、标注体系、一致性检测方法;提出了神经网络模型以及基于大规模预训练语言模型的情感识别方法;实现了情感识别结果面向教学管理部门、教师2种使用角色的应用。该语料库为面向在线教育评论的情感分析研究奠定数据基础,对赋能教学评价、助力智能教学系统具有重要意义。

关键词：中文慕课评论情感识别语料库大规模预训练语言模型

来源：评论

学校读者我要写书评

暂无评论

面向特定主题的开放式事件抽取关键技术研究

面向特定主题的开放式事件抽取关键技术研究

引用

作者：杨宗浩军事科学院

学位级别：硕士

事件是人类认知世界的一种重要方式,帮助人们组织和理解复杂的现实世界。事件抽取旨在从非结构化、半结构化文本中抽取出结构化的事件信息,辅助人类快速获取知识。在法律、军事、金融等专业领域,事件抽取已得到广泛应用。同时,作为构建... 详细信息

事件是人类认知世界的一种重要方式,帮助人们组织和理解复杂的现实世界。事件抽取旨在从非结构化、半结构化文本中抽取出结构化的事件信息,辅助人类快速获取知识。在法律、军事、金融等专业领域,事件抽取已得到广泛应用。同时,作为构建知识图谱、搜索引擎等应用的重要支撑,事件抽取也是一项非常基础且重要的工作,对知识问答、知识推荐等具有重要意义。通常将事件抽取方法分为限定式事件抽取和开放式事件抽取。限定式事件抽取需要预先定义事件类型,并需要人工拟定事件模板后再进行事件要素的抽取。然而现实世界中的事件通常具有多样性、开放性等特点,限定式方法预设的条件通常难以满足实际的数据环境和抽取要求。相比之下,开放式事件抽取能够自动抽取事件要素,能够自动发现开放文本中的事件类型,并归纳出对应事件类型的事件模板,具有更好的灵活性和迁移能力。本研究围绕特定主题,开展开放式事件抽取技术研究。特定主题,指的是人们重点关注的、具有特定研究内涵、方向或边界的问题,例如俄乌军事冲突等。这些特定主题中往往涉及到大量事件信息,并由事件将特定主题中的背景、过程、参与主体、行动、效果、外围要素等重要研究点串联起来,对其开展事件抽取至关重要。同时,由于特定主题往往具有突发性、领域交叉性和过程复杂性,对其所可能涉及的事件类型、事件要素难以事先预知,通用训练好的事件抽取算法往往无法识别,在这种情景下开展基于开放式的事件抽取方法更具有适用可行性。开放式事件抽取任务已经被广泛研究多年,但是仍然存在一些问题:1)基于聚类的事件类型归纳方法存在广义标签误差问题导致聚类精度受到限制;2)传统的事件模板归纳方法存在实体稀疏性问题,间接导致难以聚类归纳出重要的稀疏角色;3)基于提示工程的事件要素抽取方法鲁棒性较差,人工构建的提示中的特殊字符、任务指令表述形式对事件要素抽取性能存在影响。本研究着眼于面向特定主题的开放式事件抽取关键技术,针对上述问题,开展了如下三方面的研究工作,并基于研究成果初步构建了实用化工具。 (1)基于深度聚类特征优化的事件类型归纳方法。针对经典深度聚类算法利用聚类中心、互信息、距离度量等信息构造隐式广义标签,建立信息反馈(弱监督)的优化机制存在着聚类精度限制和广义标签误差问题,本研究提出了基于广义标签和无标签学习的深度聚类优化算法(DCGLU),实现了对无标注事件文本的聚类优化,有效解决了聚类过程中的误差干扰问题。在聚类优化过程中,利用样本之间的相关关系实现了事件类型的自动发现和归纳。实验结果表示,相比基线方法,DCGLU在聚类性能提升最高可达4.8%(ACC指标)。 (2)基于问题生成的事件模板归纳方法。针对传统的事件模板归纳方法采用无监督聚类无法有效解决稀疏性问题,本研究提出了基于问题生成的事件模板归纳方法(ESQG),利用大语言模型的迁移学习能力,将事件模板归纳任务转化为事件角色问题生成任务。实验结果表明,ESQG具有一定的事件模板归纳能力。 (3)基于大语言模型的事件要素抽取指令特征适配方法。针对手动构建的离散化指令在事件要素抽取任务中鲁棒性较差的问题,如何自动化调整事件要素抽取任务指令,以适应事件要素信息稀疏和复杂的现象是一个值得深入研究的问题。本研究引入了指令特征适配方法(IFA),通过无梯度优化器采样适配特征,自动化调整任务指令,从而优化模型在事件要素抽取方面的性能。实验结果表明,IFA能够调整指令使得模型抽取的结果更加的贴合事件要素抽取任务需求,其中在事件要素抽取性能上绝对提升最高可达4.21%(F1-score)。

关键词：事件抽取事件类型归纳事件模板归纳事件要素抽取大规模预训练语言模型

来源：评论

学校读者我要写书评

暂无评论

基于Bert的中文养生类虚假信息的检测

电脑爱好者（普及版）（电子刊）

引用

电脑爱好者（普及版）（电子刊） 2022年第4期 1535-1536页

作者：耿婷婷王国祥郑沁莹杨佳怡李超陈韬天津商业大学天津 300400 天津商业大学天津 300400 天津商业大学天津 300400 天津商业大学天津 300400 天津商业大学天津 300400 天津商业大学天津 300400

近年来,养生类虚假信息层出不穷,不少市民深受其害.为及时检测出互联网上的伪健康信息,有效抑制其传播,提高居民防范意识.本文建立了一种基于大规模预训练语言模型中的Bert模型的养生类虚假信息的检测模型,旨在及时、高效地检测出互联... 详细信息

近年来,养生类虚假信息层出不穷,不少市民深受其害.为及时检测出互联网上的伪健康信息,有效抑制其传播,提高居民防范意识.本文建立了一种基于大规模预训练语言模型中的Bert模型的养生类虚假信息的检测模型,旨在及时、高效地检测出互联网上的伪健康信息.同时引入LSTM和CNN等深度学习模型,基于机器学习中的SVM模型、NB模型作为基准模型进行对比分析.结果显示,基于Bert模型的预测精度较高,预测性能良好.Bert模型在中文文本识别等领域具有巨大的影响和重要意义,对未来人工智能的发展以及舆情分析等方面起到了推动作用.

关键词：养生类虚假信息 Bert模型机器学习大规模预训练语言模型

来源：评论

学校读者我要写书评

暂无评论

面向政务场景应用的AI数字人设计研究

引用

电脑与电信 2024年第8期 50-54页

作者：钱佳鑫李伟岸贵州师范大学国际教育学院贵州贵阳550025 贵州师范大学大数据与计算机科学学院贵州贵阳550025

随着人工智能技术的迅速发展,通过结合自然语言处理和视频生成技术,AI数字人可以显著提升政务服务的智能化和效率,在政务场景下的具有广泛的应用前景。本研究探讨了基于大模型和扩散模型的AI数字人技术在政务领域的创新应用,介绍了大模... 详细信息

随着人工智能技术的迅速发展,通过结合自然语言处理和视频生成技术,AI数字人可以显著提升政务服务的智能化和效率,在政务场景下的具有广泛的应用前景。本研究探讨了基于大模型和扩散模型的AI数字人技术在政务领域的创新应用,介绍了大模型和扩散模型的基本原理和技术特点,分析了AI数字人在政务服务中的具体应用场景及不足,提出了新的AI数字人的架构设计,设计了政务应用场景的提示模板与话术生成,并指出了未来研究的方向和挑战。最后,总结了基于大模型和扩散模型的AI数字人技术在提高政务服务质量、增强用户体验和推动智能政务发展方面的重要价值和潜力。

关键词： AI数字人大规模预训练语言模型扩散模型人工智能

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：