检索结果-内蒙古大学图书馆

作者：董泽辉内蒙古工业大学

学位级别：硕士

随着5G乃至6G技术的出现,推动了智能设备的普及,进而在网络边缘产生了大量的数据,使用这些数据进行分布式训练逐渐成为深度学习领域的主流。然而,这些数据大多数都为无标签数据,且其中少量的标签数据也呈现出数据非平衡的分布,使用这些... 详细信息

随着5G乃至6G技术的出现,推动了智能设备的普及,进而在网络边缘产生了大量的数据,使用这些数据进行分布式训练逐渐成为深度学习领域的主流。然而,这些数据大多数都为无标签数据,且其中少量的标签数据也呈现出数据非平衡的分布,使用这些数据训练将会导致模型分类发生偏差。如何在保证用户隐私的前提下,充分利用这些数据,已成为分布式训练深度学习模型的一大挑战。针对这一挑战,学术界提出了联邦半监督学习这一方法,它结合了联邦学习和半监督学习的思想来提高模型的分类准确度和泛化能力。但目前在解决数据非平衡的研究中,大部分都在联邦学习或者半监督学习这种单一角度去考虑如何解决数据非平衡问题,缺少了结合这两种方法在数据非平衡环境下进行分布式训练深度学习模型的具体研究。针对上述问题,首先,本文提出了面向极端类不平衡的联邦半监督学习(Federated Semi-supervised Learning for Extremely Class Imbalanced,FECI),该方法通过利用无标签数据进行数据扩充,缓解部分设备由于无法采集到某些类别数据导致的极端不平衡问题,从而提升联邦学习模型训练的分类准确度。在FECI中,通过使用基于自训练的本地类再平衡方法来实现节点上的类别再平衡,以及通过基于Kullback-Leibler散度的全局模型更新选择方法在全局范围内缓解数据的极端类不平衡问题。其次,本文提出了面向类可变不平衡的联邦半监督学习方法(Federated Semisupervised Learning for Class Variable Imbalance,FCVI),可以进一步解决类别数目变化引起的类可变不平衡问题。FCVI使用联邦梯度监测方法来监测模型训练参数,并推导出每个类别的变化情况。然后,FCVI使用类别可变缓解算法,从本地和全局两个角度来缓解类别数目变化带来的影响,以提高模型的分类准确度。与其他方法相比,FCVI不需要额外的数据信息,而且可以快速、准确地减小类可变不平衡对于分布式训练的负面影响。最后,本文在由异构设备组成的真实边缘智能环境中设计并实现了面向类不平衡场景的联邦半监督学习框架(Federated Semi-supervised Learning Framework for Class Imbalance Scenarios,FFCIS),主要用于支撑类不平衡场景下联邦半监督学习的高效学习。并通过测试,验证了FFCIS在各种真实类不平衡场景下可以显著缓解类不平衡对模型训练的负面影响。

关键词：分布式训练深度学习无标签数据数据非平衡联邦半监督学习

来源：评论

学校读者我要写书评

暂无评论

基于领域自适应的高速列车跨转速盘式制动状态监测研究

基于领域自适应的高速列车跨转速盘式制动状态监测研究

引用

作者：胡若晖西南交通大学

学位级别：硕士

盘式制动器是高速列车制动系统的重要组成部分,主要依靠制动闸片上摩擦块和制动盘间的摩擦来实现减速。依据我国高速列车制动控制策略,机械制动在列车行驶速度低于60km/h时逐渐介入工作。在列车低速运行时,制动闸片/制动盘摩擦作用下极... 详细信息

盘式制动器是高速列车制动系统的重要组成部分,主要依靠制动闸片上摩擦块和制动盘间的摩擦来实现减速。依据我国高速列车制动控制策略,机械制动在列车行驶速度低于60km/h时逐渐介入工作。在列车低速运行时,制动闸片/制动盘摩擦作用下极易产生高强自激振动,导致制动闸片异常磨损或发生劣化,危及行车安全。制动器的健康状态是保证列车在指定距离刹车的关键,因此,研究高速列车制动器健康状态监测具有十分重要的意义。在实际工作中制动器在变转速状态下运行,而变转速下摩擦界面信号识别模型存在训练数据稀缺、特征提取困难和泛化能力差等问题。针对跨转速下制动器的健康状态监测问题,本文的主要内容如下: (1)高速列车制动器多转速制动实验方案针对制动器摩擦块在长时间服役下发生不同形式损伤的问题,考虑列车运行速度变化对制动信号和状态监测模型精度产生的影响,提出使用缩比试验台收集高速列车不同转速刹车时制动界面信号的试验方案。从异常磨损机理出发,结合摩擦块易发生的偏磨、剥落和裂纹损伤状态,在试验台不同转速下采集摩擦块制动界面状态量,分析转速变化对摩擦振动信号产生的影响,为后续建立监测模型提供数据基础。 (2)小样本下基于数据生成的高速列车制动器跨转速状态监测方法针对实际中制动器摩擦块损伤数据量较少的小样本问题,提出一种有效利用不同转速下少量样本实现领域自适应的迁移学习模型。首先,采用深度生成式对抗网络实现少量振动信号的模拟式扩充,生成信号保留了真实信号完整的高频和低频特征;其次,通过对抗领域自适应网络将源域与目标域特征投射到同一特征空间,实现多领域特征提取与适配;最后,利用智能监测网络完成变转速下未知标签制动器摩擦块健康状态的识别。通过在小样本条件下的制动器跨转速监测试验,所提方法效果优于其他常用算法,证明了所提方法的可行性。 (3)基于引导式子领域自适应的高速列车制动器跨转速半监督状态监测方法针对制动器摩擦块不同转速振动信号间的较大特征差异,考虑到信号特征分布差异对监测模型精度的影响,提出了引导式子领域自适应网络来最小化相关子域间的分布差异,从而有效对齐摩擦块不同转速数据的特征分布。网络通过训练引导机制大幅度减少了目标信号伪标签的误判现象,使标签一致的子域更准确地找到合适的公共子空间。实验结果表明,所提方法能以最少的标签数量完成高速列车制动器跨转速状态监测,在平衡数据集、小样本条件和噪声环境下验证了所提方法的实用性,不论网络稳定性或准确率均优于对比的其他迁移学习算法。 (4)基于多转速领域泛化的高速列车制动器无监督在线状态监测方法为满足实际中高速列车传感器数据的实时监测需求,针对现实中存在大量无标签样本的场景,提出了一种无监督深度子领域泛化网络,用于在线监测列车制动闸片摩擦块健康状态。与现有的迁移学习方法不同,所提方法在网络训练时无需假设测试数据的可用性,通过无监督学习将模型推广到未知转速的新场景中。网络引入贝叶斯优化算法对深度学习模型超参数组合进行优化,并使用局部最大平均差异减小了多个源域相关子领域间的分布差异,使网络更准确地找到多转速数据的公共特征子空间。实验结果显示,所提模型在准确率上优于对比的其他领域泛化方法,网络能够准确地识别目标摩擦块状态。

关键词：摩擦块跨转速无标签数据智能状态监测领域自适应

来源：评论

学校读者我要写书评

暂无评论

基于卷积神经网络框架的复杂工况下轧机智能故障诊断方法研究

基于卷积神经网络框架的复杂工况下轧机智能故障诊断方法研究

引用

作者：高浩燕山大学

学位级别：硕士

钢铁工业在社会建设和经济发展中的地位不断上升,同时轧机设备逐渐趋于大型化、精密化和自动化,因此对轧机系统的安全性提出了更高的诉求,对轧机开展故障诊断工作显得愈加不可或缺。但轧机生产状态复杂,其中长时间稳定的轧钢生产活动使... 详细信息

钢铁工业在社会建设和经济发展中的地位不断上升,同时轧机设备逐渐趋于大型化、精密化和自动化,因此对轧机系统的安全性提出了更高的诉求,对轧机开展故障诊断工作显得愈加不可或缺。但轧机生产状态复杂,其中长时间稳定的轧钢生产活动使得采集样本存在严重类别不平衡现象,与此同时,不同的生产作业要求制定的轧制速度不同,使得数据分布产生偏移,这些问题给传统的故障诊断方法带来了挑战,因此急需提出实用、智能的故障诊断方法,来解决复杂工况下的轧机故障诊断问题。本文以卷积神经网络作为主要框架,以复杂工况下轧机设备状态监测方法为主线,从特征提取、故障诊断模型建立和性能评估几方面逐步展开研究。主要研究内容如下:首先,针对轧机的不同故障类别数据量不同的问题,提出了一种双注意力引导的特征增强网络。为了得到时频图像,对数据样本使用了小波变换来提取时频特征信息。接着堆叠可分离卷积层和池化层来从时频图像中自适应的提取故障特征,然后利用注意力机制设计了特征增强模块来整合和增强现在的卷积层特征表示,提高了网络模型结构对故障信息的趋势判断和掌控能力,增强了信息之间共享的相关性。并采用全局平均池化和多重学习率变化策略,在削减网络运行过程中计算量的同时,还提前防范把控了过拟合的风险。在轧机实验系统上采集数据并设计不同数据集,实验结果表明,该方法在数据平衡条件和数据不平衡条件下皆能完成高效的故障诊断。其次,针对变转速工况下的轧机跨域故障诊断问题,以及实际工业中标签信息难以获取的问题,提出了一种多尺度特征自适应对齐网络。首先,直接采用一维卷积神经网络提取源域和目标域数据的故障特征,减少了数据预处理的工作。接着设计了多层次的学习结构,自动学习不同尺度的高级表达。然后分别在每个尺度上利用LMMD作为源域特征分布和目标域特征分布的子域分布损失项,并提出了一种平方类混淆损失函数来减少分类层的分类分歧。在实验室轧机数据集和公共数据集上进行实验,证明了所提方法能在跨域无标签数据下取得优异的故障诊断性能。最后,针对数据不平衡与变转速的耦合问题,提出了一种基于多表示特征增强对齐网络的轧机故障诊断方法。该方法首先从输入信号中提取多尺度故障特征信息,接着使用特征增强模块增加故障检测的参考信息,然后使用LMMD在相应尺度的增强特征上进行域分布对齐,并引入自我约束策略来减弱伪标签带来的偏差,最后联合分类损失、分布损失和类混淆损失来调整模型参数。通过实验证明了该方法在变工况数据不平衡条件下可以取得较高的故障识别率。综上所述,本文设计了不同的故障诊断模型来解决不同复杂工况下的轧机故障诊断问题,并通过实验证明其相较其他方法诊断性能更好,有着一定的实际工程应用价值。

关键词：故障诊断复杂工况数据不平衡变转速无标签数据

来源：评论

学校读者我要写书评

暂无评论

基于乐高采样的自监督表示学习方法

引用

桂林电子科技大学学报 2023年第3期43卷 181-186页

作者：许亦博赵文义李灵巧杨辉华桂林电子科技大学计算机与信息安全学院广西桂林541004 北京邮电大学人工智能学院北京100876

基于卷积神经网络的自监督表示学习因可处理无标签数据而在近来获得广泛应用,然而由于其较慢的收敛速度和较差的细节提取能力导致计算量大和性能较低。为解决上述问题,提出一种基于乐高采样策略的有效且高效的自监督表示学习方法。该方... 详细信息

基于卷积神经网络的自监督表示学习因可处理无标签数据而在近来获得广泛应用,然而由于其较慢的收敛速度和较差的细节提取能力导致计算量大和性能较低。为解决上述问题,提出一种基于乐高采样策略的有效且高效的自监督表示学习方法。该方法首先引入乐高采样策略,通过在原始图像中采样较小补丁以增加样本数量,同时使用较小补丁拼接的图像以维持较少的计算量,其次引入了一个局部细节对比分支来平衡局部细节特征和全局语义特征之间的关系,最后使用多种损失函数共同优化模型。在CIFAR和3个细粒度分类数据集上对比验证了方法的有效性。实验结果表明,本方法较MoCo等方法能够获取更为全面的全局信息和细节信息,并且在下游线性分类、目标检测等任务中获得更好的分类准确率和检测平均精度,且具有较好的视觉效果。

关键词：自监督学习无标签数据乐高采样全局特征局部特征

来源：评论

学校读者我要写书评

暂无评论

零样本学习中的域漂移问题研究

零样本学习中的域漂移问题研究

引用

作者：刘博中国科学院大学

学位级别：博士

零样本学习是指利用已见类别的数据学习一个模型用于识别未见类别的数据。由于它可以缓解深度学习模型对大量标注数据的依赖，同时有助于深度学习应用系统在现实的开放环境中落地，因此近年来引起了机器学习及其应用领域的广泛关注。零... 详细信息

零样本学习是指利用已见类别的数据学习一个模型用于识别未见类别的数据。由于它可以缓解深度学习模型对大量标注数据的依赖，同时有助于深度学习应用系统在现实的开放环境中落地，因此近年来引起了机器学习及其应用领域的广泛关注。零样本学习的基本思想是在已见类别域上学习一个视觉特征与语义特征之间的映射模型，然后将该模型迁移到未见类别域。但由于已见类别域上的视觉-语义映射关系和未见类别域上的视觉-语义映射关系天然地具有一定的偏移，即所谓的域漂移，因此使得通过已见类别数据学习的模型在未见类别域上的泛化性受到限制。针对域漂移问题，虽然研究人员从不同的角度提出了大量的方法，但目前该问题在很大程度上依然没有被解决。本文主要围绕零样本学习中的域漂移问题，从困难类别现象、特征生成、无标签数据利用以及新的任务场景四个不同的角度展开了研究。具体地，本文的主要工作包括以下几方面:　　1、目前针对域漂移问题的研究都是将未见类别视为一个整体，缺少对不同未见类别域漂移程度的深入观察和分析。本文发现了零样本学习中一个普遍存在却被忽视的现象，即困难类别现象。该现象表明不同未见类别具有不同程度的域漂移。基于该现象，本文首先经验性的证明了困难类别对于缓解域漂移问题具有特殊的重要性。接着，本文深入分析了困难类别的成因，并揭示了语义近邻性是导致困难类别的一个重要原因。基于以上分析，本文在两种不同的零样本学习方式下分别提出了相应的困难类别的判定准则以及基于困难类别的学习框架。本文提出的学习框架可以适用于目前大多数的零样本学习方法，并能显著地改进其性能。　　2、由于域漂移的存在，现有的生成式零样本学习方法生成的视觉特征分布与真实的分布之间存在较大的偏移。针对该问题，本文提出了一种基于视觉原型和视觉残差的特征生成方法。在该方法中，视觉特征被分解为视觉原型与视觉残差，并通过两个单独的模型分别学习。本文利用了一个视觉原型预测器对每个类别的视觉原型进行预测，并用于表示每类视觉特征分布的中心，从而显式地对视觉特征分布偏移进行了约束。在视觉原型预测器中，本文设计了一种基于语义误差的视觉特征选择方法，用于选取具有语义一致性的视觉特征维度。同时，与现有建模视觉特征分布的方法不同，本文利用了一个生成对抗网络建模视觉残差分布。最后，本文结合视觉原型和视觉残差分布，合成了大量的视觉特征。本文的方法可以生成偏移更小的视觉特征分布，从而有效地缓解了域漂移问题。　　3、无标签未见类别数据的利用一般可以有效缓解零样本学习中的域漂移问题。现有的方法主要通过单模型自训练来利用无标签数据，容易陷入局部极小值。本文提出了一种基于多模型协同训练的直推式学习框架，用于无标签数据的挖掘。在该框架中，两个（或多个）基本模型（可以是任意的归纳式零样本学习方法）用于生成未见类别数据的伪标签，伪标签交换模块用于指导基本模型之间的协同训练。为了提高协同训练的效率，本文进一步提出了两条基本模型选择准则以及三种伪标签交换机制。此外，为了将该方法推广到广义零样本学习，本文进一步提出了一种基于语义知识的域检测模型用于缓解广义零样本学习中的偏置问题。　　4、目前的零样本学习研究主要集中于图像分类任务。3D场景语义分割任务中的零样本学习是一个具有重大应用价值的问题，但目前的文献中还没有相关的研究报道。本文设计了一个新的零样本3D场景语义分割任务，并构建了相应的数据集、评价指标以及基线方法。针对零样本3D场景语义分割中的域漂移问题，本文提出了一种基于语义知识的3D点特征生成模型，同时设计了一种基于几何关系的特征增强方法用于模型的训练。

关键词：零样本学习域漂移问题困难类别现象特征生成无标签数据语义分割

来源：评论

学校读者我要写书评

暂无评论

基于无监督学习的故障诊断算法研究

基于无监督学习的故障诊断算法研究

引用

作者：胡旭峰山东大学

学位级别：博士

当前,机械设备已经广泛地应用于能源、交通、冶金、化工、航空等行业,在现代工业和生产中所起到的作用越来越大,并且机械设备的结构正朝重型化、大型化、高速化、精密化、复杂化等方向迅速地发展。机械设备的功能愈加完善,结构越来越复... 详细信息

当前,机械设备已经广泛地应用于能源、交通、冶金、化工、航空等行业,在现代工业和生产中所起到的作用越来越大,并且机械设备的结构正朝重型化、大型化、高速化、精密化、复杂化等方向迅速地发展。机械设备的功能愈加完善,结构越来越复杂,致使对机械设备的健康状态进行监测愈发困难,机械设备一旦发生故障会造成严重的后果。对机械设备进行可靠的监测,开发有效的故障诊断技术,不仅可以保证机械设备运行的安全,还可以获得明显的经济效益。得益于现代科技的不断进步,机械设备故障诊断领域吸收了越来越多的先进技术,并取得了大量优秀的研究成果。近些年来,数据驱动的故障诊断方法随着大数据的快速发展得到了越来越多的关注和研究。数据驱动的故障诊断方法能够在不需要精确的系统模型和专家知识的情况下对机械设备的相关运行数据进行处理分析,实现对机械设备的故障诊断。当前在许多工业应用场景下获取到的反映机械设备状态的数据信号非平稳、非线性、噪声较多,还可能出现信号调制的现象,许多数据信号无法被准确标注,因此积累了大量的无标签数据。对大量的无标签数据进行分析,对故障诊断人员来说是一项费时费力的工作。无监督学习算法可以直接利用无标签数据进行分析研究,具有强大的适用性,近年来已经成为故障诊断领域新的研究热点。本文基于无监督学习开展机械设备故障识别方法的研究,为充分利用机械设备无标签振动数据进行故障诊断提供合理的解决方案。本文的主要研究内容如下:(1)本文选用堆叠稀疏自编码器(Stacked Sparse Autoencoders,SSAE)来无监督地提取原始数据的高度抽象的特征,针对在面对无标签数据时无法以传统的有监督方式微调SSAE网络的问题,通过对SSAE模型结构和算法原理的深入分析,对传统的有监督微调方式进行了改进,提出了一种两阶段的无监督微调策略来对SSAE进行微调,实现SSAE完全无监督的特征提取。通过在一个公开数据集上的实验对采用无监督微调策略的SSAE的特征提取能力进行了验证,与其他几种常见的无监督特征提取算法相比,SSAE具有最好的特征提取效果。(2)针对传统的模糊聚类算法存在进行聚类之前需要设置聚类数量、对初始聚类中心的选择十分敏感以及离群样本点使聚类结果不准确的问题,通过深入了解这些问题产生的原因,提出了自适应加权模糊聚类算法(Adaptive Weighted Gath-Geva clustering,AWGG)。AWGG算法根据样本的数据密度来选择合适的初始聚类中心;在聚类训练过程中,通过对样本加权来获得加权聚类中心;引入PBMF聚类评价指标,可以不用预设聚类数,自适应的得到最优的聚类数和聚类结果。AWGG算法有效的解决了传统模糊聚类算法的缺点,在不需要设置聚类数的情况下,能够稳定地自动获得最优的聚类结果。通过实验对所提AWGG算法的性能进行了验证,实验结果证明了所提出的AWGG算法的有效性,与其他常见的模糊聚类算法相比具有明显的优势。(3)针对现实中存在大量无标签振动数据的场景,提出了一种完全无监督的故障识别框架——深度自适应模糊聚类算法(Deep Adaptive Fuzzy Clustering Algorithm,DAFC)。DAFC利用SSAE从原始数据集中逐层提取高度抽象的特征,所提取的特征能有效地代表样本的基本特性,并能够降低噪声的影响,将SSAE提取出的高度抽象特征作为AWGG算法的输入,使用AWGG聚类算法进行无监督自适应模糊聚类,自动得到最优的聚类结果。DAFC通过SSAE的无监督微调策略将SSAE与AWGG有机的结合在一起,构成了完全无监督的故障识别框架,在故障诊断领域属于首次实现完全无监督的故障识别。DAFC算法能够直接使用无标签振动数据进行聚类分析,自动得到最优的聚类结果,极大的节约了故障诊断人员的时间成本,在两个数据集上的实验结果证明了其无监督故障识别的有效性。

关键词：无标签数据故障识别无监督学习堆叠稀疏自编码器自适应加权Gath-Geva聚类

来源：评论

学校读者我要写书评

暂无评论

基于半监督Transformer的流体识别方法研究

基于半监督Transformer的流体识别方法研究

引用

2023年中国地球科学联合学术年会

作者：景一凡肖立志廖广志中国石油大学(北京)

Transformer模型作为一种关键的深度学习架构,专为处理序列数据任务,如自然语言处理,而设计。Vaswani等人于2017年首次提出了Transformer模型,旨在克服传统循环神经网络在处理长距离依赖性时的限制[1]。其核心创新在于自注意力机制,能... 详细信息

Transformer模型作为一种关键的深度学习架构,专为处理序列数据任务,如自然语言处理,而设计。Vaswani等人于2017年首次提出了Transformer模型,旨在克服传统循环神经网络在处理长距离依赖性时的限制[1]。其核心创新在于自注意力机制,能够并行地对输入序列中的不同位置进行建模,从而捕捉全局上下文信息,避免了逐步处理的瓶颈。

关键词：流体识别 Transformer 测井数据无标签数据半监督

来源：评论

学校读者我要写书评

暂无评论

基于短文本分类的社交网络用户角色挖掘关键技术研究

基于短文本分类的社交网络用户角色挖掘关键技术研究

引用

作者：杨翊中国科学院大学

学位级别：博士

随着互联网与移动通讯技术的快速发展，各类不同的社交平台不断涌现，人们越来越习惯于在这些社交平台上交友、娱乐、获取和交流信息、分享自身心情与经历、评价购物体验等。随着社交网络与用户规模的迅速增长，积累了大量的用户行为数... 详细信息

随着互联网与移动通讯技术的快速发展，各类不同的社交平台不断涌现，人们越来越习惯于在这些社交平台上交友、娱乐、获取和交流信息、分享自身心情与经历、评价购物体验等。随着社交网络与用户规模的迅速增长，积累了大量的用户行为数据，通过用户行为模式来发现用户角色，从而识别不同类型的用户以及了解人们的行为，是一个非常重要的研究问题，对用户行为预测、异常用户发现、个性化推荐等问题具有重要意义。社交网络中的短文本数据是一类非常重要的社交网络行为数据，数量庞大且包含丰富的行为特征，因此被广泛应用于社交网络用户角色挖掘研究中。然而由于短文本数据具有特征稀疏、行文不规范、新话题不断涌现等特点，导致基于短文本数据对用户角色进行挖掘的相关研究工作非常复杂，是一项具有挑战性同时又非常有意义的研究课题。　　本文基于社交网络中的短文本数据，利用短文本内容、交互关系与时间规律，对社交网络用户进行角色挖掘，并对其中涉及的行为特征提取关键技术进行研究。本文的研究重点是根据用户发文内容对短文本进行分类，从而更准确的提取交互文本内容特征，并根据用户文本类别分布挖掘用户角色;然后根据短文本类别和用户群体之间的发文规律发现动态社团行为模式，研究用户之间交互的动态顺序与关联规则从而挖掘用户角色。本文的主要研究内容以及创新点如下:　　第一、基于无标签数据短文本分类的用户角色挖掘　　提出一种新的无标签数据短文本分类算法来提取用户文本内容特征从而挖掘用户角色，无标签数据短文本分类是指不利用任何标记数据对短文本进行分类，该方法的创新点在于结合短文本主题模型和外部词向量，利用类别种子词对社交短文本进行分类，其主要步骤为:首先通过类别种子词与外部词向量计算类别-文档词相似度，然后将该相似度与短文本主题模型结合，引导文档主题生成从而对短文本进行分类;基于短文本类别，计算用户类别分布，从而聚类用户，识别用户角色。与直接利用主题模型对短文本进行聚类的方法相比，我们提出的无标签数据短文本分类方法由于结合了先验知识，能够更为准确的划分出分析人员关注的内容，获得更高的类别划分准确率以及更好的可解释性;而与有监督的短文本分类算法相比，我们的方法不需要事先准备大量标记数据，更加灵活并且代价更小。　　第二、基于无标签数据层次短文本分类的用户角色挖掘　　提出一种新的无标签数据层次短文本分类算法对社交网络文本内容进行层次结构化从而挖掘用户角色，该算法借助已知的树形层次类别先验知识以及父节点层的信息，对短文本进行层次分类，然后基于用户的层次类别分布对用户聚类，识别用户角色。提出的无标签数据层次短文本分类算法的创新点在于改变了以往研究仅仅考虑通过平面的主题模型对短文本进行平面的文本分析，将层次化的类别先验知识和词向量与短文本主题模型结合，根据层次结构逐层进行无标记数据的文本分类，提高了文本内容分类的准确率。与以往根据大型知识库对短文本内容进行分类相比，我们的方法不依赖于大型知识库中已经归纳好的知识，能够适用于社交网络中的各类场景，使用更为灵活。　　第三、基于动态社团行为模式的用户角色挖掘　　提出一种新的动态社团行为模式挖掘算法，用于对用户之间交互的动态关联顺序进行建模。这里的的动态社团行为模式是指分析三个或三个以上用户的群体行为规律，通过挖掘动态社团行为模式来对用户行为特征进行建模，发现用户群体相互之间的前后发文规律与主题演化规律，从而挖掘用户角色。其创新点在于同时利用了短文本数据中的交互结构信息、内容信息与时序规律信息，用于发现动态社团行为模式，从而实现用户角色挖掘。

关键词：短文本分类社交网络用户角色挖掘无标签数据时序规律信息

来源：评论

学校读者我要写书评

暂无评论

基于特征空间流形的半监督学习算法研究

基于特征空间流形的半监督学习算法研究

引用

作者：杨雨龙中国科学院大学

学位级别：硕士

随着社会进入大数据时代，处理海量数据成为了社会各界的迫切需求。为了满足这种需求，深度学习应运而生，并在许多领域上都取得了很好的结果。然而，训练神经网络通常需要大量的有标签数据，而对这些数据进行标注需要耗费大量的人力物... 详细信息

随着社会进入大数据时代，处理海量数据成为了社会各界的迫切需求。为了满足这种需求，深度学习应运而生，并在许多领域上都取得了很好的结果。然而，训练神经网络通常需要大量的有标签数据，而对这些数据进行标注需要耗费大量的人力物力。为了能够高效利用少量的有标签数据和大量的无标签数据，研究者们提出了半监督学习算法。本文主要研究半监督图像分类算法。　　传统的半监督图像分类算法先使用通用的特征提取方法提取特征，再应用半监督机器学习方法对提取的特征进行分类。然而，通用的特征提取方法的多样性有限，且无法保证使用于后续的任务。所以，研究人员提出了深度半监督学习方法进行端到端训练，使特征具有多样性且与任务相关。　　一类特别的深度半监督学习是伪标签半监督学习。这类方法使用模型的历史预测作为监督信号，以有监督学习的方式进行训练。然而，伪标签方法存在“认知偏误”问题(Confirmationbias)，即使用错误预测作为监督信号会使得模型的错误累积。本文分析了这种现象的成因，认为认知偏误是由模型对流形信息的利用不足而引起的，即在训练时没有利用多个样本之间的关系信息。　　因此，本文提出了两种利用流形信息克服认知偏误的方法，并将这两种方法应用到已有的半监督学习框架上。样本的数据流形由所有样本在特征空间中构成的图表示。然而，在每个小批次中使用所有数据计算量过大。为了能够以低代价利用流形信息，本文对所有特征构成的图做了近似。在第二章中，提出了使用原型学习改进的伪标签半监督学习算法(PrototypesLearningImprovedPseudo-Labeling，PAIPL)。使用样本学习原型与当前批次的样本特征构成的图近似数据流形，应用图注意力网络修正样本特征，从而实现对伪标签的修正。在第三章中，提出了使用标签传播改进的伪标签半监督学习算法(LabelPropagationImprovedPseudo-Labeling，LPIPL)。使用采样的部分特征与当前批次的样本特征构成的子图近似数据流形，应用考虑置信度的标签传播算法修正伪标签。　　本文的主要创新如下:　　(1)提出了一种基于原型的图注意力特征修正方法——原型注意力层。通过训练学习原型，得到数据流形的一个压缩表示，再通过图注意力模型，从原型中获得对样本分类有用的信息，合并原有特征，得到参考数据流形修正的特征。　　(2)将原型注意力层应用到两种伪标签半监督学习框架中，得到两种新的伪标签半监督学习算法。与没有加入原型注意力层的相应的基线方法相比，算法的准确率取得了显著的提升。　　(3)提出了一种相互混合监督的伪标签生成方法，使生成的伪标签既能在早期相对快速的收敛，又具备了好的流形表示。　　(4)提出了一种使用标签传播改进的伪标签半监督学习框架，将标签传播和小批次训练的伪标签半监督学习结合起来，实现了端到端训练。　　(5)提出了两种考虑置信度的标签传播算法，即无向图标签传播算法(UndirectedGraphLabelPropagation，UGLP)和有向图标签传播算法(DirectedGraphLabelPropagation，DGLP)，使得标签传播算法能够根据伪标签的可靠程度，不同程度地进行标签传播，更适用于半监督学习中伪标签可靠程度不一的情况。　　我们在半监督图像分类数据集CIFAR-10和CIFAR-100上进行实验，都取得了很好的准确率，验证了PAIPL和LPIPL的有效性。

关键词：半监督学习伪标签原型学习标签传播无标签数据

来源：评论

学校读者我要写书评

暂无评论

基于在线形状先验感知和多一致性约束的半监督医学图像分割方法研究

基于在线形状先验感知和多一致性约束的半监督医学图像分割方法研...

引用

作者：周楠浙江大学

学位级别：硕士

近年来，深度学习技术飞速发展，基于深度学习的图像分割方法在多个领域取得显著成效。器官分割作为计算机辅助诊断（ComputerAidedDiagnosis，CAD）的重要环节，是医学临床诊断和理论研究的基础，由此许多学者对该领域进行探索和研究... 详细信息

近年来，深度学习技术飞速发展，基于深度学习的图像分割方法在多个领域取得显著成效。器官分割作为计算机辅助诊断（ComputerAidedDiagnosis，CAD）的重要环节，是医学临床诊断和理论研究的基础，由此许多学者对该领域进行探索和研究。与自然图像不同，医学图像的对比度低，存在噪声，图像中邻近目标区域的密度和纹理相近;同时，由于医学图像标注工作需要专业人士完成，标注成本高，研究人员难以获取大量有像素级标注的数据集，这些都给高精度的医学图像器官分割带来很大的挑战。　　采用半监督学习模式，可以利用无标签数据提高深度学习网络分割的性能。针对医学图像特点，研究人员也提出了不同的性能提升方法，包括在分割网络中加入先验指导、改进损失函数、添加注意力机制、或者进行不同形式数据增广扩充有限的标注数据集等。其中基于先验的方法通常需要提前计算先验信息，无法做到网络的端对端训练。此外，大多数方法对无标注数据只进行像素级的学习，很少关注图像全局结构和上下文信息，导致出现过分割和欠分割的问题。因此，本文从如何灵活利用图像先验信息实现网络端对端训练，以及如何有效利用无标注数据两个角度展开探索和研究，提出基于在线形状先验感知和结合局部与整体一致性约束的半监督医学图像分割方法。本文主要工作如下：　　1）提出一种基于在线形状先验感知的半监督医学图像分割方法（简称OSPP-SMIS）。该方法通过在MeanTeacher半监督框架中引入多任务结构，添加有符号距离图SDM回归分支，在线获取每个样本的形状先验，实时指导分割分支，实现网络的端对端训练。此外，通过形状映射将回归距离转换成分割掩码，在网络输出端直接影响分割分支，强化提取到的形状先验，使网络更关注目标物体的形状特征，从而提高分割性能。该方法在2018年MICCAI提出的LGE-MRI三维左心房公开数据集上进行实验验证，分割性能超过目前其它基于半监督学习和先验信息的图像分割方法，Dice系数达到89.57%，Jaccard系数达到81.28%，ASD和95%HD指标分别降为2.36voxel和7.70voxel。　　2）提出一种结合局部与整体一致性约束的半监督医学图像分割方法（简称LGCC-SMIS）。该方法通过在OSPP-SMIS基础上加入全局结构相似度损失函数，进行局部像素和全局结构的一致性约束，充分挖掘无标注图像信息，提高网络提取丰富语义特征的能力。同时，针对网络需要学习大量无标注数据，预测结果会存在不可信点和噪声问题，设计不确定度评估和高置信度选择模块，让网络尽可能从置信度高的样本中学习，从而提升网络性能。该方法在2018年MICCAI提出的LGE-MRI三维左心房公开数据集上进行实验验证，分割性能达到目前最优，Dice指标比SOTA方法提高0.25%，Jaccard系数提高0.43%，ASD指标降低0.05voxel，95%HD指标降低0.41voxel。

关键词：医学图像分割半监督学习形状先验不确定度估计结构一致性无标签数据

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：