检索结果-内蒙古大学图书馆

软件学报 2024年第11期35卷 5196-5209页

作者：翟德明沈斯娴周雄江俊君刘贤明季向阳哈尔滨工业大学计算学部黑龙江哈尔滨150001 清华大学自动化系北京100084

目前,深度学习广泛应用于各个领域并取得了优异的表现,这通常需要大量标注数据的支持,而大量标注数据的获取往往意味着高昂的成本与苛刻的应用条件.因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半... 详细信息

目前,深度学习广泛应用于各个领域并取得了优异的表现,这通常需要大量标注数据的支持,而大量标注数据的获取往往意味着高昂的成本与苛刻的应用条件.因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学习正是其中一大研究方向.半监督学习通过利用大量的未标记数据辅助少量的标记数据进行学习,很好地减轻了深度学习的数据需求压力.伪标签生成方法是当前半监督学习的重要组成部分,所生成的伪标签质量的优劣会很大程度影响半监督学习的最终效果.聚焦半监督学习中的伪标签生成问题,提出基于最优传输理论的伪标签生成方法.所提方法在将有标签信息作为生成过程引导的同时引入类别均衡约束,在此基础上将半监督学习的伪标签生成过程转换成最优传输优化问题,给出新的求解伪标签生成问题的形式.为求解该优化问题,引入Sinkhorn-Knopp算法进行近似快速求解,避免不可计算问题.所提伪标签生成方法作为半监督学习中的独立过程可结合当前一致性正则等半监督学习技巧构成完整的半监督学习过程.最终,在CIFAR-10、SVHN、MNIST、FashionMNIST这4大公共经典图像分类数据集上进行实验,验证方法的有效性.实验结果显示,所提方法与当前先进的半监督学习方法相比,均取得更优异的结果,尤其是在标签情况较少的情况下提升显著.

关键词：半监督学习伪标签生成最优传输图像分类深度学习

来源：评论

学校读者我要写书评

暂无评论

面向深度半监督学习的伪标签生成算法研究

面向深度半监督学习的伪标签生成算法研究

引用

作者：沈斯娴哈尔滨工业大学

学位级别：硕士

目前,深度学习广泛用于各领域并取得了优异表现,但是这往往需要大量标注数据的支持。大量标注数据的获取意味着高昂的成本与苛刻的应用条件。因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学... 详细信息

目前,深度学习广泛用于各领域并取得了优异表现,但是这往往需要大量标注数据的支持。大量标注数据的获取意味着高昂的成本与苛刻的应用条件。因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学习正是其中一大研究方向,它通过利用大量的未标记数据辅助少量的标记数据进行学习,很好地减轻了深度学习的数据需求压力。伪标签生成方法是当前半监督学习的重要组成部分。所生成的伪标签质量的优劣会很大程度影响半监督学习的最终效果。而本文正是聚焦半监督学习中的伪标签生成方法,针对一般场景设置下的半监督学习以及具有极少标签量情况下的半监督学习场景,提出优质伪标签的生成方法。首先,针对一般半监督学习问题,本文提出了基于最优传输理论的伪标签生成方法。当前的半监督学习的伪标签生成方法多仅考虑模型输出结果且多忽略生成标签的类别分布问题,因此本文考虑在模型输出结果的基础上,引入有标记数据进行辅助并增加类别均衡约束。本文基于最优传输理论在上述约束条件下的标签生成问题统一成一个线性优化问题,通过求解该优化问题得到最终的伪标签。在求解该优化问题过程中,本文引入Sinkhorn-Knopp算法进行近似快速求解,避免了不可计算问题。当然,本文也给出了基于该标签生成方法的完整半监督学习过程。除此之外,本文根据半监督数据设置,在CIFAR-10、SVHN等经典的图像分类数据集上进行实验,验证了该方法的有效性。其次,针对稀疏半监督学习问题,即半监督学习数据中有标记数据量极少的情况,本文提出了基于泊松正则的伪标签生成方法。为解决在该极端情况下,当前大部分半监督学习算法的训练效果会大幅下降的问题,首先,本文在有限标签数据量的情况下,更加充分地挖掘已有信息,提出在利用模型输出结果的基础上,引入语义信息引导伪标签生成。在分析了利用拉普拉斯正则进行语义信息引入在标签量过少情况下的问题后,引入泊松正则项进行替代,结合泊松正则与模型输出结果约束得到了适应极少标签场景的半监督学习优化式。最后,本文使用经典的图像分类数据集并随机挑选极少数据作为有标记数据构成了模型训练数据集,在对比当前其他半监督方法的情况下,有效验证了本文所提出的基于泊松正则的标签生成方法的有效性。

关键词：半监督学习伪标签生成最优传输图学习图像分类

来源：评论

学校读者我要写书评

暂无评论

视频场景边界伪标签生成与自监督检测研究

视频场景边界伪标签生成与自监督检测研究

引用

作者：杨平安重庆大学

学位级别：硕士

随着视频处理技术的发展,如何快速、准确地分析和理解海量长视频成为计算机视觉领域近期的研究热点之一。其中,长视频的时序结构分析与场景边界检测是许多长视频理解任务的基础上游任务。然而,电影和电视剧集等长视频往往具有复杂的情节... 详细信息

随着视频处理技术的发展,如何快速、准确地分析和理解海量长视频成为计算机视觉领域近期的研究热点之一。其中,长视频的时序结构分析与场景边界检测是许多长视频理解任务的基础上游任务。然而,电影和电视剧集等长视频往往具有复杂的情节,这使得建模镜头间关系面临挑战。此外,大量标注视频场景边界是耗时费力的,使得视频场景边界检测任务存在标注量受限的挑战。因此,如何从大量无标注的视频数据中挖掘镜头间关系以提升检测效果是目前视频场景边界检测任务的一大研究难点。本文以设计伪边界生成算法为切入点,研究基于伪标签生成的自监督视频场景边界检测方法。先分析并探讨镜头间可能存在的语义关系并设计伪边界生成算法,再以伪边界预测为代理任务训练视频场景边界检测模型,然后通过实验验证这些镜头间关系对视频场景边界检测任务的重要性。本文的主要工作包括两个部分:(1)设计语义转变检测算法作为伪边界生成算法,并基于该算法提出自监督视频场景边界检测方法。语义转变检测算法以场景间语义的强不一致性关系和场景内镜头间语义的弱不一致性关系为理论基础,为无标注的视频数据赋予伪标签,从而支撑视频场景边界检测模型的预训练过程。在微调时引入镜头时长信息,帮助模型进一步理解每个镜头在场景中的作用。实验结果表明语义转变检测算法生成的伪标签更准确,使模型获得明显的性能提升。该结果也验证了场景间语义的强不一致性关系和场景内镜头间语义的弱不一致性关系在视频场景边界检测任务中扮演重要角色。(2)设计视频场景蒙太奇算法作为伪边界生成算法,支撑视频场景边界检测模型的预训练。视频场景蒙太奇算法通过模拟真实视频场景之间的语义关系来生成大量可靠的伪标签。该算法不仅模拟了场景间语义的强不一致性关系和场景内镜头间语义的弱不一致性关系,还考虑了场景间语义的弱一致性关系和场景内镜头间语义的强一致性关系。此外,为了方便镜头间关系建模,该方法还将每个镜头的视觉语义解耦为前景和背景以提供更丰富的视觉表征。实验表明视频场景蒙太奇算法训练的模型能高效建模镜头间关系并大幅超越其他先进模型,从而完整地验证了镜头间语义关系在视频场景边界检测任务中起到的重要作用。

关键词：深度学习长视频理解视频场景边界检测自监督学习伪标签生成

来源：评论

学校读者我要写书评

暂无评论

基于伪标签生成策略的半监督立场检测

基于伪标签生成策略的半监督立场检测

引用

作者：高肇泽重庆理工大学

学位级别：硕士

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表... 详细信息

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表达了他们对事件、社会问题和政党的立场。立场检测作为新兴的研究方向,在社交平台上有很多应用,如舆情分析、观点调研、虚假新闻检测和恶意言语检测。由于数据标注成本高昂,本文专注于探讨以文本为基础的半监督立场检测任务。基于有标签数据量稀少,大部分数据为无标签数据,构建了两种基于伪标签生成策略的半监督立场检测模型,并进行了大量实验验证所提模型的有效性,本文研究内容如下: 生成伪标签是半监督立场检测的一种有效策略。以往工作SANDS利用同质性网络来改变半监督立场检测的方式,并达到了很好的效果。然而,该方法没有对伪标签质量进行区分,同时要求数据集存在跟随者与被跟随者图,模型的泛化性低。为了解决上述问题,本文提出了一个基于伪标签增强的协同训练的半监督立场检测模型(SDCA)。首先,本研究使用有标签推文对两种不同的分类模型进行预训练。这两个模型随后独立预测无标签数据,生成两组伪标签及其概率分布。接下来,通过比较两个模型生成的伪标签,如果一致,则认为这些伪标签的质量较高,只保留这部分数据。最后,根据伪标签的质量,对数据进行排序,选取质量最高的前k个推文作为下一轮训练的输入。剩余较高质量带伪标签的推文继续优化分类模型。在两个公开数据集上进行充分实验,实验结果表明,提出的方法显著优于最优基线。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的;此外,现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题,提出基于类别感知课程学习的半监督立场检测模型(SDCL)。首先,使用预训练分类模型对无标签推文生成伪标签;其次,根据伪标签质量高低对推文按类别排序,并选取每个类别前k个高质量推文;最后,将各个类别选出的推文进行合并后重新排序,排序后带有伪标签的推文再输入分类模型,进一步优化模型参数。实验结果表明,与基线模型中表现最好的SANDS相比,所提模型在3种不同划分(500、1000、1500)情况下,Stance US数据集Mac-F1分别提高了1.5、1.1和2.6个百分点,Stance IN数据集Mac-F1分别提高了1.2、1.1和1.3个百分点,实验结果验证了所提模型的有效性。

关键词：半监督立场检测协同训练伪标签生成课程学习

来源：评论

学校读者我要写书评

暂无评论

基于类别感知课程学习的半监督立场检测

引用

计算机应用 2024年第10期44卷 3281-3287页

作者：高肇泽朱小飞项能强重庆理工大学计算机科学与工程学院重庆400054

生成伪标签是半监督立场检测的一种有效策略。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的,且没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述2个问题,提出基于类别感知课程学... 详细信息

生成伪标签是半监督立场检测的一种有效策略。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的,且没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述2个问题,提出基于类别感知课程学习的半监督立场检测模型(SDCL)。首先,使用预训练分类模型对无标签推文生成伪标签;其次,根据伪标签质量的高低对推文按类别排序,并选取每个类别前k个高质量推文;最后,将各个类别选出的推文合并后重新排序,并把排序后带有伪标签的推文再输入分类模型,从而进一步优化模型参数。实验结果表明,与基线模型中表现最好的SANDS(Stance Analysis via Network Distant Supervision)相比,所提模型在3种不同划分(有标签推文总数为500、1000和1500)情况下,在StanceUS数据集上的宏平均(Mac-F1)分数分别提高了2、1和3个百分点,在StanceIN数据集上的Mac-F1分数均提高了1个百分点,验证了所提模型的有效性。

关键词：半监督立场检测类别不平衡课程学习伪标签生成

来源：评论

学校读者我要写书评

暂无评论

面向图像级标注的弱监督语义分割算法研究

面向图像级标注的弱监督语义分割算法研究

引用

作者：陈震元南京理工大学

学位级别：硕士

语义分割作为计算机视觉的根本任务之一,旨在赋予图像中每一个像素语义类别信息,其广泛应用于遥感图像检测、自动驾驶识别、医学图像肿瘤分割、运动物体追踪等领域。区别于图像分类和目标检测任务,语义分割任务的像素标注需要大量人力... 详细信息

语义分割作为计算机视觉的根本任务之一,旨在赋予图像中每一个像素语义类别信息,其广泛应用于遥感图像检测、自动驾驶识别、医学图像肿瘤分割、运动物体追踪等领域。区别于图像分类和目标检测任务,语义分割任务的像素标注需要大量人力、物力和财力。弱监督语义分割仅根据少量粗粒度标签,如图像级、涂鸦级或检测框级标注,训练语义分割模型,因此能较好的解决这一问题。具体的,本论文研究图像级标注下的弱监督语义分割问题,针对伪标签生成和伪标签精炼两个方面,做出如下贡献: 本文首先考虑弱监督语义分割的图像分割伪标签生成问题,即通过仅有的图像级标注训练下的图像分类网络,生成具有上下文语义信息的像素伪标签。现有做法通常根据网络最后一层特征图对分类结果的响应程度,生成类激活图(Class Activation Mapping,CAM)作为初始的像素伪标签。但其只反映了网络深层区域的高层表达特征,而忽略了网络的浅层区域特征。为了解决这一问题,本文针对伪标签生成,提出了一种基于Transformer的类别可知逐层相关性传播算法,通过擦除累计的方式,汇聚不同层级和不同响应程度的特征。实验结果表明,本章提出方法在伪标签生成方面超过了已有伪标签生成算法,较好地融合了网络浅层和深层响应。由于仅通过分类网络生成的伪标签不具备较强的语义判别能力,现有方法通常对分类网络生成的伪标签进行精炼,并扩大伪标签的置信区域。但他们往往只考虑了整张图片的全局信息,却忽略了图像的局部信息。为了解决伪标签精炼算法的局部信息缺失问题,本文针对伪标签精炼,提出了一种掩码重构方法,增强了图像分类网络提取图像局部信息(遮挡和未遮挡区域)的能力。该方法通过生成特征相似性伪标签矩阵,优化自注意力图的特征相似性矩阵,达到将局部伪标签信息进行随机游走的目的,进而扩大伪标签区域,生成更具语义上下文关系的伪标签。实验结果表明,本章提出的重构一致损失对网络学习全局和局部特征具有较大帮助,基于特征相似性的标签传播算法能显著提升最终的图像分割结果。上述两个方法分别从伪标签生成和伪标签精炼两方面分别构建算法,但没有一个统一的端到端框架同时完成伪标签的生成与精炼。为了解决图像分割与图像分类之间仅靠伪标签单向传递的问题,本文提出了一种新思路,将语义分割任务分解为物体形状的无监督学习和语义类别的弱监督学习。特别的,本方法通过矩阵分解的形式融合伪标签生成和伪标签精炼两阶段方法,使用聚类块作为图像分类与图像分割之间的桥梁,从而端到端地完成弱监督语义分割任务。实验结果表明,本章提出的方法联合分割分类共同学习,对语义分割具有明显效果提升。该方法不仅能适用于弱监督场景,还可以迁移至全监督和半监督场景,因此对设计统一的语义分割模型具有借鉴意义。

关键词：弱监督语义分割伪标签生成伪标签精炼深度聚类

来源：评论

学校读者我要写书评

暂无评论

基于单目深度估计的道路障碍检测与尺寸估计

基于单目深度估计的道路障碍检测与尺寸估计

引用

作者：肖滢华东师范大学

学位级别：硕士

环境感知是工程车辆智能化的基础,检测路面的障碍并进行尺寸估计有助于规避潜在的危险,降低事故的风险。基于激光雷达的三维目标检测技术已日渐成熟,然而激光雷达昂贵的价格限制了相关技术在实际工业生产、生活中的落地。针对此问题,论... 详细信息

环境感知是工程车辆智能化的基础,检测路面的障碍并进行尺寸估计有助于规避潜在的危险,降低事故的风险。基于激光雷达的三维目标检测技术已日渐成熟,然而激光雷达昂贵的价格限制了相关技术在实际工业生产、生活中的落地。针对此问题,论文提出使用常见的单目摄像机替代昂贵的激光雷达。首先通过构建自监督的单目深度估计模型预测深度图,然后将其转换为伪点云,最后基于伪点云实现道路障碍的检测与尺寸估计。针对深度估计和伪点云数据转换过程中存在的问题,论文提出了相应的改进方法,主要的贡献点如下:第一,针对自监督单目深度估计中缺少全局监督信息的问题,提出了一种基于特征点匹配和几何视图关系的伪标签自动生成方法。该方法可同时生成伪采样网格标签和伪位姿标签。其中,伪采样网格标签可用于直接计算与采样网格的损失;而通过论文设计的双流位姿估计网络,可将伪位姿标签和网络生成的位姿一起用于训练,使模型同时学习到基于网络的信息和基于几何的信息。论文提出的伪标签自动生成方法能够为自监督单目深度估计模型提供全局的监督信息,使模型学习到更多全局的结构和几何信息。第二,针对自监督的单目深度估计方法中低纹理区域内存在深度位置偏移的问题,提出了一种基于采样网格引导的深度正则方法。利用采样网格理想情况下在低纹理区域内呈均匀分布、错误的深度估计会打破这种理想分布的特点,使用采样网格放大深度位置偏移问题,从而对深度进行正则。论文提出的深度正则方法能够有效缓解低纹理区域内的深度位置偏移问题。第三,在将深度图转换为伪点云数据的基础上,提出了基于V视差图的地平面提取方法,用于辅助高度特征的计算。论文从稠密的深度图生成伪点云数据。在降低传感设备成本的同时获得了更多的点云信息。同时,论文提出的基于V视差图的地平面提取方法能够自适应地提取地平面区域,解决固定范围的地平面区域不适用的问题。该方法能够有效过滤噪声数据,提高地平面拟合的准确性。

关键词：单目深度估计自监督学习伪标签生成三维目标检测 V视差图

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的属性图半监督异常检测算法研究

基于深度学习的属性图半监督异常检测算法研究

引用

作者：郭锦涛深圳大学

学位级别：硕士

随着信息时代的到来,社交网络迅速发展和普及,人们使用网络便利了生活,但同时各种类型的欺诈和攻击行为,不断伤害着用户们的权益和网络的健康环境。所谓的网络攻击,欺诈等危害行为,即我们需要挖掘的异常。属性图作为图数据结构中的一种... 详细信息

随着信息时代的到来,社交网络迅速发展和普及,人们使用网络便利了生活,但同时各种类型的欺诈和攻击行为,不断伤害着用户们的权益和网络的健康环境。所谓的网络攻击,欺诈等危害行为,即我们需要挖掘的异常。属性图作为图数据结构中的一种重要类型,能很好地抽象和模拟现实场景中多种异常检测应用问题,因此属性图异常节点检测成为研究热点。近年来,随着深度学习的发展,研究者们从无监督方向出发,提出了一系列利用图神经网络同异常建模结合的深度无监督属性图异常检测方法,并取得了不错的检测性能。虽然基于无监督学习的异常检测方法成本低,但由于缺乏标签数据的修正,其性能受限,因此基于半监督的属性图异常检测成为研究趋势。通过对现有的基于深度学习的属性图异常检测方法进行研究总结,仍面临着一些问题和挑战。首先,属性图异常检测问题相较于传统应用领域,如表格数据,图像领域来说,数据之间存在属性及拓扑关联的复杂交互,然而现有的半监督方法缺乏针对属性图数据特性的异常建模设计,所以在识别结构异常、联合异常等多种类型的属性图异常节点上还有待提高。其次,由于正常类节点与异常类节点在数量上极度不均衡,同时有标注的样本数量比无标注样本数量少很多,这使得常规的图表示方法难以学习到正常/异常类区分明显的高质量节点嵌入表示,从而限制下游异常检测网络性能。再者,在实际异常检测场景中,标签数据集占比极少,尤其是异常标签数据。这导致异常检测网络能够学习到的标签信息十分有限,从而检测网络无法较好的感知正常类和异常类的差异性。本文根据以上问题展开研究,提出了一系列有效的基于深度学习的属性图半监督异常检测方法,主要研究内容及创新总结如下: (1)为了高效利用无标注数据优化图节点表示学习过程,以及全面捕捉属性图中多种异常类节点,本文提出了一种基于自适应加权的半监督属性图异常检测方法ADAW。基于无标注数据集潜空间分布特性,本文设计了一种自适应加权方法为无标注数据样本分配网络权重以估计其正常/异常程度,从而充分利用大量无标注数据信息指导异常检测网络学习,强化正常/异常类节点的嵌入表示差异性。同时对属性及结构异常联合建模,构建基于半监督的属性重构及结构重构模块,通过最小化属性重构误差,结构重构误差以及整体重构误差以实现更全面的针对属性异常,结构异常及联合异常多种异常模式的联合检测。通过对比实验验证了ADAW检测性能的优越性,同时通过消融实验证明了分布异常检测模块,联合重构异常检测模块及自适应权重方法的有效性。 (2)实际异常检测问题中标签数据占比极少,尤其是异常标签,这使得检测网络能学习到的标签信息十分有限,限制了算法性能。本文以ADAW方法为基础进行改进,通过引入伪标签技术,提出了一种基于极值理论伪标签生成的半监督属性图异常检测集成算法ADPET。ADPET以ADAW输出的节点集异常分数分布作为算法输入,通过引入极值理论来模拟异常分数分布曲线得到异常伪标签动态划分阈值,从而生成一系列高质量异常伪标签提升检测网络训练过程。同时本方法引入集成学习思想,选用多个经典异常检测模型构建伪标签判别器。通过将节点属性矩阵LLE降维并拼接ADAW网络输出的融合结构信息的节点潜空间表达,来增强伪标签判别器的输入特征空间,提升伪标签判别器的准确度。通过两阶段的半监督检测网络迭代交替训练过程,在伪标签的指导下,使检测网络能更好的捕捉正常类和异常类的差异性,实现更优的检测性能。通过对比实验验证了基于ADAW改进的ADPET算法的优越性,伪标签生成技术及伪标签判别器的有效性。

关键词：属性图异常检测深度半监督学习图卷积网络伪标签生成集成学习

来源：评论

学校读者我要写书评

暂无评论

基于对抗学习的无监督域适应图像分类方法研究

基于对抗学习的无监督域适应图像分类方法研究

引用

作者：范博文北京建筑大学

学位级别：硕士

在实际的图像分类应用中,由于天气条件、照明和图像采集设备的不同,具有相同语义内容的图像存在着分布上的差异,这极大地限制了图像分类算法的应用。而采集大量的标记数据耗时耗力,这推动了无监督域适应算法的研究。无监督域适应(UDA)... 详细信息

在实际的图像分类应用中,由于天气条件、照明和图像采集设备的不同,具有相同语义内容的图像存在着分布上的差异,这极大地限制了图像分类算法的应用。而采集大量的标记数据耗时耗力,这推动了无监督域适应算法的研究。无监督域适应(UDA)旨在将知识从带有大量标签的源域迁移到没有标签的目标域。目前的研究主要集中在统一两个域的特征分布上。然而,目标域通常具有更为复杂的背景信息,源域和目标域的全局特征分布并不相同,在源域和目标域之间直接共享整个网络强制全局分布对齐会导致性能的下降。此外,基于全局特征分布对齐的方法往往忽略了目标数据的固有判别信息,导致分类错误。基于类别对齐的方法通过为目标域样本生成伪标签,增强目标的判别特征,然而这些伪标签通常过于嘈杂,因此不可避免地会影响UDA的性能。本文针对以上问题开展研究,提出两种新的基于对抗学习的UDA框架。主要研究工作和成果如下:(1)提出了一种新的基于域特定批量归一化的对抗域适应模型。首先,采用对抗性学习损失模块,综合考虑域对齐和类别对齐,从对抗学习获得的混淆矩阵中自动构建一个新的损失函数来矫正自训练中的伪标签;其次,在卷积神经网络(CNN)的编码器架构中引入域特定批量归一化模块(DSBN),通过分离批量归一化层来分别适应源域和目标域。将域特定信息与域不变信息分离,更好地学习域不变特征表示,来获得更好的泛化性能。最后,本文的方法在Office-Home数据集和Office-31数据集的准确率分别达到67.4%和89.4%,验证了模型的有效性。(2)提出了一种基于特征空间约束的对抗域适应模型(SwinUDA)。首先,对于域对齐,将Swin Transformer与对抗性自适应相结合,提高模型对噪声输入的鲁棒性,同时实验结果表明采用transformer作为特征提取器具有更高的可迁移性。其次,对于类别对齐,使用正交投影损失(OPL)直接在特征空间中实施约束,来自相同类别的样本(无论来自源域或目标域)被拉近,而来自不同类别的样本被推开。此外,正交投影损失对标签噪声干扰的影响更有鲁棒性。为了保留目标域的判别信息,引入了互信息最大化损失(IML)来保留目标域的可区分特征。本文提出的SwinUDA模型可以同时学习可迁移和可区分的特征。在Office-Home、Office-31和Vis DA-2017三个公开数据集上进行实验,SwinUDA都展现了最佳的性能。

关键词：对抗学习无监督域适应图像分类类别对齐伪标签生成

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的眼底图像糖网病变分割方法研究

基于深度学习的眼底图像糖网病变分割方法研究

引用

作者：黄椿程重庆理工大学

学位级别：硕士

糖尿病性视网膜病变是糖尿病最为常见的微血管并发症之一简称糖网病变,初期症状隐匿而严重时可能导致永久性视力损伤或致盲的风险。因此,对于该病变的早期筛查与干预至关重要。然而,由于眼底摄片设备匮乏、患者增多、专业摄片人员稀缺... 详细信息

糖尿病性视网膜病变是糖尿病最为常见的微血管并发症之一简称糖网病变,初期症状隐匿而严重时可能导致永久性视力损伤或致盲的风险。因此,对于该病变的早期筛查与干预至关重要。然而,由于眼底摄片设备匮乏、患者增多、专业摄片人员稀缺、患者筛查依从性差等因素,该病变的筛查普及率低。为此,现有的眼底图像糖网病变分割任务中存在可训练数据集较小、人工标注难度大、样本分布不均、计算资源成本高等问题,且目前使用深度学习算法对已标注的眼底图像的资源利用率不足,像素级分割的精度仍然有待提高。因此,本文针对眼底图像的糖网病变分割的分割任务为研究对象,在U-Net和多任务学习的基础上展开研究并针对上述问题提出解决方案,为眼底图像分割临床使用奠定基础。本文主要工作包括: (1)提出了一种高质量伪标签生成方法,目的在于最大化利用现有数据集,提供数据集多标签,获得图像更多信息。通过集成学习的方法训练初始伪标签生成的模型,而后将初始伪标签联合Grad-CAM方法的热力图对标签进行修正,使标签准确率在一定的置信度区间范围内,从而得到最终的高质量伪标签。 (2)设计了一个标签更新网络,主要为缓解多任务学习过程中任务间梯度不平衡的问题。同时改进多任务U-Net模型,在模型的编码器部分增加设计的标签更新网络模块。在学习过程中不断调整任务间的权重比例,以学习更为通用的特征表示,并在多个开源眼底图像数据集上验证该方法的有效性和普适性。此外,眼底图像数据集所拥有的两个标签分别是像素级标注的分割掩码图像,另一个则是有无病变的二分类标签。 (3)提出了一种基于像素级分割的两阶段算法,为进一步提升糖网病变分割的准确度,同时增加高分辨图像训练模型的计算资源利用率。引入糖网病变分级的辅助任务,辅助任务的伪标签由(1)所提出的方法获得,且作为该算法的第一阶段,在第二阶段中主要基于多任务U-Net模型,使用了(2)中设计的标签更新网络进行多标签的特征学习,并调整任务间权重。最后通过模型的对比实验、消融实验和分割结果可视化验证了分割效果至少1.89%以上的有效提升。

关键词：糖网病变分割伪标签生成热力图多任务学习

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：