检索结果-内蒙古大学图书馆

南京信息工程大学学报 2025年第2期 203-214页

作者：崔绍君季繁繁王婷袁晓彤南京信息工程大学自动化学院南京信息工程大学数字取证教育部工程研究中心南京信息工程大学江苏省大数据分析技术重点实验室南京信息工程大学计算机学院

本文提出一种基于梯度权值追踪的剪枝与优化算法(GWP),旨在解决无监督领域中存在的过拟合问题，即在下游任务上的精度远低于在训练集上的精度.针对无监督领域自适应中基于差异与基于对抗的方法，将稠密-稀疏-稠密策略应用于解决过拟合问... 详细信息

本文提出一种基于梯度权值追踪的剪枝与优化算法(GWP),旨在解决无监督领域中存在的过拟合问题，即在下游任务上的精度远低于在训练集上的精度.针对无监督领域自适应中基于差异与基于对抗的方法，将稠密-稀疏-稠密策略应用于解决过拟合问题.先对网络进行密集预训练，并学出哪些连接是重要的；在剪枝阶段，与原有的稠密-稀疏-稠密策略中的剪枝过程不同，本文的优化算法同时将权值和梯度联合考虑，既考虑到了权值信息(即零阶信息),也考虑到了梯度信息(即一阶信息)对网络剪枝过程的影响；在重密集阶段，恢复被修剪的连接，并以较小的学习率重新训练密集网络.最终，得到的网络在下游任务上取得了理想的效果.实验结果表明，与原有的基于差异和基于对抗的领域自适应方法相比，本文提出的GWP可以有效提升下游任务精度，且具有即插即用的效果.

关键词：梯度权值追踪无监督领域自适应稠密-稀疏-稠密过拟合零阶信息一阶信息

来源：评论

学校读者我要写书评

暂无评论

基于SEnet和多头注意力机制的推荐模型

引用

信息技术 2025年第2期49卷 1-6,13页

作者：申晓宁沈如一陈星晖宋丽妍南京信息工程大学自动化学院南京210044 南京信息工程大学江苏省大气环境与装备技术协同创新中心南京210044 南京信息工程大学江苏省大数据分析技术重点实验室南京210044 江苏省气象能源利用与控制工程技术研究中心南京210044 南方科技大学广东省类脑智能计算重点实验室广东深圳518055

现有推荐系统研究方法在处理用户和商品特征时忽略了特征之间的相关性和重要性。为此,文中提出一种结合挤压伸缩网络和多头注意力机制的个性化推荐模型。利用挤压伸缩网络求得各个特征权重并得到加权特征向量;采用多头注意力机制计算特... 详细信息

现有推荐系统研究方法在处理用户和商品特征时忽略了特征之间的相关性和重要性。为此,文中提出一种结合挤压伸缩网络和多头注意力机制的个性化推荐模型。利用挤压伸缩网络求得各个特征权重并得到加权特征向量;采用多头注意力机制计算特征之间的关联度并进行特征交叉,使关联度高的特征对点击率预测结果的影响更大;引入自适应激活函数和残差结构的深度网络作为决策层预测推荐结果。与七种已有的推荐模型在Criteo数据集和Amazon数据集上的实验对比结果表明,所提模型具有更高的推荐精度。

关键词：推荐系统深度学习挤压伸缩网络

来源：评论

学校读者我要写书评

暂无评论

基于卦限卷积神经网络的3D点云分析

引用

自动化学报 2021年第12期47卷 2791-2800页

作者：许翔帅惠刘青山江苏省大数据分析技术重点实验室南京210044 南京信息工程大学计算机学院、软件学院、网络空间学院南京210044

基于深度学习的三维点云数据分析技术得到了越来越广泛的关注,然而点云数据的不规则性使得高效提取点云中的局部结构信息仍然是一大研究难点.本文提出了一种能够作用于局部空间邻域的卦限卷积神经网络(Octant convolutional neural netw... 详细信息

基于深度学习的三维点云数据分析技术得到了越来越广泛的关注,然而点云数据的不规则性使得高效提取点云中的局部结构信息仍然是一大研究难点.本文提出了一种能够作用于局部空间邻域的卦限卷积神经网络(Octant convolutional neural network,Octant-CNN),它由卦限卷积模块和下采样模块组成.针对输入点云,卦限卷积模块在每个点的近邻空间中定位8个卦限内的最近邻点,接着通过多层卷积操作将8卦限中的几何特征抽象成语义特征,并将低层几何特征与高层语义特征进行有效融合,从而实现了利用卷积操作高效提取三维邻域内的局部结构信息;下采样模块对原始点集进行分组及特征聚合,从而提高特征的感受野范围,并且降低网络的计算复杂度.Octant-CNN通过对卦限卷积模块和下采样模块的分层组合,实现了对三维点云进行由底层到抽象、从局部到全局的特征表示.实验结果表明,Octant-CNN在对象分类、部件分割、语义分割和目标检测四个场景中均取得了较好的性能.

关键词：深度学习点云卦限卷积神经网络局部几何特征

来源：评论

学校读者我要写书评

暂无评论

随机初始化神经网络剪枝的稀疏二值规划方法

引用

计算机工程与应用 2023年第8期59卷 138-147页

作者：陆林季繁繁袁晓彤南京信息工程大学自动化学院南京210044 江苏省大数据分析技术重点实验室南京210044 南京信息工程大学计算机学院南京210044

传统深度神经网络剪枝方法往往以预训练模型为初始网络并需要在剪枝后进行微调。受到近年来edgepopup等基于随机初始化网络的剪枝算法优异性能的启发,提出了一种基于稀疏二值规划的随机初始化网络剪枝算法。该算法将剪枝训练过程建模为... 详细信息

传统深度神经网络剪枝方法往往以预训练模型为初始网络并需要在剪枝后进行微调。受到近年来edgepopup等基于随机初始化网络的剪枝算法优异性能的启发,提出了一种基于稀疏二值规划的随机初始化网络剪枝算法。该算法将剪枝训练过程建模为一个稀疏二值约束优化问题。其核心思想是利用稀疏二值规划来学习一个二值掩膜,利用该掩膜可以从随机初始化的神经网络上裁剪出一个未经训练却性能良好的稀疏网络。与之前基于随机初始化网络的剪枝算法相比,该算法找到的稀疏网络在多个稀疏度下都具有更好的分类泛化性能。与edge-popup算法相比,在ImageNet数据集分类任务中,模型在稀疏度为70%时精度提升7.98个百分点。在CIFAR-10数据集分类任务中,模型在稀疏度为50%时精度提升2.48个百分点。

关键词：神经网络剪枝随机初始化二值掩膜二值规划稀疏优化

来源：评论

学校读者我要写书评

暂无评论

基于伪孪生网络双层优化的对比学习

引用

模式识别与人工智能 2022年第10期35卷 928-938页

作者：陈庆宇季繁繁袁晓彤南京信息工程大学自动化学院南京210044 南京信息工程大学数字取证教育部工程研究中心南京210044 南京信息工程大学江苏省大数据分析技术重点实验室南京210044 南京信息工程大学计算机学院南京210044

目前,基于伪孪生网络的对比学习算法使用各种组件以获得最优学生网络,但忽略教师网络在下游任务中的表现,因此,文中提出基于伪孪生网络双层优化的对比学习,促进学生网络和教师网络相互学习,获得最优教师网络。双层优化策略包括基于近邻... 详细信息

目前,基于伪孪生网络的对比学习算法使用各种组件以获得最优学生网络,但忽略教师网络在下游任务中的表现,因此,文中提出基于伪孪生网络双层优化的对比学习,促进学生网络和教师网络相互学习,获得最优教师网络。双层优化策略包括基于近邻优化的学生网络优化策略和基于随机梯度下降的教师网络优化策略。基于近邻优化的学生网络优化策略让教师网络成为约束项,帮助学生网络更好地向教师网络学习。基于随机梯度下降的教师网络优化策略求解近似教师网络,梯度更新教师网络。在5个数据集上的实验表明,文中算法取得较高的k-NN(k=1)分类精度和线性分类精度,特别在批次大小较小时,优势较大。

关键词：对比学习双层优化学生网络近邻优化教师网络随机梯度下降

来源：评论

学校读者我要写书评

暂无评论

基于全局-局部生成对抗学习的无监督弱光图像增强

引用

计算机辅助设计与图形学学报 2022年第10期34卷 1550-1558页

作者：孙子正宋慧慧樊佳庆刘青山南京信息工程大学大气环境与装备技术协同创新中心江苏省大数据分析技术重点实验室南京210044 南京航天航空大学计算机学院南京210016 南京信息工程大学计算机学院南京210044

在弱光图像增强中,现有的无监督方法仍存在着真实性不足以及对于极暗条件的图像增强效果不明显等问题.为此,提出了一种无监督的弱光图像增强方法,通过设计一种高效循环生成对抗网络,直接从弱光图像中恢复出正常光照图像.首先,为解决大... 详细信息

在弱光图像增强中,现有的无监督方法仍存在着真实性不足以及对于极暗条件的图像增强效果不明显等问题.为此,提出了一种无监督的弱光图像增强方法,通过设计一种高效循环生成对抗网络,直接从弱光图像中恢复出正常光照图像.首先,为解决大尺寸输入导致的内存不足的问题,设计了全局-局部生成器;其次,判别器设计为自适应二阶段分类器,通过判别全局区域来自适应定位需再次判别的局部区域;最后,采用了焦点频域损失函数,使模型自适应地聚焦于分类难以合成的频率波段,以避免生成图像失真.文中方法在NPE,LIME,MEF,DICM和VV数据集上的感知指标(perceptual index,PI)分别达到了2.81,2.78,2.40,3.15和3.69,在LOL数据集上PSNR和SSIM指标分别达到了19.89 dB和0.7823,具有良好的鲁棒性.

关键词：生成对抗网络弱光图像增强无监督学习焦点频域损失

来源：评论

学校读者我要写书评

暂无评论

深度信号引导学习混合变换器的高性能无监督视频目标分割

引用

电子学报 2023年第5期51卷 1388-1395页

作者：苏天康宋慧慧樊佳庆张开华南京信息工程大学江苏省大数据分析技术重点实验室江苏南京210044 南京信息工程大学大气环境与装备技术协同创新中心江苏南京210044 南京航天航空大学计算机与科学技术学院江苏南京211106

现存的无监督视频目标分割方法通常使用光流作为运动线索来提升模型性能.然而,光流的估计常存在误差,这将导致双流网络易对噪声过拟合.为此,本文提出一种基于混合变换器的无监督视频目标分割算法,通过引入深度信号引导变换器高效融合不... 详细信息

现存的无监督视频目标分割方法通常使用光流作为运动线索来提升模型性能.然而,光流的估计常存在误差,这将导致双流网络易对噪声过拟合.为此,本文提出一种基于混合变换器的无监督视频目标分割算法,通过引入深度信号引导变换器高效融合不同模态数据,以学习更加鲁棒的特征表达,从而减轻模型对噪声的过拟合.首先,设计一个新颖的混合注意力模块来获得全局感受野并对不同模态的特征进行充分交互,以增强特征的全局语义信息来提升模型的抗干扰能力.接着,为了进一步感知精细化的目标边缘,设计了一个局部-非局部语义增强模块,将局部语义的归纳偏置引入补充学习非局部语义特征,在提升模型抗干扰力的同时突出更精细化的目标区域.最后,增强后的特征输入变换器的解码器,预测得到高质量的分割结果 .与最先进的方法相比,本文所提算法在四个标准数据集上都获得了领先的性能,充分表明了本文所提方法的有效性.

关键词：无监督视频目标分割混合变换器混合注意力多模态深度估计鲁棒特征

来源：评论

学校读者我要写书评

暂无评论

耦合单词与句子级文本特征的图像对抗级联生成

引用

计算机工程与科学 2023年第12期45卷 2186-2196页

作者：白志远杨智翔栾鸿康孙玉宝南京信息工程大学计算机学院江苏南京210044 南京信息工程大学计算机学院江苏省大数据分析技术实验室江苏南京210044

文本生成图像旨在根据自然语言描述生成逼真的图像,是一个涉及文本与图像的跨模态分析任务。鉴于生成对抗网络具有生成图像逼真、效率高等优势,已经成为文本生成图像任务的主流模型。然而,当前方法往往将文本特征分为单词级和句子级单... 详细信息

文本生成图像旨在根据自然语言描述生成逼真的图像,是一个涉及文本与图像的跨模态分析任务。鉴于生成对抗网络具有生成图像逼真、效率高等优势,已经成为文本生成图像任务的主流模型。然而,当前方法往往将文本特征分为单词级和句子级单独训练,文本信息利用不充分,容易导致生成的图像与文本不匹配的问题。针对该问题,提出了一种耦合单词级与句子级文本特征的图像对抗级联生成模型(Union-GAN),在每个图像生成阶段引入了文本图像联合感知模块(Union-Block),使用通道仿射变换和跨模态注意力相结合的方式,充分利用了文本的单词级语义与整体语义信息,促使生成的图像既符合文本语义描述又能够保持清晰结构。同时联合优化鉴别器,将空间注意力加入到对应的鉴别器中,使来自文本的监督信号促使生成器生成更加相关的图像。在CUB-200-2011数据集上将其与AttnGAN等多个当前的代表性模型进行了对比,实验结果表明,Union-GAN的FID分数达到了13.67,与AttnGAN相比,提高了42.9%,IS分数达到了4.52,提高了0.16。

关键词：文本生成图像生成对抗网络多模态任务

来源：评论

学校读者我要写书评

暂无评论

基于循环显著性校准网络的胰腺分割方法

引用

自动化学报 2022年第11期48卷 2703-2717页

作者：邱成健刘青山宋余庆刘哲江苏大学计算机科学与通信工程学院镇江212013 南京信息工程大学自动化学院南京210044 江苏省大数据分析技术重点实验室南京210044 大气环境与装备技术协同创新中心南京210044

胰腺的准确分割对于胰腺癌的识别和分析至关重要.研究者提出通过第一阶段粗分割掩码的位置信息缩小第二阶段细分割网络输入的由粗到细分割方法,尽管极大地提升了分割精度,但是在胰腺分割过程中对于上下文信息的利用却存在以下两个问题:1... 详细信息

胰腺的准确分割对于胰腺癌的识别和分析至关重要.研究者提出通过第一阶段粗分割掩码的位置信息缩小第二阶段细分割网络输入的由粗到细分割方法,尽管极大地提升了分割精度,但是在胰腺分割过程中对于上下文信息的利用却存在以下两个问题:1)粗分割和细分割阶段分开训练,细分割阶段缺少粗分割阶段分割掩码信息,抑制了阶段间上下文信息的流动,导致部分细分割阶段结果无法比粗分割阶段更准确;2)粗分割和细分割阶段单批次相邻预测分割掩码之间缺少信息互监督,丢失切片上下文信息,增加了误分割风险.针对上述问题,提出了一种基于循环显著性校准网络的胰腺分割方法.通过循环使用前一阶段输出的胰腺分割掩码作为当前阶段输入的空间权重,进行两阶段联合训练,实现阶段间上下文信息的有效利用;提出卷积自注意力校准模块进行胰腺预测分割掩码切片上下文信息跨顺序互监督,显著改善了相邻切片误分割现象.提出的方法在公开的数据集上进行了验证,实验结果表明其改善误分割结果的同时提升了平均分割精度.

关键词：胰腺分割阶段上下文信息切片上下文信息卷积自注意力校准模块

来源：评论

学校读者我要写书评

暂无评论

融合对比学习的对抗式无监督领域自适应图像分类方法

引用

计算机辅助设计与图形学学报 2024年

作者：王婷季繁繁崔绍君袁晓彤南京信息工程大学计算机学院数字取证教育部工程研究中心南京信息工程大学江苏省大数据分析技术重点实验室南京信息工程大学自动化学院

提出一种融合对比学习的对抗式无监督领域自适应图像分类方法(CADA)，旨在将从标记良好的源域训练得到的模型推广到未标记的目标域时仍然保持良好的泛化性能. 针对于以往的基于对抗的无监督领域自适应方法中存在的只在整体上对齐源域... 详细信息

提出一种融合对比学习的对抗式无监督领域自适应图像分类方法(CADA)，旨在将从标记良好的源域训练得到的模型推广到未标记的目标域时仍然保持良好的泛化性能. 针对于以往的基于对抗的无监督领域自适应方法中存在的只在整体上对齐源域和目标域的特征，而忽略了两个领域在全局分布对齐的同时属于同一类的特征是否对齐的问题，以及对无标签的目标域样本利用不充分的问题，将对比学习的思想引入到基于对抗的无监督领域自适应方法中，通过不断地拉近目标域中相似样本在特征空间中的距离，同时不断地推离不相似的样本，使得无标签的目标域样本的分类边界更加清晰，从而使得源域和目标域样本在全局对齐的同时也实现类内对齐; 将目标域的样本经过数据增强后送入对比学习模块，使得目标域无标记的样本得到了更充分的利用. 与原有的基于对抗的无监督领域自适应方法相比，提出的CADA在Office-31、Office-Home、VisDA-2017数据集上的平均准确率比原有方法提高了2～6个百分点.

关键词：无监督领域自适应自监督学习对比学习类对比知识图像分类

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：