检索结果-内蒙古大学图书馆

计算机科学 2023年第S02期50卷 577-586页

作者：周士金邢红杰河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室河北保定071002

基于知识蒸馏的异常检测方法通常将经过预训练的网络作为教师网络,并将与该教师网络的模型结构及规模大小相同的网络用作学生网络,对于待测数据,利用教师网络与学生网络之间的差异判定其为正常数据或异常数据。然而,教师网络与学生网络... 详细信息

基于知识蒸馏的异常检测方法通常将经过预训练的网络作为教师网络,并将与该教师网络的模型结构及规模大小相同的网络用作学生网络,对于待测数据,利用教师网络与学生网络之间的差异判定其为正常数据或异常数据。然而,教师网络与学生网络的结构和规模均相同,一方面,会使得基于知识蒸馏的异常检测方法在异常数据上产生的差异过小;另一方面,教师网络的预训练数据集在规模上远大于学生网络的训练集,这会使得学生网络产生大量的冗余信息。为了解决上述问题,将高效通道注意力(Efficient Channel Attention,ECA)模块引入到基于知识蒸馏的异常检测方法中,利用ECA的跨通道交互策略,设计比教师网络结构更简单且规模更小的学生网络,既可以有效地获取正常数据的特征,去除冗余信息,又能增大教师网络与学生网络之间的差异,提高异常检测的性能。在6个图像数据集上的实验结果表明,与其他5种相关方法相比,所提方法取得了更优的检测性能。

关键词：异常检测知识蒸馏注意力机制教师网络学生网络

来源：评论

学校读者我要写书评

暂无评论

非对称卷积编码器的聚类算法

引用

智能系统学报 2022年第5期17卷 900-907页

作者：杨梦茵陈俊芬翟俊海河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室河北保定071002

基于深度神经网络的非监督学习方法通过联合优化特征表示和聚类指派,大大提升了聚类任务的性能。但大量的参数降低了运行速度,另外,深度模型提取的特征的区分能力也影响聚类性能。为此,提出一种新的聚类算法(asymmetric fully-connected... 详细信息

基于深度神经网络的非监督学习方法通过联合优化特征表示和聚类指派,大大提升了聚类任务的性能。但大量的参数降低了运行速度,另外,深度模型提取的特征的区分能力也影响聚类性能。为此,提出一种新的聚类算法(asymmetric fully-connected layers convolutional auto-encoder,AFCAE),其中卷积编码器结合非对称全连接进行无监督的特征提取,然后K-means算法对所得特征执行聚类。网络采用3×3和2×2的小卷积核,大大减少了参数个数,降低了算法复杂性。在MNIST上AFCAE获得0.960的聚类精度,比联合训练的DEC(deep embedding clustering)方法(0.840)提高了12个百分点。在6个图像数据集上实验结果表明AFCAE网络有优异的特征表示能力,能出色完成下游的聚类任务。

关键词：无监督聚类深度神经网络卷积神经网络自编码器特征学习特征表示算法复杂性

来源：评论

学校读者我要写书评

暂无评论

选择性集成学习多判别器生成对抗网络

引用

计算机科学与探索 2022年第6期16卷 1429-1438页

作者：申瑞彩翟俊海侯璎真河北大学数学与信息科学学院河北保定071002 河北大学河北省机器学习与计算智能重点实验室河北保定071002

生成对抗网络(GAN)在图像生成方面具有广泛应用,但基于无监督方式与有监督方式的网络生成样本仍有较大差距。为解决生成对抗网络在无监督环境中生成样本多样性差、质量较低以及模型训练时间过长等问题,提出了具有选择性集成学习思想的... 详细信息

生成对抗网络(GAN)在图像生成方面具有广泛应用,但基于无监督方式与有监督方式的网络生成样本仍有较大差距。为解决生成对抗网络在无监督环境中生成样本多样性差、质量较低以及模型训练时间过长等问题,提出了具有选择性集成学习思想的生成对抗网络模型。将生成对抗网络中的判别网络采用集成判别系统的形式,有效减少了由单判别器判别性能不佳导致判别误差的情况;同时考虑到若集成判别网络均采用统一网络设置,则在模型训练中基判别网络将趋近于一种表现形式,为鼓励判别网络判别结果多样且避免网络陷入雷同,设置拥有不同网络结构的判别网络,并在集成判别网络中引入具有动态调整基判别网络投票权重的多数投票策略,对集成判别网络的判别结果进行投票,有效地促进了模型的收敛且较大减少了实验误差。最后将提出的模型与同方向的模型在不同数据集上使用不同评价指标进行评价,实验结果表明提出的模型无论在生成样本多样性、生成样本质量还是在模型收敛速度上均明显优于几种竞争模型。

关键词：生成对抗网络(GAN) 集成判别系统选择性集成学习多数投票策略

来源：评论

学校读者我要写书评

暂无评论

不平衡数据分类问题的基于间隔放大损失的支持向量机

引用

重庆邮电大学学报（自然科学版） 2023年第1期35卷 70-78页

作者：王众鲁淑霞河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室(河北大学) 河北保定071002

针对不平衡数据分类问题,提出了一种带有间隔感知标签分布损失函数的支持向量机,称为基于间隔放大损失的支持向量机(support vector machine with margin magnification loss,MM-SVM)。考虑各类样本的分布情况以及数据不平衡比,设计了... 详细信息

针对不平衡数据分类问题,提出了一种带有间隔感知标签分布损失函数的支持向量机,称为基于间隔放大损失的支持向量机(support vector machine with margin magnification loss,MM-SVM)。考虑各类样本的分布情况以及数据不平衡比,设计了一种间隔放大损失函数,最小化基于间隔的泛化误差界;将间隔放大损失函数应用于SVM模型中,增强了少数类样本对分类超平面的影响,实现对少数类样本的准确分类。在Keel和UCI数据库上的实验表明,MM-SVM在不平衡数据分类精度和时间效率上均优于其他5种对比方法,实现了对不平衡数据的有效分类。

关键词：非平衡间隔鲁棒性支持向量机(SVM)

来源：评论

学校读者我要写书评

暂无评论

基于双自编码器和Transformer网络的异常检测方法

引用

计算机应用 2023年第1期43卷 22-29页

作者：周佳航邢红杰河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室(河北大学) 河北保定071002

基于自编码器(AE)的异常检测方法利用重构误差判断待测样本是正常数据还是异常数据。然而,上述方法在正常数据与异常数据上产生的重构误差非常接近,导致部分异常数据很容易被错分为正常数据。为解决上述问题,提出一种由两个并行的AE和一... 详细信息

基于自编码器(AE)的异常检测方法利用重构误差判断待测样本是正常数据还是异常数据。然而,上述方法在正常数据与异常数据上产生的重构误差非常接近,导致部分异常数据很容易被错分为正常数据。为解决上述问题,提出一种由两个并行的AE和一个Transformer网络组成的异常检测方法——DATN-ND。首先,Transformer网络利用输入样本的瓶颈特征生成伪异常数据的瓶颈特征,从而在训练集中增加异常数据信息;其次,双AE将带有异常数据信息的瓶颈特征尽可能地重构为正常数据,增加异常数据与正常数据的重构误差差别。与记忆增强自编码器(MemAE)相比,DATN-ND在MNIST、Fashion-MNIST、CIFAR-10数据集上ROC曲线下面积(AUC)分别提升6.8、12.0和2.5个百分点。实验结果表明,DATN-ND能够有效扩大正常数据和异常数据在重构误差上的差别。

关键词：异常检测自编码器重构误差单类分类 Transformer网络

来源：评论

学校读者我要写书评

暂无评论

迭代修正鲁棒极限学习机

引用

计算机应用 2023年第5期43卷 1342-1348页

作者：吕新伟鲁淑霞河北省机器学习与计算智能重点实验室(河北大学) 河北保定071002 河北大学数学与信息科学学院河北保定071002

极限学习机(ELM)的许多变体都致力于提高ELM对异常点的鲁棒性,而传统的鲁棒极限学习机(RELM)对异常点非常敏感,如何处理数据中的过多极端异常点变成构建RELM模型的棘手问题。对于残差较大的异常点,采用有界损失函数消除异常点对模型的污... 详细信息

极限学习机(ELM)的许多变体都致力于提高ELM对异常点的鲁棒性,而传统的鲁棒极限学习机(RELM)对异常点非常敏感,如何处理数据中的过多极端异常点变成构建RELM模型的棘手问题。对于残差较大的异常点,采用有界损失函数消除异常点对模型的污染;为了解决异常点过多的问题,采用迭代修正技术修改数据以降低由异常点过多带来的影响。结合这两种方法,提出迭代修正鲁棒极限学习机(IMRELM)。IMRELM通过迭代的方式求解,在每次的迭代中,通过对样本重加权减小异常点的影响,在不断修正的过程中避免算法出现欠拟合。在具有不同异常点水平的人工数据集和真实数据集上对比了IMRELM、ELM、加权极限学习机(WELM)、迭代重加权极限学习机(IRWELM)和迭代重加权正则化极限学习机(IRRELM)。在异常点占比为80%的人工数据集上,IRRELM的均方误差(MSE)为2.45044,而IMRELM的MSE为0.00079。实验结果表明,IMRELM在具有过多极端异常点的数据上具有良好的预测精度和鲁棒性。

关键词：鲁棒极限学习机重加权迭代修正异常点回归

来源：评论

学校读者我要写书评

暂无评论

邻域欠采样的AdaBoostv算法

引用

小型微型计算机系统 2023年第1期44卷 97-102页

作者：张振莲鲁淑霞翟俊海河北大学数学与信息科学学院河北保定071002 河北大学河北省机器学习与计算智能重点实验室河北保定071002

针对类别非平衡情况下的类重叠问题,引入了两种基于邻域的欠采样方法:共同近邻搜索欠采样和递归搜索欠采样,其主要思想是通过消除重叠区域中的负类样本来缓解类别非平衡问题,学习算法采用AdaBoost v算法,通过最大化样本的最小间隔(最优... 详细信息

针对类别非平衡情况下的类重叠问题,引入了两种基于邻域的欠采样方法:共同近邻搜索欠采样和递归搜索欠采样,其主要思想是通过消除重叠区域中的负类样本来缓解类别非平衡问题,学习算法采用AdaBoost v算法,通过最大化样本的最小间隔(最优间隔)来提高分类器的分类能力.为了进一步解决非平衡数据分类问题,AdaBoost v算法的基分类器采用加权最优间隔分布机模型,对模型中的间隔均值项和铰链损失项加权,权值是依据数据的非平衡比给出的,并利用带有方差减小的随机梯度下降方法对优化模型进行求解,以提高算法的收敛速度.对比实验表明,提出的算法在非平衡数据分类问题上具有明显的优势.

关键词：欠采样 AdaBoost v 最优间隔分布机类重叠问题权值

来源：评论

学校读者我要写书评

暂无评论

基于层次模型的非平衡风速预报订正

引用

河北大学学报(自然科学版) 2025年第3期45卷 317-326页

作者：曹阳翟俊海韩玲河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室河北保定071002 河北省信息工程学校信息网络教研部河北保定071000

针对风速预报订正中的数据非平衡问题,提出了一种基于分类/回归层次结构的订正模型.该模型的核心思想是采用分治策略,逐步解决风速数据中的非平衡问题.在分类层中,使用了重加权策略来初步解决数据中的非平衡问题.在回归层中,提出了一种... 详细信息

针对风速预报订正中的数据非平衡问题,提出了一种基于分类/回归层次结构的订正模型.该模型的核心思想是采用分治策略,逐步解决风速数据中的非平衡问题.在分类层中,使用了重加权策略来初步解决数据中的非平衡问题.在回归层中,提出了一种分组扩展的训练策略,有效纠正了受非平衡影响而被错误分类的样本,从而进一步解决数据非平衡问题.此外,还基于贪心策略设计了一种概率加权方法,目的是对有把握的样本输出更加准确的预测.该模型在山东沿海14个地区的风速数据集上进行了验证,并与相关方法进行了比较.订正后的风速预报整体和极端风速事件的平均绝对误差分别降低了34.4%和69.0%,表明该模型在提高极端风速事件预测能力的同时,也保持了对稳定事件的预测性能.

关键词：风速预报订正层次模型数据非平衡极端风速预测

来源：评论

学校读者我要写书评

暂无评论

基于行列式点过程的变分拉普拉斯自编码器

引用

南京大学学报（自然科学版） 2022年第4期58卷 629-639页

作者：敦瑞静鲁淑霞张琦翟俊海河北省机器学习与计算智能重点实验室河北大学保定071002 河北大学数学与信息科学学院保定071002

变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variat... 详细信息

变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variational Laplace Autoencoders-Determinantal Point Process,VLAE-DPP)模型,将行列式点过程方法引入变分拉普拉斯自编码器模型,在原始目标函数的基础上添加一项无监督惩罚损失,以此来提高生成图像的质量.VLAE-DPP模型利用行列式点过程来捕获一个与真实数据类似的多样性,然后通过从编码器中提取特征来学习核.最后,训练解码器优化核的伪、实、特征值和特征向量之间的损失,以鼓励解码器模拟真实数据的多样性,从而生成高质量的图像.在Fashion-MNIST,SVHN,CIFAR10数据集上的实验结果表明,VLAE-DPP模型能提高生成图像的质量.

关键词：变分自编码器行列式点过程变分推断拉普拉斯近似生成模型

来源：评论

学校读者我要写书评

暂无评论

结合肺先验与协同深监督的肿瘤自动分割

引用

河北大学学报（自然科学版） 2024年第4期44卷 414-423页

作者：王兵巨梦仪杨颖张欣翟俊海河北省机器学习与计算智能重点实验室河北保定071002 河北大学数学与信息科学学院河北保定071002 河北大学附属医院放射科河北保定071000 河北大学电子信息工程学院河北保定071002

计算机断层扫描图像中复杂肺肿瘤(CLT)的自动分割面临2个挑战:1)肿瘤与邻近组织之间的类间不区分;2)肿瘤内的类内不一致性.为了解决这2个问题,提出将肺肿瘤与肺之间关系的语义上下文先验纳入分割模型中,以便于模型学习到语义上下文特征... 详细信息

计算机断层扫描图像中复杂肺肿瘤(CLT)的自动分割面临2个挑战:1)肿瘤与邻近组织之间的类间不区分;2)肿瘤内的类内不一致性.为了解决这2个问题,提出将肺肿瘤与肺之间关系的语义上下文先验纳入分割模型中,以便于模型学习到语义上下文特征,并从宏观角度重新思考CLT的分割.利用信息熵对肺形状的解剖先验进行建模.在三分类的U-Net网络中嵌入提出的新型注意模块,从而通过特定领域的知识来指导训练过程.另外,设计了一个可以获得肿瘤边界结构图以及保持肿瘤内部特征一致性的边界增强辅助网络.在此基础上,开发了一个协同深度监督网络框架(CLT-ASegNet),该框架利用混合多尺度语义特征融合进一步提高了模型的判别能力和收敛速度.CLT-ASegNet在CLTCTI分割数据集和Lung16数据集上进行了评估.实验结果表明,所提出的CLT-ASegNet可以有效分割肺肿瘤.

关键词：注意力机制复杂肺肿瘤分割语义上下文先验协同深度监督

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：