检索结果-内蒙古大学图书馆

华南理工大学学报（自然科学版） 2010年第4期38卷 147-155页

作者：林智勇郝志峰杨晓伟华南理工大学计算机科学与工程学院广东广州510640 广东工业大学应用数学学院广东广州510006 华南理工大学理学院广东广州510640

为解决绝大部分传统的以精度准则为优化目标而获得的分类器不适于不平衡数据学习(IDL)的问题,文中通过在支持向量机(SVM)模型上进行"元学习",研究了精度、平衡精度、几何平均、F1得分、信息增益、AUC(ROC曲线下方图面积)以及... 详细信息

为解决绝大部分传统的以精度准则为优化目标而获得的分类器不适于不平衡数据学习(IDL)的问题,文中通过在支持向量机(SVM)模型上进行"元学习",研究了精度、平衡精度、几何平均、F1得分、信息增益、AUC(ROC曲线下方图面积)以及文中新提出的GAF和GBF等评价准则对IDL的影响.在16个来自UCI的不平衡数据集上进行了仿真实验.对实验结果的统计分析表明:不同准则对分类器性能的影响有显著差异;即便是对于先进的学习方法支持向量机(SVM)而言,若以精度准则最大化选择分类器,那么得到的SVM分类器也容易偏向预测多类;通过在其他准则上优化,能输出纠偏了的SVM分类器,它们的整体性能更好,尤其是在预测少类能力方面;在GAF以及GBF准则上优化所得的SVM分类器具有稳定且良好的性能.

关键词：评价准则不平衡数据学习支持向量机 GAF准则 GBF准则

来源：评论

学校读者我要写书评

暂无评论

基于核方法的不平衡数据学习

基于核方法的不平衡数据学习

引用

作者：林智勇华南理工大学

学位级别：博士

不平衡数据学习(IDL)是最近几年才引起人们广泛关注的一类特殊的有监督(分类)学习,它主要解决类间训练样本分布不均衡的分类问题,即所谓的类不平衡问题(CIP)。CIP存在于许多重要的实际领域,包括医疗诊断和入侵检测等。现有的学习算法大... 详细信息

不平衡数据学习(IDL)是最近几年才引起人们广泛关注的一类特殊的有监督(分类)学习,它主要解决类间训练样本分布不均衡的分类问题,即所谓的类不平衡问题(CIP)。CIP存在于许多重要的实际领域,包括医疗诊断和入侵检测等。现有的学习算法大多是基于类分布平衡和精度最大化而设计的;当用于处理CIP时,它们容易对多类“过学习”,进而导致分类器的整体性能退化。客观地说,CIP已给当前的机器学习界带来了巨大挑战。围绕着如何合理且有效地处理CIP,本文以新兴的核方法尤其是以支持向量机(SVM)为途径开展了如下一系列的相关研究工作: (1)研究了IDL中分类器性能的合理评价这一基本问题。首先,对目前常用的一组评价准则进行了系统的归纳分析,从理论上探讨了传统的精度准则不适于IDL的原因。在此基础上,利用元学习方法,从实验角度研究了在不同准则上得到优化的SVM分类器的性能差异。研究结果表明,SVM虽然是先进的学习方法,但是在IDL中若以精度为优化准则去选择分类器,那么所得到的SVM分类器也是极易产生类别“偏斜”的,它更倾向于将数据预测为多类。而在其他一些更合理的准则上进行优化,则可以获得“纠偏”的SVM分类器,它们的整体性能更高。这一部分的研究结果不但揭示了不同评价准则的差异,而且为SVM的模型选择方面提供了有益的启示。 (2)系统地研究了如何通过样本非对称加权而将若干拓展SVM用于处理CIP。以最小二乘SVM以及临近SVM等为代表的拓展SVM,由于求解容易且性能较好,它们也与标准SVM一样被广泛使用。然而,直接将这些拓展SVM用于IDL,往往难以获得令人满意的效果;对样本进行非对称加权是提高它们处理CIP能力的一种最简单易行的做法。针对某些已有样本加权策略的不足,提出了一种新的加权策略。新策略一方面赋予属于少类的样本比属于多类的样本更多的权重,另一方面也尽量减少异常样本的权重。不同的加权策略可方便地与不同的拓展SVM相结合;利用15个基准测试数据集,对各种SVM与加权策略组合进行了实验比较。实验结果表明,新的加权策略在某些情况下有较明显的性能优势。 (3)受标准SVM模型的间隔最大化以及结构风险控制训练原则的启发,提出了一种新的大间隔核分类器训练模型,这是本文的一个主要创新之处。新模型不仅具有几何直观意义,更重要的是它强调对分类器泛化能力的优化。原始模型是一个难解的非凸优化模型,通过适当的松弛处理,得到了两个不同的易解的二阶锥规划(SOCP)模型。借助于SeDuMi优化工具箱,在12个基准测试数据集上进行了仿真实验。实验结果表明,与标准SVM模型相比,两个SOCP模型无论是在平衡数据集还是在不平衡数据集上都有一定的性能优势,其中一个还具有较强的稳定性。 (4)针对下抽样技术容易造成训练样本信息丢失的问题,提出将它与集成学习相结合,进而提高SVM处理CIP的能力。以Bagging和AdaBoost为集成框架整合下抽样技术,针对已有算法的不足,提出了两个新算法,即,“基于聚类的反对称集成”(CABagE)以及“修正的反对称AdaBoost集成”(MAAdaBE),这是本文的另一个主要创新之处。基于20个基准测试数据集,对各种算法进行了实验比较。实验结果表明,与传统的单一SVM分类器相比,集成SVM分类器对少类的预测能力能得到显著提高,其整体性能也往往更理想。而与已有的集成算法相比,CABagE和MAAdaBE能构建具有更高少类预测精度的SVM集成分类器。进一步地,综合多个评价准则上的比较分析表明,MAAdaBE的整体性能是最好的,这与MAAdaBE中嵌入了一种有效的样本权重平滑机制有关。

关键词：不平衡数据学习类不平衡问题核方法支持向量机

来源：评论

学校读者我要写书评

暂无评论

不平衡数据特征选择与主动学习及其在信用卡欺诈检测中的应用

不平衡数据特征选择与主动学习及其在信用卡欺诈检测中的应用

引用

作者：董怀龙南京理工大学

学位级别：硕士

很多基于机器学习的应用系统中存在着大量的不平衡数据。例如,在信用卡欺诈交易检测、网络入侵检测、疾病分类预测等领域,代表人们关注点的正类样本与常见的非关注点的负类样本相比往往数量稀少。传统的机器学习算法通常假设训练数据在... 详细信息

很多基于机器学习的应用系统中存在着大量的不平衡数据。例如,在信用卡欺诈交易检测、网络入侵检测、疾病分类预测等领域,代表人们关注点的正类样本与常见的非关注点的负类样本相比往往数量稀少。传统的机器学习算法通常假设训练数据在不同类别上的分布较为平衡,以获得良好的性能。因此,如果将传统机器学习算法直接应用于不平衡数据,可能会使得学习模型偏向于多数类样本而忽略了更重要的少数类样本。同时,如果不平衡数据中多数类样本数量过多,这些样本上的冗余的特征一方面可能会导致训练所得的模型难以解释,另一方面也可能会导致模型统计推断失效,造成模型泛化能力的下降。所以,研究不平衡数据下的特征选择方法显得尤为重要。最后,在当今大数据时代,智能系统的动态性要求模型训练不断迭代,源源不断产生的海量未标注数据要求模型训练算法对其进行有效的挑选,以降低标注和学习模型训练的成本。所以,研究不平衡数据下的主动学习算法成为另一迫切需求。本文以信用卡交易的欺诈检测问题为背景,研究不平衡数据的特征选择与主动学习方法。众所周知,高速发展的经济活动不断产生海量的信用卡交易数据,而基于这些数据构建用于欺诈检测的预测模型仍充满挑战。首先,从海量未标注样本中挑选出合适的正负类样本耗时费力;其次,由于正常交易和欺诈交易数量差距巨大,所挑选出用于模型训练的样本也极不平衡;最后,很难保证这些不平衡数据的特征对于预测模型的有效性。针对这些问题,本文研究了不平衡数据下的特征选择与主动学习方法并将其应用到信用卡交易欺诈检测中,取得了良好的效果。本文的主要贡献如下:(1)提出了一种基于Relief F方法的不平衡数据特征选择算法。该算法利用集成学习的机制解决了不平衡数据所带来的特征选择问题,同时考虑了Relief F算法和皮尔森相关系数,使得选出的特征兼具Relief F算法特征权重最大和与其他之间特征联系最小。通过对比实验,证实了该算法所选出的特征能够构建出性能更高的学习模型。(2)提出了一种基于不确定性和差异性的不平衡数据主动学习算法。首先,该算法提出了衡量样本点差异性的新标准,其次,在选择待标注样本过程中同时考虑了模型的不确定性和训练集的差异性。通过对比实验,证实了所提出的主动学习算法能够有效地挑选待标注样本,以更低的标注成本获得更高的学习模型性能提升。(3)设计并实现了一种基于特征选择和主动学习的信用卡欺诈交易检测可视化工具。该工具主要包括可视化前端和训练分析后端。通过真实的欧洲信用卡交易数据上的实验证实了该工具的可用性。

关键词：不平衡数据学习特征选择主动学习信用卡欺诈检测

来源：评论

学校读者我要写书评

暂无评论

类别条件噪声下的半监督AUC优化理论与算法

引用

计算机学报 2025年第1期48卷 136-155页

作者：姜阳邦彦许倩倩杨智勇郝前秀操晓春黄庆明中国科学院大学计算机科学与技术学院北京101408 中国科学院计算技术研究所智能信息处理重点实验室北京100190 中山大学网络空间安全学院广东深圳518107

现有半监督AUC优化方法通常假设数据标注是准确的。然而在许多实际应用中,研究者往往会同时面临标注量不足和不准确的问题。为此,该文首次尝试在不完整和不准确的数据标注情况下优化AUC指标。具体而言,通过分析,对称替代损失在某些情况... 详细信息

现有半监督AUC优化方法通常假设数据标注是准确的。然而在许多实际应用中,研究者往往会同时面临标注量不足和不准确的问题。为此,该文首次尝试在不完整和不准确的数据标注情况下优化AUC指标。具体而言,通过分析,对称替代损失在某些情况下可以在半监督问题中具有噪声鲁棒性。在此基础上,该文构建了一个鲁棒半监督AUC优化框架,其导出的经验风险无需估计噪声率。此外,通过紧致泛化上界的分析表明,当模型基于足够大的训练数据集进行学习时,其在未见数据上能够很好地泛化。随后,使用Barrier hinge损失对该框架进行实例化。为加快训练过程,进一步开发了一种加速算法,将损失和梯度估计的复杂度从O(n^(2))降低至O(nlogn),在实验中可获得高达200倍的加速。最后,通过在15个基准数据集上进行实验验证,证明了所提方法的有效性。

关键词：半监督学习 AUC优化标签噪声二分类问题不平衡数据学习

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的时间序列数据异常检测方法

引用

信息与控制 2019年第1期48卷 1-8页

作者：胡姣姣王晓峰张萌张德鹏胡绍林西安理工大学理学院陕西西安710054 广东石油化工学院自动化学院广东茂名525000

针对类间分布不平衡的时间序列数据的异常检测问题,提出了一种基于深度卷积神经网络的检测方法.首先采用抽样法对不平衡时间序列数据进行预处理;其次,将处理后的时间序列数据转换为尺度一致、时长一致的片段;最后将数据送入具有4层隐藏... 详细信息

针对类间分布不平衡的时间序列数据的异常检测问题,提出了一种基于深度卷积神经网络的检测方法.首先采用抽样法对不平衡时间序列数据进行预处理;其次,将处理后的时间序列数据转换为尺度一致、时长一致的片段;最后将数据送入具有4层隐藏层结构的卷积神经网络模型中进行异常检测.实验结果表明,所提方法弥补了现存的检测技术由于忽略数据分布的偏斜性而造成的少数类检测精度低的缺点,并通过与现有的时间序列分类方法的比较,验证了所提方法的高效性.

关键词：时间序列异常检测不平衡数据学习深度学习卷积神经网络

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的飞行器遥测时间序列数据异常检测与预测方法研究

基于深度学习的飞行器遥测时间序列数据异常检测与预测方法研究

引用

作者：胡姣姣西安理工大学

学位级别：硕士

随着信息技术的发展,时间序列数据正以惊人的速度产生于各个领域,尤其在航空航天方面,飞行器在运行期间会产生大量的遥测数据,并以时间序列的形式存在,这些数据能够直接展示各部件的工作状态和运行情况,是处理故障的重要依据。本文以飞... 详细信息

随着信息技术的发展,时间序列数据正以惊人的速度产生于各个领域,尤其在航空航天方面,飞行器在运行期间会产生大量的遥测数据,并以时间序列的形式存在,这些数据能够直接展示各部件的工作状态和运行情况,是处理故障的重要依据。本文以飞行器某设备的转速和温度时间序列数据为研究对象,利用深度学习的理论和技术,深入研究基于数据驱动的时间序列数据异常检测和预测方法。主要工作如下:考虑到工程实测数据呈典型的不平衡形式分布,我们研究了类间分布不平衡的时间序列数据的异常检测问题,提出了一种基于卷积神经网络(convolution neural network,CNN)的异常检测方法。在提出的方法中,首先采用抽样法对不平衡时间序列数据进行处理,使得样本不充足的数据集可以有足够多的代表性样本,从而弥补现存的检测技术由于忽略数据分布的偏斜性而造成的少数类检测精度低的缺点;其次,为了提高卷积神经网络的检测性能,利用尺度变换和时间切片技术对原始时间序列数据进行预处理;然后研究了不同隐藏层的卷积神经网络对于时间序列数据检测性能的影响,确定了四层隐藏层的卷积神经网络模型;最后,利用飞行器某设备的转速和温度时间序列数据进行仿真实验,结果表明了我们的方法的有效性,并通过与基于特征提取和分类器结合的检测方法进行比较,验证了提出的方法具有较高的性能。提出了一种基于变体长短时记忆循环神经网络的时间序列数据预测方法。在提出的方法中,考虑到故障预测的时效性,我们首先将长短时记忆(Long Short Term Memory,LSTM)循环神经网络的输入门与遗忘门合并成更新门,提出了一种变体LSTM循环神经网络的结构,简化了学习参数,提高了训练效率;其次考虑到故障预测中长序列数据的预测需求,基于提出的变体LSTM循环神经网络建立了一种时间序列数据预测模型,在预测阶段引入了参数更新机制,使网络模型能够动态调整模型参数从而更适用于长时间序列数据的预测。最后,利用飞行器某设备的转速和温度时间序列数据进行仿真实验,通过与几种典型的预测模型进行比较,结果表明我们的方法具有令人满意的预测效果。本文的研究工作,在理论上为航天测控工程中利用历史数据进行故障检测和预测提供了一定的参考价值,为提高故障诊断的准确度提供了依据。

关键词：时间序列数据异常检测时间序列数据预测卷积神经网络长短时记忆网络不平衡数据学习

来源：评论

学校读者我要写书评

暂无评论

类内结构支持向量机学习算法研究

类内结构支持向量机学习算法研究

引用

作者：安文娟北京交通大学

学位级别：博士

支持向量机是建立在统计学习理论的VC维理论和结构风险最小化原则的基础上的一种机器学习方法。它根据有限的数据信息在模型的复杂性和学习能力之间寻求最佳折衷,以获得最好的泛化能力。支持向量机具有坚实的数学理论基础,能够较好地解... 详细信息

支持向量机是建立在统计学习理论的VC维理论和结构风险最小化原则的基础上的一种机器学习方法。它根据有限的数据信息在模型的复杂性和学习能力之间寻求最佳折衷,以获得最好的泛化能力。支持向量机具有坚实的数学理论基础,能够较好地解决有限样本、非线性、过学习、高维数和局部极小点等学习问题。由于其优越的性能,已被广泛应用于许多领域中,并已成为机器学习领域的研究热点之一。本文对支持向量机理论进行了深入地研究,指出其在寻找最优分类超平面的过程中忽略了一种重要的先验知识,即样本的类内结构。为此,本文研究了类内结构支持向量机算法,即基于样本的类内离散度提出的改进支持向量机算法,随后分别对目前存在的噪声问题、孤立点检测问题、不平衡数据学习问题做了进一步的研究。主要工作如下： (1)指出现有的支持向量机算法模型中存在的问题,即忽略了样本的类内结构。分析了支持向量机与Fisher判别分析算法的相似点与不同点,提出基于类内离散度的支持向量机(WCS-SVM)算法。该算法的基本思想就是寻找一个最优分类超平面,不仅将两类样本尽量正确分开,在保持较高分类精度的同时最大化分类间隔,而且使得样本的类内离散度尽可能的小。数值实验证明了此算法具有良好的分类性能。最后,将无监督聚类技术同WCS-SVM算法结合起来用于网络入侵检测中,进一步验证了算法的有效性。 (2)在模糊支持向量机中,为了更好地刻画训练样本对分类超平面的贡献,提出一种新的基于样本紧密度的模糊隶属度函数设计方法。该隶属度函数不仅考虑了样本与所在类中心之间距离,同时还考虑了类内样本之间的紧密度。重点在于我们引入两个参数来分别控制正负两类样本的紧密度,这两个参数需要预先设定。文中,我们通过支持向量数据描述算法来确定这两个参数。数值实验证明了该隶属函数可以更好地降低噪声或野值点对分类结果的影响。为了更好地处理被噪声污染的数据集分类问题,对于每个训练样本赋予不同的模糊隶属度的同时,考虑了样本的类内结构,提出新的基于样本类内结构的模糊支持向量机(WCS-FSVM)算法。文中详细地给出了算法的推导过程的同时,严格证明了该算法的收敛性。数值实验验证了该改进算法的有效性,降低了噪声的影响,提高了分类精度。 (3)孤立点检测是数据挖掘和机器学习的研究热点之一。它的任务就是从已有观测数据中建立正常行为数据的模型进行异常行为的检测。我们充分利用样本信息,对一类支持向量机算法进行了改进,并将其应用于孤立点检测中。实验中,我们采用总正确检测率与Kappa系数k作为性能评价标准,与其它一类标准算法GDD、 NNDD、 PCA、 OC-SVM进行比较。结果证明该改进算法是有效的,优于其他比较算法,在一定程度上提高了检测率。 (4)不平衡数据广泛存在于实际应用中,不平衡数据学习也是目前机器学习和数据挖掘领域中的研究热点之一。对于支持向量机来说,正负训练样本不平衡会引起分类超平面向少数类偏移。为了有效抑制分类超平面的偏移,本文提出了基于类内结构的不同误分代价支持向量机算法。该算法不仅对少数类和多数类分别采用不同的误分代价(对少数类赋予更大的惩罚因子),而且同样考虑了样本的类内结构,较好地减少了样本数目不平衡对分类性能所产生的影响。实验中,我们采用G-means作为性能评价标准。实验结果证明了该算法的有效性,既可以提高少数类样本点的分类准确率,也可以提高正负类样本点分类准确率的几何平均值。

关键词：统计学习理论支持向量机模糊隶属度函数类内结构类内离散度孤立点检测不平衡数据学习

来源：评论

学校读者我要写书评

暂无评论

基于机器学习的多定位点蛋白质亚细胞定位预测方法研究

基于机器学习的多定位点蛋白质亚细胞定位预测方法研究

引用

作者：曹隽喆大连理工大学

学位级别：博士

蛋白质的亚细胞定位信息对于推断蛋白质功能、了解细胞的生命活动、药物发现、以及疾病诊断等方面的研究具有重要的作用。近十年间蛋白质序列数量迅速增长,基于智能计算的蛋白质亚细胞定位预测方法已成为系统生物学和生物信息学等领域... 详细信息

蛋白质的亚细胞定位信息对于推断蛋白质功能、了解细胞的生命活动、药物发现、以及疾病诊断等方面的研究具有重要的作用。近十年间蛋白质序列数量迅速增长,基于智能计算的蛋白质亚细胞定位预测方法已成为系统生物学和生物信息学等领域的一个研究热点。本论文应用机器学习方法对多定位点蛋白质亚细胞定位预测中的相关问题进行了研究,主要包括： 1.提出了一种具有不平衡权重的多标签K近邻预测算法,以解决蛋白质数据分布不平衡的问题。该算法利用近邻点的统计信息估计待测样本关于亚细胞位置的后验概率,并根据训练集中各类样本的分布情况给出相应的不平衡权重,最后基于最大后验概率准则和不平衡权重来设计决策函数。在多个分布不平衡的蛋白质数据集上的数值实验结果表明,与两种主要的多定位点蛋白质预测算法Cell-mPLoc2.0和iLoc-Cell相比,该算法具有更好的预测精度,能够有效降低数据不平衡情况的负面影响。 2.提出了一种基于非实验标注蛋白质信息挖掘的训练集构造方法,以解决蛋白质训练样本不足的问题。该方法引入非实验标注蛋白质,利用主动学习策略对这类数据进行评估,挑选出最有价值样本加入到原训练集中以构造出更具信息量的新训练集。多组数据集上的实验表明,INKNN、支持向量机、高斯过程和ML-RBF四种基础分类器的性能均能够得到提升,训练数据不足的情况得到了有效的改善。 3.提出了一种基于蛋白质预鉴别的综合预测方法,以解决一个分类器同时预测单定位点蛋白质和多定位点蛋白质精度不高的问题。该方法基于直推学习技术对待测蛋白质的类型进行预鉴别,再对单定位点蛋白质和多定位点蛋白质使用独立的分类器分别进行预测。在多个数据集上进行实验,结果表明该方法能够有效地鉴别待测蛋白质的类型,其预测性能优于两种主要的多定位点蛋白质预测算法Cell-mPLoc2.0和iLoc-Cell。

关键词：蛋白质亚细胞定位预测多定位点蛋白质不平衡数据学习主动学习直推学习

来源：评论

学校读者我要写书评

暂无评论

基于机器学习和序列信息的蛋白质亚线粒体定位预测算法研究

基于机器学习和序列信息的蛋白质亚线粒体定位预测算法研究

引用

作者：金银萍郑州轻工业大学

学位级别：硕士

蛋白质亚细胞定位预测是蛋白质组学研究中的一个热门主题。随着研究的深入,越来越多的细胞器都被证明存在亚结构,蛋白质的功能可能与它们在亚-亚细胞结构水平上的定位有关。在亚-亚细胞定位问题上,线粒体一直是研究者关注的热点。确定... 详细信息

蛋白质亚细胞定位预测是蛋白质组学研究中的一个热门主题。随着研究的深入,越来越多的细胞器都被证明存在亚结构,蛋白质的功能可能与它们在亚-亚细胞结构水平上的定位有关。在亚-亚细胞定位问题上,线粒体一直是研究者关注的热点。确定亚线粒体蛋白质的具体位置,不仅有助于更加深入了解蛋白质的功能,而且能为相关药物设计提供信息。在大数据时代,使用计算方法快速、精准地定位亚线粒体位置辅助传统实验方法,具有长远意义。本文基于机器学习和序列信息对蛋白质亚线粒体定位预测算法中存在的问题进行深入研究,主要研究成果如下:(1)提出一种基于集成学习的预测器RLS-Sub Mito,预测三个亚线粒体位置。首先从蛋白质序列中分别提取出二肽组分(DC)、伪氨基酸组成(Pse ACC)和基于自交叉协方差转换的位置相关得分矩阵(ACC-PSSM)三种特征信息,进行融合。其次,通过过采样方法来处理数据中的不平衡问题,再使用极限梯度提升机(XGBoost)方法对融合特征进行排序,筛选出最优子特征。最后,利用由随机森林(RF)、支持向量机(SVM)和轻量级梯度提升机(Light GBM)三种基分类器投票组成的集成分类器预测蛋白质亚线粒体位置。实验结果表明,预测器RLS-Sub Mito在两个基准数据集上都获得不错的预测结果,均高于其他已有的预测器。(2)线粒体有四个亚线粒体区室,但大多的研究人员只考虑了其中的三个,线粒体膜间隙蛋白一直被排除在外。因此,本文提出一种基于深度学习的端到端预测器Deep Pred-Sub Mito,用于预测包含膜间隙区室的线粒体。首先,采用过采样方法来解决数据中存在的不平衡问题。其次,将蛋白质序列剪切成多个重叠的固定长度子序列,每个子序列作为卷积层中的一个通道。再次,训练一个多通道双层卷积神经网络来学习序列中的高级特征。最后在SM424-18数据集和Sub Mito Pred数据集上通过交叉验证方法来衡量模型的性能。实验结果表明,本文提出的预测器Deep Pred-Sub Mito,提高了蛋白质亚线粒体位置的预测准确率。

关键词：亚线粒体定位特征融合集成学习不平衡数据学习深度学习

来源：评论

学校读者我要写书评

暂无评论

不平衡时间序列集成分类方法研究

不平衡时间序列集成分类方法研究

引用

作者：曹阳中国矿业大学

学位级别：硕士

时间序列分类和不平衡数据分布是实际应用中普遍存在的问题。时间序列存在数据维度高、数据之间相关性强和噪声干扰多等特点,而不平衡数据学习则更加强调分类器对少数类样本的识别能力。这两个问题在实际应用中容易产生交集,成为更具有... 详细信息

时间序列分类和不平衡数据分布是实际应用中普遍存在的问题。时间序列存在数据维度高、数据之间相关性强和噪声干扰多等特点,而不平衡数据学习则更加强调分类器对少数类样本的识别能力。这两个问题在实际应用中容易产生交集,成为更具有挑战性的不均衡时间序列分类(Imbalanced Time Series Classification,ITSC)问题。现有的针对ITSC问题的解决方法以重采样方法的优化为主,但是由于时间序列数据结构上的复杂性使采样过程变得更加困难。在时间序列分类方面,2018年提出的通用集成学习算法HIVE-COTE在公共时间序列数据集上取得了最好的分类效果,但是该算法处理的对象是类分布平衡的时间序列数据集,在面对不平衡时间序列分类和大规模时间序列分类问题时,该算法的分类效果并不令人满意。在这一背景下,本文从以下三个方面展开研究工作。一、不平衡时序数据子序列质量评价指标的改进针对不平衡时间序列中子序列选择影响分类质量的问题,分析信息增益值在不平衡数据集上的不适用性,并分别结合在不平衡数据集上应用较为广泛的AUC值和AUCPR值两个评价指标,对子序列质量的评价指标进行了改进。同时,选取时间序列分类中采用信息增益为子序列评价指标的shapelet分类方法,对指标优化前后的应用效果进行验证。实验结果表明:改进后的评价指标对不平衡时间序列分类问题有更好的适用性,能找到对不平衡时间序列中最具辨识能力的候选子序列集合。二、不平衡时间序列集成分类算法研究针对现有时间序列集成学习方法对于不平衡时间序列数据存在不适用的问题,本文提出了基于集成的不平衡时间序列分类算法IMHIVE-COTE。首先,提出组件算法的改良算法SBST-HESCA,应用了采样方法SMOM与Boosting相结合的方式,通过交叉验证预测结果更新样本权重,使数据集的重采样过程更有利于提升少数类样本的分类质量;其次,IMHIVE-COTE通过优化组件算法的权重,使不平衡时间序列分类算法对分类结果拥有更高的投票比重,再次提升集成算法整体的分类质量。实验证明,和对比方法相比,IMHIVE-COTE在整体上的分类评价值最高之外,在3个不平衡分类指标值上得到了最高的整体分类评价,可以证明IMHIVE-COTE解决不平衡时间序列分类问题的能力得到了显著提高。三、不平衡时间序列并行集成分类算法研究针对传统时间序列集成算法在大规模数据集上计算效率不高的问题,本文基于通用的分布式计算框架Spark,设计并实现了针对大规模不平衡时间序列的并行集成分类算法。首先对IMHIVE-COTE中组件算法的运行效率进行测试,得到最合理的并行计算架构。然后先对运算消耗最大的shapelet类算法SBST-HESCA和ST-HESCA进行了并行化设计,将并行化计算的重点放在两个算法共有的shapelet提取流程;接着对距离类算法Elastic Ensemble的运算流程进行了并行化改进,将并行设计的重点放在算法中的距离计算部分。改进后的算法在模型训练过程中能更好地利用Spark平台的并行计算机制,在不损害原分类算法精度的情况下大幅度提高了算法运行效率,最终设计出的并行集成分类算法较原算法在运行效率上最低有接近5倍的计算时间缩短幅度,最高的能达到24倍左右的时间效率提升,而且集群环境布置较为方便,对原算法的精度影响不超过2%,可以认为该并行架构能满足大规模不平衡数据序列分类任务的效率需求。本论文共有图11幅,表22个,参考文献102篇。

关键词：时间序列分类不平衡数据学习集成学习并行计算

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：