检索结果-内蒙古大学图书馆

作者：涂静雯重庆大学

学位级别：博士

随着大数据时代的迅速发展,人们面临着充斥冗余信息且结构复杂的数据,这使得传统统计估计模型和理论不再拥有良好的应用表现。稀疏化方法经过近20年来的发展,对于筛选数据中的重要变量、提升统计模型的可解释性等有重要的促进作用。然而... 详细信息

随着大数据时代的迅速发展,人们面临着充斥冗余信息且结构复杂的数据,这使得传统统计估计模型和理论不再拥有良好的应用表现。稀疏化方法经过近20年来的发展,对于筛选数据中的重要变量、提升统计模型的可解释性等有重要的促进作用。然而,实际问题中复杂数据的多约束性、非单一性以及高噪声影响,使得传统的基于线性回归的稀疏化方法使用范围受限。我们从经典的稀疏化模型出发,研究了该技巧在部分线性模型中的应用,并进一步探讨了稀疏化方法在高维条件分位数半参数模型平均中的理论与实际表现。在应用稀疏化方法到半参数模型中时,首先考虑了部分线性模型。对于部线性模型中的参数结构,我们使用不同的压缩估计策略研究了压缩估计对于部分线性模型估计效果的影响。通过比较各个策略得到的渐近分布偏度和渐近风险,从理论上给出了不同压缩策略的具体影响。最后,采用SCAD罚函数建立了新的基于差分法的部分线性模型参数的估计模型。数值模拟和案例分析都表稀疏化方法确实可以促进提升传统的部分线性模型的表现。将稀疏方法应用到分位数半参数模型平均问题中前,我们仔细研究了模型平均的理论和计算方法,并讨论了离散响应变量情形下的广义半变系数模型的平稳模型平均方法。首先,我们把广义半变系数模型作为候选子模型。然后,利用交叉验证的方式估计出每个模型相应的权重大小。对于在估计过程中模型反复使用的缺陷,我们设计了一种新的随机分割模型,从而提升模型预测的准确性和平稳性。最后,数据分析结果表明改进的平稳模型平均估计大大增强了新模型的稳健性并显著地减小了模型错误选择的风险。使用稀疏化方法研究高维数据中的半参数模型平均问题发现,已有的方法不能够很好解决具有高噪声的数据预测问题。为此提出了一个带罚项的高维条件分位数半参数模型平均问题。首先,根据一个局部线性回归方法计算每个变量的边际分位数;通过引入边际分位函数的一个放射线性组合,得到响应变量条件分位数的一个近似估计。然后利用非参数的核估计方法,我们采用惩罚函数进行模型权重向量的估计。接着,我们重点考虑稀疏化方法挑选重要的变量,从而降低模型计算的复杂度和成本。利用筛选出的重要变量,估计联合多元条件分位数的具体形式。在计算机数据模拟分析和实际案例测试中,新的模型具有更好的稳健性和更佳的预测效果。

关键词：稀疏化方法半参数模型模型平均稳健估计

来源：评论

学校读者我要写书评

暂无评论

基于信息熵的限制玻尔兹曼机稀疏化方法研究

基于信息熵的限制玻尔兹曼机稀疏化方法研究

引用

作者：张国斌辽宁大学

学位级别：硕士

受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)在机器学习领域应用广泛,是一种常用的的概率生成模型。由于其在特征提取方面的卓越性能被广泛应用于各种领域,其中,隐藏层神经单元的稀疏化技术是对RBM性能的重要改进。现有稀疏化方... 详细信息

受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)在机器学习领域应用广泛,是一种常用的的概率生成模型。由于其在特征提取方面的卓越性能被广泛应用于各种领域,其中,隐藏层神经单元的稀疏化技术是对RBM性能的重要改进。现有稀疏化方法中对于激活神经单元的阈值设定通常基于人为设定,使用全局的或固定的备用参数,并且与输入数据相互独立。然而输入数据通常具有不同的特征和概率密度分布,输入数据之间的差异也包含了大量的有用信息,将这些差异用于稀疏过程是本文的主要研究工作。本文在已有RBM模型稀疏化方法基础上提出了新的稀疏化方法,基于不同数据的特征分布的复杂程度不同,以此条件作为的RBM模型进行自适应稀疏化工作的条件,称为熵值基数限制玻尔兹曼机(EC-RBM)。通过确定EC-RBM模型的稀疏化条件,进而能够以此确定神经元的激活阈值,以激活阈值为限制条件保证神经元被激活的数量不会超过一定的数量,从而实现RBM网络模型的稀疏化表示。本文的主要工作有两方面内容:一方面是使用数据的信息熵作为条件实现了本文模型EC-RBM稀疏化工作的动态变化。在该模型中,使用基于数据信息熵的方法来计算不同类别输入数据的数据类熵,然后使用数据类信息熵来计算不同类输入数据所对应的激活阈值,从而动态地确定激活的隐藏神经单元的数量。这种稀疏化方法能够主动适应不同特征分布的输入数据。首先,分析并确定了不同类数据的分布特征确实存在差异,并且能够通过数据的信息熵来表示这种差异,这为我们之后的工作提供了基础。其次,寻找方法进行未知训练数据的概率估计,本文为了使结果误差更小,选取了Parzen窗非参数估计方法进行计算,然后通过计算得到的概率分布计算得到每一类数据的信息熵作为确定神经单元激活阈值的依据。与此同时,在实验过程中我们发现了在使用输入数据进行多种相关计算时,由于使用高维数据计算不同数据间的空间距离时通常会比低维数据计算时产生的误差更大,并且高维数据的数据量过大导致计算十分复杂费时以及产生很多冗余数据使算法效率不高。对此,我们改进了数据信息熵的计算方法,通过使用隐藏层数据而不是输入数据来进行多种相关计算,从而克服高纬度数据的“维数灾难”问题。另一方面,在具体RBM模型的稀疏化工作实现过程当中,我们引入自组织网络映射的优点,通过神经元之间的竞争机制更好地实现数据特征的稀疏化表示。这种工作模式能够促进我们的模型中的稀疏化工作,引入竞争机制可以使得稀疏化工作过程能够更好地提取特征从而提升实验结果的准确性。所以,我们在激活隐藏层神经单元的过程中,提出了不同的神经单元竞争方法。最后,在两个通用数据集上的实验证明了所提出的方法在分类准确性上具有优势。

关键词：限制玻尔兹曼机稀疏化方法竞争模式

来源：评论

学校读者我要写书评

暂无评论

基于压缩感知的管道漏磁检测数据稀疏化方法

引用

中国科技纵横 2019年第6期 66-67页

作者：唐建华张永政刘晓媛中海油能源发展装备技术有限公司天津300452 东北大学信息科学与工程学院辽宁沈阳110004

针对漏磁数据的稀疏化过程,观测值数量与漏磁数据稀疏性对重构准确率的影响,设计了基于压缩感知的管道漏磁检测数据稀疏化方法.通过实验对比由不同观测矩阵进行漏磁数据稀疏化的性能,总结出数据稀疏度和观测值的数量对重构准确率的影响... 详细信息

针对漏磁数据的稀疏化过程,观测值数量与漏磁数据稀疏性对重构准确率的影响,设计了基于压缩感知的管道漏磁检测数据稀疏化方法.通过实验对比由不同观测矩阵进行漏磁数据稀疏化的性能,总结出数据稀疏度和观测值的数量对重构准确率的影响,选出不同类型漏磁数据适用的观测矩阵,最终设计出基于压缩感知的管道漏磁检测数据稀疏化方法.

关键词：压缩感知观测矩阵稀疏化方法

来源：评论

学校读者我要写书评

暂无评论

基于动态指导的深度学习模型稀疏化执行方法

引用

南京师大学报（自然科学版） 2019年第3期42卷 11-19页

作者：孙茹君张鲁飞数学工程与先进计算国家重点实验室

以深度学习为代表的人工智能技术迅速发展,庞大的数据、模型,更大的计算量和更复杂的计算都对模型的执行提出了挑战.在实际应用中,资源和应用的动态特征以及用户的动态需求,需要模型执行的动态性来保证.而稀疏化是在资源受限、用户需求... 详细信息

以深度学习为代表的人工智能技术迅速发展,庞大的数据、模型,更大的计算量和更复杂的计算都对模型的执行提出了挑战.在实际应用中,资源和应用的动态特征以及用户的动态需求,需要模型执行的动态性来保证.而稀疏化是在资源受限、用户需求调整情况下动态模型的执行重要手段.目前主流的稀疏化技术主要是针对特定问题的稀疏化,且针对推理的多,针对训练的少,缺乏在训练执行阶段进行动态调整和稀疏化的手段.本文在对深度学习领域的基本计算单元进行可稀疏性分析的基础上,进一步分析了模型执行的不同层面、不同组成部分的稀疏化能力;经过对动态需求、模型稀疏化策略的建模后,提出了基于动态指导的深度学习模型稀疏化执行方法,并进行了基本实验;最后从量化建模与量化实验的角度对今后的研究工作提出了展望.

关键词：深度学习稀疏化方法资源受限动态调度

来源：评论

学校读者我要写书评

暂无评论

稀疏化PLS回归方法在光谱学中的应用与实现

稀疏化PLS回归方法在光谱学中的应用与实现

引用

作者：田叶扬州大学

学位级别：硕士

光谱测量是一种常用的物质检测技术，特点是分析速率高、无损耗、绿色低成本且容易实时在线分析。根据其自身的优势，光谱测量技术已经被广泛应用于医药、农业、化工业等科学领域。然而，通过光谱测量得到的数据一般具有“高维度、低样... 详细信息

光谱测量是一种常用的物质检测技术，特点是分析速率高、无损耗、绿色低成本且容易实时在线分析。根据其自身的优势，光谱测量技术已经被广泛应用于医药、农业、化工业等科学领域。然而，通过光谱测量得到的数据一般具有“高维度、低样本”的特征，并且谱带间存在严重的重叠问题，使得光谱数据较为复杂，难以直观地做出分析与判断。基于这一问题，本文使用近红外光谱测量技术，面向多组分分析，重点研究化学计量学中的多元回归方法，利用不同的算法进行建模分析并比较实验结果。　　偏最小二乘是近红外光谱分析中应用最为广泛的一种算法，它能够有效克服高维光谱数据中的多重相关性问题，提取有效信息，降低模型中的变量维度。但究其本质，偏最小二乘算法中的隐变量是原自变量的线性组合，它将所有的原始变量都带入模型进行预测分析，从而可能存在无关或者冗余的变量信息，使得模型相对于原始变量并没有实现变量选择，变量信息无法解释，因此需要引入稀疏化方法，从真正意义上达到变量选择的效果。　　本文的研究工作着手于模型稀疏化，从协方差估计、重加权和阈值约束三个方面达到对光谱数据的波长选择，除此以外还对样本进行选择，利用波长选择的思想处理样本选择问题。主要工作如下:　　1.本文提出基于稀疏矩阵变换(SMT)的协方差估计方法，通过具有高度相关性的变量之间的坐标转换达到剔除部分无效或冗余变量的效果，使得变量之间相互独立，提高协方差估计的稳定性和准确性。将SMT估计加入偏最小二乘算法中，并继续对偏最小二乘建模过程中进行重加权处理，得到稀疏化的偏最小二乘(SPLS)方法，最后将PLS和SMT-PLS以及SMT-SPLS这三种回归方法进行分析对比。　　2.提出基于框架的稀疏化学习方法，其本质思想是对多元回归方法计算得到的回归系数值再次进行函数处理，设定阈值从而剔除部分无效变量，该框架算法的优势在于迭代多次进行稀疏化变量选择。同时，将框架与稀疏化的偏最小二乘方法相集成(IRLS-SPLS)，达到不仅能在框架中使用不同的函数对自变量进行加权惩罚，还能循环多次处理回归系数。最后通过软件程序实现并将结果与其他多元回归方法相比较。　　3.借鉴变量选择的思想用于样本选择，利用非线性的偏最小二乘方法对样本进行自动选择，再加入权重值对结果再次稀疏，或者结合稀疏化迭代框架的设计对样本进行迭代选择。在本设计点中针对于大样本量的数据，如果样本量过少则不适用于稀疏化方法，否则会使得模型欠拟合。

关键词：光谱学偏最小二乘稀疏化方法波长选择样本选择

来源：评论

学校读者我要写书评

暂无评论

基于综合几何关系稀疏自注意力机制的图像标注方法研究

引用

计算机应用研究 2022年第4期39卷 1132-1136页

作者：李艳金小峰延边大学智能信息处理研究室

针对基于Transformer框架的图像标注任务中提取视觉特征容易引入噪声问题且为了进一步提高视觉的上下文信息，提出了一种基于综合几何关系稀疏自注意力机制的图像标注方法。首先通过结合图像区域的绝对位置、相对位置和空间包含关系提... 详细信息

针对基于Transformer框架的图像标注任务中提取视觉特征容易引入噪声问题且为了进一步提高视觉的上下文信息，提出了一种基于综合几何关系稀疏自注意力机制的图像标注方法。首先通过结合图像区域的绝对位置、相对位置和空间包含关系提取详细全面的视觉表示，获取图像中潜在的上下文信息；其次提出了注意力层权重矩阵的稀疏化方法，该方法解决了Transformer忽略图像区域的局部性并引入噪声信息的问题；最后，采用了强化学习方法作为指导策略，实现模型在句子级别优化目标序列。通过在MS-COCO数据集上进行的对比实验结果表明，提出的方法在BLEU1、BLEU4、METEOR、ROUGE-L、CIDEr和SPICE指标上分别比基线模型提升了0.2、0.7、0.1、0.3、1.2和0.4,有效提升了图像自动标注的性能。

关键词：图像标注 Transformer 自注意力机制稀疏化方法

来源：评论

学校读者我要写书评

暂无评论

Fast SqueezeNet算法及在地铁人群密度估计上的应用

引用

控制理论与应用 2019年第7期36卷 1036-1046页

作者：郭强刘全利王伟大连理工大学控制科学与工程学院

针对地铁视频监控一直缺乏一种有效的人群密度分类器的问题,提出了基于人群密度估计算法—Fast SqueezeNet的人群密度分类器,用于在地铁嵌入式计算平台有限的硬件资源限制下,实现对地铁车厢内人群的密度估计.该算法基于轻型卷积神经网络... 详细信息

针对地铁视频监控一直缺乏一种有效的人群密度分类器的问题,提出了基于人群密度估计算法—Fast SqueezeNet的人群密度分类器,用于在地铁嵌入式计算平台有限的硬件资源限制下,实现对地铁车厢内人群的密度估计.该算法基于轻型卷积神经网络SqueezeNet,结合权值稀疏化和结构稀疏化方法,具有如下3点优势: 1)以原始图像作为输入,并在处理的过程中自动提取纹理特征用于拥挤人群密度的估计;2) SqueezeNet经过权值稀疏化后,具有更少的模型参数,可以灵活的布置在安谋(ARM)等具有有限硬件资源的嵌入式平台上;3)结构稀疏化方法使得SqueezeNet具有更快的前向预测速度,提高其在地铁嵌入式平台上的图像处理效率.在3个人群密度数据集PETS 2009, Mall和ShangHai metro上,采用Fast SqueezeNet算法的三分类人群密度分类器,与基于卷积神经网络和单纯的权值稀疏化SqueezeNet网络的分类器进行对比实验研究,结果表明:在预测准确率、参数规模和运行时间3个维度上,基于Fast SqueezeNet的分类器均表现出了较好的性能,有效地克服了地铁车厢拥挤人群中存在的高密度、高耦合、透视变形等图像识别难题对估计结果的影响.最后,在ARM嵌入式平台上的实验表明基于FastSqueezeNet的分类器可以在有限的硬件资源下,快速准确的得到预测结果,满足高速运行的地铁列车日常使用需求.

关键词：人群密度估计 SqueezeNet 稀疏化方法地铁嵌入式平台

来源：评论

学校读者我要写书评

暂无评论

稀硫化PLS回归方法在光谱学中的应用与实现

稀硫化PLS回归方法在光谱学中的应用与实现

引用

作者：田叶扬州大学

学位级别：硕士

光谱测量是一种常用的物质检测技术,特点是分析速率高、无损耗、绿色低成本且容易实时在线分析。根据其自身的优势,光谱测量技术已经被广泛应用于医药、农业、化工业等科学领域。然而,通过光谱测量得到的数据一般具有“高维度、低样本... 详细信息

光谱测量是一种常用的物质检测技术,特点是分析速率高、无损耗、绿色低成本且容易实时在线分析。根据其自身的优势,光谱测量技术已经被广泛应用于医药、农业、化工业等科学领域。然而,通过光谱测量得到的数据一般具有“高维度、低样本”的特征,并且谱带间存在严重的重叠问题,使得光谱数据较为复杂,难以直观地做出分析与判断。基于这一问题,本文使用近红外光谱测量技术,面向多组分分析,重点研究化学计量学中的多元回归方法,利用不同的算法进行建模分析并比较实验结果。偏最小二乘是近红外光谱分析中应用最为广泛的一种算法,它能够有效克服高维光谱数据中的多重相关性问题,提取有效信息,降低模型中的变量维度。但究其本质,偏最小二乘算法中的隐变量是原自变量的线性组合,它将所有的原始变量都带入模型进行预测分析,从而可能存在无关或者冗余的变量信息,使得模型相对于原始变量并没有实现变量选择,变量信息无法解释,因此需要引入稀疏化方法,从真正意义上达到变量选择的效果。本文的研究工作着手于模型稀疏化,从协方差估计、重加权和阈值约束三个方面达到对光谱数据的波长选择,除此以外还对样本进行选择,利用波长选择的思想处理样本选择问题。主要工作如下:1.本文提出基于稀疏矩阵变换(SMT)的协方差估计方法,通过具有高度相关性的变量之间的坐标转换达到剔除部分无效或冗余变量的效果,使得变量之间相互独立,提高协方差估计的稳定性和准确性。将SMT估计加入偏最小二乘算法中,并继续对偏最小二乘建模过程中进行重加权处理,得到稀疏化的偏最小二乘(SPLS)方法,最后将PLS和SMT-PLS以及SMT-SPLS这三种回归方法进行分析对比。2.提出基于框架的稀疏化学习方法,其本质思想是对多元回归方法计算得到的回归系数值再次进行函数处理,设定阈值从而剔除部分无效变量,该框架算法的优势在于迭代多次进行稀疏化变量选择。同时,将框架与稀疏化的偏最小二乘方法相集成(IRLS-SPLS),达到不仅能在框架中使用不同的函数对自变量进行加权惩罚,还能循环多次处理回归系数。最后通过软件程序实现并将结果与其他多元回归方法相比较。3.借鉴变量选择的思想用于样本选择,利用非线性的偏最小二乘方法对样本进行自动选择,再加入权重值对结果再次稀疏,或者结合稀疏化迭代框架的设计对样本进行迭代选择。在本设计点中针对于大样本量的数据,如果样本量过少则不适用于稀疏化方法,否则会使得模型欠拟合。

关键词：偏最小二乘光谱分析稀疏化方法波长选择样本选择

来源：评论

学校读者我要写书评

暂无评论

EIT稀疏成像方法研究

EIT稀疏成像方法研究

引用

作者：柳干天津工业大学

学位级别：硕士

电阻抗成像(Electrical Impedance Tomography,EIT)技术是ERT和ECT的统称。它根据敏感场内的不同介质具有不同的电特性(复导纳)的特点,由传感器采集敏感场表面电位信息,推断出敏感场内物体的阻抗分布,并借助图像重构算法重现敏感场内某... 详细信息

电阻抗成像(Electrical Impedance Tomography,EIT)技术是ERT和ECT的统称。它根据敏感场内的不同介质具有不同的电特性(复导纳)的特点,由传感器采集敏感场表面电位信息,推断出敏感场内物体的阻抗分布,并借助图像重构算法重现敏感场内某一截面上的介质分布情况。EIT技术以其成像速度快、成本低、非侵入式、无损测量等优点,在医疗诊断、地球物理探测、管道工业等方面都有着潜在的运用前景,该项技术也因此得到快速发展。EIT逆问题具有病态性,对现有求解算法来说要想增加获得的信息量,就只能通过增加传感器的方式,但是这也会导致计算量的迅速增长。近年提出的压缩传感理论证明了当信号本身具有某些特性且采样矩阵满足一定条件时,可以从高度不完整的观测数据中近似甚至完全恢复原始信号。这样就突破了传统香农采样定理的瓶颈。本文所做工作主要在考虑了以上因素的基础上,为了扩展EIT技术的应用场景,设计并实现了一套基于嵌入式Cortex-A9平台的EIT系统。本文完成的主要工作有：(1)完成实验平台软、硬件环境的搭建。硬件部分包括信号处理的电路(仪表运放、有效值计算、A/D转换、模拟开关阵列),激励所需要的恒流源电路和相关电源电路等；软件平台部分,主要包括对运行在Cortex-A9平台上基于Linux3.0.36内核的Lubuntu系统内核的配置和开发所需要的Python2.7环境及其相关库的配置。(2)利用EIT技术和压缩传感理论的特点,设计了成像系统方案,给出了几种数据稀疏化方法的仿真实验结果和本文EIT重建方法的数学模型。(3)采用离散小波变换的方法在所搭建的实验平台上完成稀疏化重建实验。并对不同数目、形状、高度的对象进行实验结果分析。

关键词：电阻抗成像 ARM Cortex-A9平台稀疏化方法压缩传感图像重建

来源：评论

学校读者我要写书评

暂无评论

基于fused惩罚的稀疏主成分分析

引用

统计研究 2019年第4期36卷 119-128页

作者：张波刘晓倩中国人民大学应用统计中心美国北卡州立大学

本文旨在研究基于fused惩罚的稀疏主成分分析方法,以适用于相邻变量之间高度相关甚至完全相等的数据情形。首先,从回归分析角度出发,提出一种求解稀疏主成分的简便思路,给出一种广义的稀疏主成分模型——GSPCA模型及其求解算法,并证明... 详细信息

本文旨在研究基于fused惩罚的稀疏主成分分析方法,以适用于相邻变量之间高度相关甚至完全相等的数据情形。首先,从回归分析角度出发,提出一种求解稀疏主成分的简便思路,给出一种广义的稀疏主成分模型——GSPCA模型及其求解算法,并证明在惩罚函数取1-范数时,该模型与现有的稀疏主成分模型——SPC模型的求解结果一致。其次,提出将fused惩罚与主成分分析相结合,得到一种fused稀疏主成分分析方法,并从惩罚性矩阵分解和回归分析两个角度,给出两种模型形式。在理论上证明了两种模型的求解结果是一致的,故将其统称为FSPCA模型。模拟实验显示,FSPCA模型在处理相邻变量之间高度相关甚至完全相等的数据集上表现良好。最后,将FSPCA模型应用于手写数字识别,发现与SPC模型相比,FSPCA模型所提取的主成分具备更好的解释性。

关键词：主成分分析稀疏化方法 fused惩罚手写数字识别可解释性

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：