检索结果-内蒙古大学图书馆

计算机技术与发展 2025年第2期35卷 86-92页

作者：李平仝涛南京邮电大学计算机学院江苏南京210023

高斯过程隐变量模型(GPLVM)作为一种高效的贝叶斯无参降维模型,目前已广泛应用于多种应用中。然而传统的GPLVM模型为完全无监督降维模型,导致其无法有效嵌入监督信息,从而极大地限制了其在监督学习任务中的性能。同时GPLVM通常假设数据... 详细信息

高斯过程隐变量模型(GPLVM)作为一种高效的贝叶斯无参降维模型,目前已广泛应用于多种应用中。然而传统的GPLVM模型为完全无监督降维模型,导致其无法有效嵌入监督信息,从而极大地限制了其在监督学习任务中的性能。同时GPLVM通常假设数据噪声服从高斯分布,因此无法建模离群点噪声,从而严重影响了模型的鲁棒性。针对上述问题,该文提出一种面向分类任务的鲁棒高斯过程隐变量模型。该模型通过引入基于原型的分类器并基于此构建隐变量先验分布,实现了有监督的数据降维和分类。同时,通过利用均值来建模数据的离群点噪声,进而实现了模型的鲁棒学习。在多个数据集上的实验结果表明,该模型在嵌入监督信息同时,可对离群点噪声进行有效建模,从而获得更优的分类准确率。

关键词：高斯过程隐变量模型监督学习离群点噪声鲁棒学习

来源：评论

学校读者我要写书评

暂无评论

隐变量模型及其在贝叶斯运营模态分析的应用

引用

振动工程学报 2024年第9期37卷 1476-1484页

作者：朱伟李宾宾谢炎龙陈笑宇浙江大学伊利诺伊大学厄巴纳香槟校区联合学院浙江海宁314400 浙江大学平衡建筑研究中心浙江杭州310058 浙江大学建筑设计研究院有限公司浙江杭州310058 深圳大学土木与交通工程学院广东深圳518060

贝叶斯FFT算法是运营模态分析的最新一代算法,以其准确性高、计算速度快、可有效进行不确定性度量等优点受到广泛关注。然而,现有贝叶斯FFT算法针对不同情况(稀疏模态、密集模态、多步测试等)需采用不同优化算法,且编程实现极为复杂。为... 详细信息

贝叶斯FFT算法是运营模态分析的最新一代算法,以其准确性高、计算速度快、可有效进行不确定性度量等优点受到广泛关注。然而,现有贝叶斯FFT算法针对不同情况(稀疏模态、密集模态、多步测试等)需采用不同优化算法,且编程实现极为复杂。为此,本文旨在提出针对不同情况的贝叶斯FFT算法的统一框架,并实现模态参数的高效求解;视结构模态响应为隐变量,建立贝叶斯模态识别单步测试和多步测试的隐变量模型框架;针对提出的隐变量模型运用期望最大化算法实现各种情况下模态参数的统一贝叶斯推断,利用隐变量解耦模态参数优化过程,采用Louis等式间接求取似然函数的Hessian矩阵。通过两个实际工程测试案例,并与现有方法对比,验证所提方法的准确性和高效性。分析结果表明,本文所提算法与现有方法结果相同,但其推导简单、易编程,尤其对于密集模态识别问题具有明显的计算优势。本文为贝叶斯模态识别建立起统一的隐变量模型框架,在很大程度上简化原本繁琐且冗长的推导过程,提高计算效率,同时也为应用变分贝叶斯、吉布斯采样等算法求解贝叶斯模态识别问题提供了可能。

关键词：运营模态分析参数识别隐变量模型期望最大化不确定性

来源：评论

学校读者我要写书评

暂无评论

一种基于改进高斯过程隐变量模型的多角度人脸识别算法

引用

电子与信息学报 2013年第9期35卷 2033-2039页

作者：刘剑龚志恒吴成东高恩阳东北大学信息科学与工程学院沈阳110004 沈阳建筑大学信息与控制工程学院沈阳110168

针对传统谱算法在人脸识别中的局限,该文提出一种基于改进高斯过程隐变量模型(GP-LVM)的多角度人脸识别算法。首先,通过高斯过程(GP)对人脸流形建立概率模型,得到高斯过程隐变量模型(GP-LVM);其次,分析GP-LVM得到共有信息(shared inform... 详细信息

针对传统谱算法在人脸识别中的局限,该文提出一种基于改进高斯过程隐变量模型(GP-LVM)的多角度人脸识别算法。首先,通过高斯过程(GP)对人脸流形建立概率模型,得到高斯过程隐变量模型(GP-LVM);其次,分析GP-LVM得到共有信息(shared information)和独有信息(private information),利用概率最大化与拉格朗日乘子法得到参照矩阵和参照值;最后,实现多角度人脸识别。选取Yale,JAFFE,FERET,CMU-PIE 4类数据集进行对比实验,实验结果表明:该文提出的算法可以有效地识别多角度人脸,针对无角度人脸识别也具有良好的效果。

关键词：人脸识别高斯过程谱算法隐变量模型共有信息独有信息

来源：评论

学校读者我要写书评

暂无评论

隐变量模型的建模与优化

隐变量模型的建模与优化

引用

作者：王秀美西安电子科技大学

学位级别：博士

数据降维是机器学习的一个重要的研究分支。它在理论研究与算法实现都取得了重大进展，成为当前机器学习领域的前沿热点课题。作为数据降维的一种常用工具，隐变量模型越来越受到人们的关注，本文围绕隐变量模型在降维方面的应用进行建... 详细信息

数据降维是机器学习的一个重要的研究分支。它在理论研究与算法实现都取得了重大进展，成为当前机器学习领域的前沿热点课题。作为数据降维的一种常用工具，隐变量模型越来越受到人们的关注，本文围绕隐变量模型在降维方面的应用进行建模和算法研究，主要做了以下几个方面的工作：\n (1)提出了一种基于局部保持的隐变量模型建模。首先，该模型借助了保局映射的局部保持性质，对模型中的隐变量进行约束，将保局映射的目标函数作为低维空间中数据的先验信息；接着利用Bayes 定理得到隐变量的后验概率；最后通过最大化后验概率的方法确定隐变量，从而建立了局部保持的隐变量模型，克服了非线性核映射建立的高斯过程隐变量模型不能保持数据空间局部结构信息。实验结果表明，相比较原有的隐变量模型，本文提出的方法有很好的保持数据局部结构的效果。\n (2)提出了加权的高斯过程隐变量模型。由于高斯过程隐变量模型是一种无监督的隐变量模型，并且它假设观测样本各维是独立同分布的。为了提高它的判别性和凸出观测样本不同维对于分类的贡献，本文提出了两种加权的高斯过程隐变量模型：基于判别特征加权的高斯过程隐变量模型和基于局部保持的加权隐变量模型。前者利用线性判别分析对样本进行变换，得到判别权值，建立一种基于判别特征加权的隐变量模型；后者利用局部Fisher 判别分析提取特征，建立一种基于局部保持的加权的隐变量模型，该模型在增强判别性的同时还可以保持数据类内的局部结构信息。实验结果表明，两种加权模型能够利用监督信息，增强隐变量模型的判别性。\n (3)提出了监督高斯过程隐变量的回归模型和分类模型。回归模型是借助于高斯过程回归建立了从隐空间到回归输出空间的关系，并利用隐变量模型的降维特性，去除数据的冗余信息，从而得到精确的回归结果。分类模型是先将数据的类标转换成矩阵形式，然后借助于隐变量模型的条件独立性，分别建立从隐变量到观测数据和类标数据的非线性映射，得到基于隐变量的监督分类模型。实验结果表明了本文提出的回归算法和分类算法的有效性。\n (4)提出了一种半监督隐变量模型。数据的类标信息非常有限，而且对数据进行标记需要大量的人力物力。相对于类标信息，成对约束信息更容易获得。本文基于成对约束信息，提出了一种半监督隐变量降维模型。通过把高维观测数据的成对约束信息传递到隐空间，转化为对低维隐变量的约束，从而建立基于成对约束的半监督隐变量模型。在大量的数据库上的实验结果表明了该算法的有效性。\n (5)以散度分析为工具，提出了一种迁移隐变量模型。首先通过Bregman 散度，度量训练样本和测试样本间的距离，然后利用两个集合间的散度来调整原有模型的参数，建立迁移隐变量模型，可以解决样本来自不同分布或者交叉域的问题。\n 该方法不需要对原有模型重新训练，从而增强了隐变量模型的泛化学习能力。在手写数字数据集和人脸数据上的实验结果表明了该迁移学习的隐变量模型的优势。

关键词：隐变量模型机器学习数据降维建立模型

来源：评论

学校读者我要写书评

暂无评论

基于深度信念网与隐变量模型的用户偏好建模

引用

计算机工程 2020年第5期46卷 54-62页

作者：潘良辰吴鑫然岳昆云南大学信息学院昆明650500

从高维、稀疏的用户评分数据中构建用户偏好模型,存在迭代计算复杂度高、中间结果规模大和难以实现有效推理等问题。为此,提出一种基于深度信念网(DBN)和贝叶斯网(BN)的用户偏好建模方法。采用DBN对评分数据进行分类,用隐变量表示不能... 详细信息

从高维、稀疏的用户评分数据中构建用户偏好模型,存在迭代计算复杂度高、中间结果规模大和难以实现有效推理等问题。为此,提出一种基于深度信念网(DBN)和贝叶斯网(BN)的用户偏好建模方法。采用DBN对评分数据进行分类,用隐变量表示不能直接观测到的用户偏好,利用含隐变量的BN描述评分数据中蕴含的相关属性间的依赖关系及其不确定性。在MovieLens和大众点评数据集上的实验结果表明,该方法能够有效描述评分数据中与用户偏好相关的各属性间的依赖关系,其精确率和执行效率均高于隐变量模型。

关键词：贝叶斯网用户偏好评分数据隐变量模型深度信念网

来源：评论

学校读者我要写书评

暂无评论

基于隐变量模型的语音转换方法研究

引用

信号处理 2012年第3期28卷 344-351页

作者：孙新建张雄伟杨吉斌曹铁勇孙健解放军理工大学通信工程学院江苏南京210007 解放军理工大学指挥自动化学院江苏南京210016

传统语音转换方法利用说话人声音特征映射实现,容易造成过平滑(over-smoothing)和过拟合(over-fitting)问题。本文从语音信号内容与形式分离角度,利用隐变量模型提出了一种全新的语音转换方法。首先利用包含两个隐变量因子的隐变量模型(... 详细信息

传统语音转换方法利用说话人声音特征映射实现,容易造成过平滑(over-smoothing)和过拟合(over-fitting)问题。本文从语音信号内容与形式分离角度,利用隐变量模型提出了一种全新的语音转换方法。首先利用包含两个隐变量因子的隐变量模型(Latent Variable Model,LVM)建立语音信号的生成模型;然后采用最大似然方法把语音信号分解成表示语义的内容信息和体现说话人特征的形式信息,并估计出模型参数;最后基于LVM生成模型,利用说话人形式替换方法实现语音转换。主、客观测试结果表明,在相同训练集条件下,本文提出的语音转换方法性能明显优于GMM方法,并且隐变量模型和传统的双线性模型(Bilinear Model)相比,由于采用非线性关系描述内容与形式之间的相互作用,因此分离效果更好,语音转换质量更高。

关键词：语音转换隐变量模型内容与形式分离形式替换

来源：评论

学校读者我要写书评

暂无评论

结构化隐变量模型的表示和学习

结构化隐变量模型的表示和学习

引用

作者：蒋勇中国科学院大学

学位级别：博士

隐变量模型在机器学习领域和自然语言处理领域中有着广泛的应用，隐变量模型的优势在于它们在表示上的灵活性。很多研究者的工作主要集中在研究离散型和连续型隐变量模型上。但是，在一些应用中，这些隐变量之间存在着联系，需要提出新... 详细信息

隐变量模型在机器学习领域和自然语言处理领域中有着广泛的应用，隐变量模型的优势在于它们在表示上的灵活性。很多研究者的工作主要集中在研究离散型和连续型隐变量模型上。但是，在一些应用中，这些隐变量之间存在着联系，需要提出新的模型来建模这些隐变量之间的关系，这种模型被称为结构化隐变量模型。在应用到不同问题时，结构化隐变量模型如何在这些问题上的学习和表示是一个很重要的研究课题。　　本文的研究方向主要集中在自然语言处理领域和机器学习领域中基于依存树的结构化隐变量模型的表示和学习上。我们把结构化隐变量模型在自然语言处理领域中的无监督依存句法分析问题作为研究的出发点;然后我们把单个结构化隐变量模型拓展到多个模型的研究和机器学习领域中概率建模问题的研究上，最后，本文把用于概率建模问题的结构化隐变量模型应用在序列标注问题上。本文的创新点有:　　1.本文提出一种基于神经网络的生成式结构化隐变量模型来做无监督依存句法分析，并研究了有效的参数学习，并在多个语言上验证了模型在无监督依存句法分析上的优势;2.本文提出一种判别式结构化隐变量模型来做无监督依存句法分析，并提出有效的参数学习和模型推理算法，在多种语言的实验上表明它的好处;同时本文提出一种基于鲁棒学习的框架，提出基于后验正则化技术的学习方法，发现鲁棒学习可以进一步提高无监督依存句法分析的效果;3.本文提出一种针对无监督依存句法分析的联合训练生成式模型和判别式模型的框架，提出有效联合学习两个模型的算法。所提出的方法简单有效，可以同时利用两个模型的优点，提高两个模型各自在无监督依存句法分析上的效果;同时本文提出一种基于正则化技术训练双语依存句法分析模型的框架，且提出三种简单有效的正则化技术，并在无监督依存句法分析任务上验证了方法的有效性;4.本文提出一种结构化隐变量模型来做概率建模任务，且提出了一种近似的模型推理算法、模型评估算法以及多种模型学习算法，在多个数据集上的实验验证了模型以及算法的有效性;5.本文提出一种可精确推理的结构化隐变量模型来做概率建模任务，且重点研究了模型的可精确推理能力以及提出了有效的模型学习和概率推理算法，并在人造数据和真实数据上验证了模型的有效性，概率推理上的结果也显示出本文提出的模型在概率推理上相对于传统概率模型的优势;同时本文提出将此模型应用于序列标注问题，并在多组实验上验证了模型的有效性。

关键词：自然语言处理隐变量模型概率推理机器学习依存句法分析

来源：评论

学校读者我要写书评

暂无评论

面向任务的高斯过程隐变量模型扩展研究

面向任务的高斯过程隐变量模型扩展研究

引用

作者：李平南京航空航天大学

学位级别：博士

高斯过程作为一种柔性贝叶斯非参数化模型,近年来已被逐渐应用于机器学习等相关领域中,并取得了良好的效果。然而现存的相关模型,如高斯过程回归模型、高斯过程分类模型、高斯过程隐变量模型等,仅简单地将高斯过程先验应用于模型构建中... 详细信息

高斯过程作为一种柔性贝叶斯非参数化模型,近年来已被逐渐应用于机器学习等相关领域中,并取得了良好的效果。然而现存的相关模型,如高斯过程回归模型、高斯过程分类模型、高斯过程隐变量模型等,仅简单地将高斯过程先验应用于模型构建中,忽略了机器学习任务自身的特殊性和其包含的各种信息,从而无法满足各种机器学习任务的需求。因此为解决上述问题,本文分别从多任务学习、度量学习、多视图学习、特征相关性学习四个机器学习具体任务角度对高斯过程及高斯过程隐变量模型的扩展方法进行了探索,进一步扩展了高斯过程和高斯过程隐变量模型的应用范围。本文的主要工作包括如下几个方面:(1)提出了一种面向多任务学习的层次高斯过程隐变量模型。与普通的高斯过程多任务学习模型不同,该模型包含两个层次:共享特征学习层和任务相关性构建层。其中,前者用于多任务共享特征的学习;后者用于显式构建和利用任务之间的相关性。基于这种层次结构,模型不仅可以明确的嵌入任务相关性,同时有效避免了交叉协方差矩阵高斯过程多任务学习模型的较高计算及存储复杂度问题。实验结果表明,本文提出的模型具有明显优于其他高斯过程多任务学习模型的性能。(2)提出了一种面向度量学习的高斯过程隐变量模型。在模型构建过程中,本文使用高斯过程对双线性相似度学习模型进行了重新刻画,进而实现了非参数化的度量学习方法。不同于现有的参数化度量学习模型,本文提出的模型有效解决了参数化模型的参数化假设导致的模型易过拟合以及柔性不足等问题。同时该模型也继承了高斯过程模型的非线性学习和不确定性预测等优点。实验结果表明,本文提出的模型具有较好的非线性特征学习和相似性预测能力。(3)提出了一种面向不完整多视图数据聚类的共享高斯过程隐变量模型。该模型针对包含缺失实例的多视图数据聚类问题,通过在共享高斯过程隐变量模型中引入若干对齐的辅助点的方式来弥补缺失数据造成的信息损失并实现组级(goup-level)约束,进而提升隐变量模型在不完整多视图数据学习任务中的性能。实验结果表明,本文提出的模型具有明显优于现有不完整多视图数据聚类模型的性能。同时其可以直接地被扩展并应用于包含多于两个视图的数据学习任务中。(4)提出了一种面向特征相关性学习的高斯过程隐变量模型。为了有效地学习和利用数据原始输入特征的相关性、提升隐变量模型的特征学习能力,本文首先在高斯过程隐变量模型中引入一系列额外的隐变量(特征描述变量)来显式地刻画数据原始特征的相关性,进而构建出一个联合的目标函数并将其用于低维隐变量和特征描述变量的同时学习。该模型不仅可以用于无监督学习中,同时也可以利用数据的标记信息进一步提升模型的特征学习能力。实验结果表明,在无监督和有监督两种学习场景中,本文提出的模型均有优良的特征学习能力,同时能够自动地学习及预测样本输入特征的相关性。此外,本文在稀疏高斯过程求解方面进行了一定的探索,使用变分推理及随机变分推理方法分别对(3)和(4)提出的模型进行了扩展,使其可用于包含大规模数据样本的学习任务中。

关键词：高斯过程隐变量模型特征学习多任务学习度量学习多视图学习特征相关性

来源：评论

学校读者我要写书评

暂无评论

深度贝叶斯隐变量模型及推断方法研究

深度贝叶斯隐变量模型及推断方法研究

引用

作者：贺丽荣电子科技大学

学位级别：博士

在不断演进发展的第三次人工智能浪潮中,深度学习以其强大的数据拟合、表征学习能力,以及广泛的应用范畴成为了主角。然而,现有深度学习模型所表现出的海量数据驱动,对抗鲁棒性、可解释性不足,无法表征不确定性等特性,在一定程度上制约... 详细信息

在不断演进发展的第三次人工智能浪潮中,深度学习以其强大的数据拟合、表征学习能力,以及广泛的应用范畴成为了主角。然而,现有深度学习模型所表现出的海量数据驱动,对抗鲁棒性、可解释性不足,无法表征不确定性等特性,在一定程度上制约了其发展进程。相较而言,概率图模型通过引入概率框架和隐变量分布,在处理可解释性、不确定性,以及鲁棒性方面均有不俗的表现。因此,汲取概率图模型与深度学习之所长的深度贝叶斯学习已成为近年来一个极具价值的研究方向。一般而言,深度贝叶斯学习按照概率图模型与深度学习的融合方式可分为贝叶斯神经网络和深度贝叶斯隐变量模型。本文以深度贝叶斯隐变量模型及推断方法研究为中心,针对深度贝叶斯隐变量模型的不确定性表示和对抗鲁棒性两个核心问题,聚焦兼具隐变量模型与深度学习优势的融合方式以及高效推断方法的设计,通过图数据的链接预测,图像分类,以及图像生成三个典型的任务,六个章节进行探讨,主要贡献可总结如下:第一,针对神经张量网络在图数据链接预测中难以刻画不确定性表示的问题,提出了一种基于贝叶斯神经张量网络的图数据链接预测方法。具体而言,该方法针对知识图谱这种典型的图数据结构开展链接预测研究。首先,该方法将知识图谱中的实体和关系从确定性的向量变为服从高斯分布的隐变量,刻画了实体和关系不确定性表示,也为实体和关系引入了先验知识。再者,采用多元伯努利似然函数来表示实体之间存在关系的事实,刻画了模型预测的不确定性。然后,使用多层感知机来表示实体隐变量和关系隐变量之间的关系,描绘了更复杂的交互。最后,采用随机梯度变分贝叶斯框架,使用重参数化技巧实现了高效的近似变分推断。实验结果表明,该方法可以捕捉到实体和关系的不确定性表示,提供预测的置信度,同时具有良好的性能。第二,针对深度高斯过程模型在图像分类中缺乏对抗鲁棒性的问题,提出了一种基于边缘增强的深度高斯过程模型。具体而言,该方法在深度高斯过程模型的前端增加了边缘增强层。首先,针对边缘提取模块不可微的情况,采用直通式的估计器来实现端到端的训练。然后,采用基于诱导点的随机变分推断方法来实现高斯过程稀疏近似推断。最后,通过与对抗训练策略相互融合,实现模型性能的进一步提升。实验结果表明,该模型能够以一种不敏感的方式显式地弥补图像的形状信息,从而提高了图像分类的对抗鲁棒性。第三,针对变分自编码器在图像生成中缺乏对抗鲁棒性的问题,提出了一种基于自监督学习的变分自编码器正则化学习方法。这种现象的产生很大程度可归咎于编码器不平滑。针对变分自编码器平滑性不足的情况,引入对比学习正则化项,让原始样本的隐变量编码尽可能靠近与之对应的对抗样本的隐变量编码,而远离其他数据的对抗样本的隐变量编码。然后,充分考虑隐变量的分布情况,采用SKL距离指数幂来衡量隐变量编码之间的相似度。实验结果表明,该方法可以显式地约束隐变量编码的学习过程,从而提高了图像生成的对抗鲁棒性。

关键词：深度学习隐变量模型变分推断对抗鲁棒性不确定性表示

来源：评论

学校读者我要写书评

暂无评论

面向用户偏好发现的隐变量模型构建与推理

引用

计算机应用 2017年第2期37卷 360-366页

作者：高艳岳昆武浩付晓东刘惟一云南大学信息学院昆明650504 昆明理工大学信息工程与自动化学院昆明650500

电子商务应用中产生了大量用户评分数据,而这些数据中富含了用户观点和偏好信息,为了能够从这些数据中准确地推断出用户偏好,提出一种面向评分数据中用户偏好发现的隐变量模型(即含隐变量的贝叶斯网)构建和推理的方法。首先,针对评分数... 详细信息

电子商务应用中产生了大量用户评分数据,而这些数据中富含了用户观点和偏好信息,为了能够从这些数据中准确地推断出用户偏好,提出一种面向评分数据中用户偏好发现的隐变量模型(即含隐变量的贝叶斯网)构建和推理的方法。首先,针对评分数据的稀疏性,使用带偏置的矩阵分解(BMF)模型对其进行填补;其次,用隐变量表示用户偏好,给出了基于互信息(MI)、最大半团和期望最大化(EM)算法的隐变量模型构建方法;最后,给出了基于Gibbs采样的隐变量模型概率推理和用户偏好发现方法。实验结果表明,与协同过滤的方法相比,该方法能有效地描述评分数据中相关属性之间的依赖关系及其不确定性,从而能够更准确地推断出用户偏好。

关键词：用户偏好评分数据贝叶斯网隐变量模型概率推理带偏置的矩阵分解

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：