检索结果-内蒙古大学图书馆

作者：徐灵重庆师范大学

学位级别：硕士

近年来,带有线性约束的可分凸优化问题广泛出现在工程、管理等众多领域,如何对这类带线性约束的可分凸优化问题进行求解,引起了众多学者们的关注.对于此类问题,当可分离变量个数超过两个时,交替方向法的直接推广应用在理论上并不一定能... 详细信息

近年来,带有线性约束的可分凸优化问题广泛出现在工程、管理等众多领域,如何对这类带线性约束的可分凸优化问题进行求解,引起了众多学者们的关注.对于此类问题,当可分离变量个数超过两个时,交替方向法的直接推广应用在理论上并不一定能保证其收敛性.因此,研究者们在交替方向法的基础上提出了一些其他的求解方法,比如预测-校正算法.本文主要研究带有三个可分离变量的线性约束可分凸优化问题的求解,在预测-校正算法的框架下,给出三种新的算法对问题进行求解.论文证明了提出的三种算法的收敛性,并用数值算例说明了算法的有效性.论文的内容安排如下:第一章介绍了关于线性约束可分凸优化问题的研究背景及问题的求解现状,并给出了论文的主要结构内容.第二章简要介绍了一些论文所涉及的相关知识,包括一些符号、定义和定理等.第三章在已有的预测-校正算法文章的启发下,提出新的部分并行预测-校正算法,并证明了算法的收敛性,最后通过观察分析数值算例结果,表明算法的有效性.第四章受第三章提出的部分并行预测-校正算法思路的启发,提出一种完全并行预测-校正算法,并且证明了算法的收敛性.最后通过分析数值算例结果,表明算法的有效性.第五章对已有的带投影校正步的算法进行改进,给出一种新的带有投影校正步的部分并行预测-校正算法,然后给出算法的收敛性证明,最后给出数值算例说明算法的有效性.第六章对本文的研究工作进行总结,并对以后的研究工作做出展望.

关键词：可分凸优化问题部分并行完全并行投影校正步预测-校正算法

来源：评论

学校读者我要写书评

暂无评论

求解多块可分凸优化问题的并行分裂法

求解多块可分凸优化问题的并行分裂法

引用

作者：王楠南京师范大学

学位级别：硕士

交替方向乘子法(ADMM)是凸优化问题中应用广泛的一种算法,在图像处理、机器学习、信号处理等领域发挥着重要作用.当多块可分凸优化问题中含有两组变量时,运用ADMM求解在理论上具有收敛性,且在数值实验上具有良好的效果.随着大数据及人... 详细信息

交替方向乘子法(ADMM)是凸优化问题中应用广泛的一种算法,在图像处理、机器学习、信号处理等领域发挥着重要作用.当多块可分凸优化问题中含有两组变量时,运用ADMM求解在理论上具有收敛性,且在数值实验上具有良好的效果.随着大数据及人工智能的发展,优化问题的规模不断扩大,目标函数中的变量远大于两组.已有研究结果表明直接推广的ADMM算法不收敛.为了保留直接推广的交替方向乘子法在数值实验中的优点,同时保证算法产生的迭代序列具有收敛性,常见的处理方式有两种:一种方法为对问题的目标函数加强条件,如目标函数强凸或者部分强凸等,另一种方法为对ADMM进行修正,通过增加矫正步等使得算法产生的迭代序列收敛.本文提出一种新的带矫正的分块并行ADMM算法.在每次迭代过程中,对变量进行分组,迭代时组内串行更新,组间并行求解.该算法的优点是可以尽量使用最新迭代信息,同时尽可能的减少计算所需时间.本文对该算法进行了收敛性分析,同时给出算法中参数的选择方法以保证相应矩阵为正定矩阵,最后将算法应用到具体问题中,给出数值实验以验证算法的有效性.

关键词：交替方向乘子法可分凸优化问题并行计算收敛性

来源：评论

学校读者我要写书评

暂无评论

大规模可分凸优化问题的非精确自适应步随机原始对偶算法

引用

理论数学 2024年第4期14卷 399-415页

作者：周晓艳重庆师范大学数学科学学院重庆

本文研究了可分优化问题,针对其目标函数的可分性,分裂算法将目标函数分解成更小、更容易处理的子问题, 如原始对偶混合梯度算法。本文探讨了目标函数的邻近算子的非精确求解策略,并基于此提出了一个非精确自适应步随机原始对偶算法... 详细信息

本文研究了可分优化问题,针对其目标函数的可分性,分裂算法将目标函数分解成更小、更容易处理的子问题, 如原始对偶混合梯度算法。本文探讨了目标函数的邻近算子的非精确求解策略,并基于此提出了一个非精确自适应步随机原始对偶算法。我们分析了误差序列选取方式对算法收敛速率的影响,发现不同的误差序列选择会导致算法在收敛速度和稳定性方面表现出显著的差异。此外,该算法在实际应用中也展现出了更高的效率和灵活性。

关键词：可分凸优化问题随机算法原始对偶算法自适应策略非精确求解

来源：评论

学校读者我要写书评

暂无评论

求解三块可分非凸优化问题的交替方向法

求解三块可分非凸优化问题的交替方向法

引用

作者：黎财胜南京师范大学

学位级别：硕士

交替方向法(ADMM)起源于20世纪70年代微分方程数值解领域,可追溯到20世纪50年代著名的算子分裂算法,如Dougals-Rachford分裂算法、Peaceman-Rachford算子分裂算法等,在上世纪80年代初被引入优化领域,逐渐成为凸优化算法中一类非常有效... 详细信息

交替方向法(ADMM)起源于20世纪70年代微分方程数值解领域,可追溯到20世纪50年代著名的算子分裂算法,如Dougals-Rachford分裂算法、Peaceman-Rachford算子分裂算法等,在上世纪80年代初被引入优化领域,逐渐成为凸优化算法中一类非常有效的算法.近年来,随着大数据和人工智能的兴起,交替方向法在机器学习、交通问题、图像处理、经济平衡问题、资源配置问题等领域发挥着越来越重要的应用,受到越来越多的学者的关注.交替方向法过去的发展主要集中在凸优化问题,其算法设计、理论分析已经很成熟.然而实际应用中产生的问题往往是非凸的.对于目标函数是非凸或者部分非凸的情况,目前一般采取凸松弛方式进行处理,直接从非凸问题角度进行研究还处于初期阶段,只有非常少的研究成果.从本质上讲,非凸模型往往比凸模型更好地近似实际问题本身.因此,越来越多的学者开始关注非凸问题的交替方向法的收敛性及收敛速率.对于凸优化问题中的ADMM算法,当目标函数为两块时,交替方向法是收敛的.然而,对于目标函数为多块可分凸优化问题,有反例可说明直接推广到交替方向法是发散的,学者从两个不同的侧面对多块问题进行了研究:一是给出多块凸优化问题直接推广的ADMM算法收敛的充分条件,二是对算法进行”简单”修正,在经典算法的条件下保证其收敛性.最近,Sun,Toh,Yang在[36]中提出了一种变形的交替方向法去求解一类特殊的三块可分凸优化问题,证明该算法的收敛性.对非凸问题,Guo,Han,Wang,Wu在[17]中研究了多块可分非凸优化问题,在假设目标函数满足Kurdyka-Lojasiewicz不等式的条件下,证明交替方向法的收敛性并分析了收敛速率。结合[36]及[17]的结果,本文针对含有二次项的三块可分非凸优化问题,进行算法设计和收敛性分析的研究.首先,提出类似[36]的半定临近交替方向法.在假设目标函数满足Kurdyka-Lojasiewicz不等式的条件下,证明该变形的交替方向法产生的迭代序列收敛到原问题的稳定点.进一步地,证明在Kurdyka-Lojasiewicz不等式参数满足一定条件下,分析了算法的线性收敛速率.

关键词：可分凸优化问题交替方向法非凸优化问题 Kurdyka-Lojasiewicz不等式全局收敛线性收敛速率

来源：评论

学校读者我要写书评

暂无评论

预测-校正格式的高效多块ADMM算法研究

预测-校正格式的高效多块ADMM算法研究

引用

作者：左延年南京财经大学

学位级别：硕士

交替方向乘子算法(ADMM)是解决可分凸优化问题的简单方法,尤其在解决大规模问题上卓有成效,利用ADMM算法可以降低原问题的维度,加快问题的求解速度,并且并行解决子问题以获取闭式解.然而对于多块问题,即块数大于3块变量问题来说,虽然可... 详细信息

交替方向乘子算法(ADMM)是解决可分凸优化问题的简单方法,尤其在解决大规模问题上卓有成效,利用ADMM算法可以降低原问题的维度,加快问题的求解速度,并且并行解决子问题以获取闭式解.然而对于多块问题,即块数大于3块变量问题来说,虽然可以利用高斯赛德尔形式或者雅可比形式直接扩展ADMM的迭代格式,但是研究表明:在没有额外条件下或者对子问题没有修正的情况下,无法确保算法的收敛性.又因为多块问题模型在深度学习,信号/图像处理等领域的广泛应用,基于ADMM算法研究求解多块问题的新算法很有必要.因此,本文介绍了多块ADMM算法的构成模式:校正策略、修正策略,并且对于不同的策略模式都给出了实例.此外,基于实例的启发提出了三种新的优化算法模型来解决多块可分凸优化问题.除了提出新的模型外,我们对算法的收敛性在理论上和数值上都加以证明,通过解决线性约束二次规划问题和鲁棒主成分分析问题更加直接的显示了算法在收敛速度以及解的精确度方面的优势.基于修正严格收缩Peaceman–Rachford分裂算法(SC-PRCM),提出两种形式的修正邻近对称ADMM算法(MPSADMMs).在MPSADMMs算法中,除了第一个子问题外,剩余子问题都添加了邻近项,且拉格朗日乘子更新两次.除此之外,在每一次迭代更新结束后,通过一个简单的校正项对序列进行校正.通过分析算法框架,MPSADMMs算法还是许多高效算法的推广,例如:HTY、GSADMM和TADMM,具有更好的模型适应性.除了研究算法框架外,在一般情况下证明了算法的收敛性,且呈现了MPSADMMs算法的收敛率.又基于戴等人提出的拉格朗日乘子序列更新算法(SUSLM),通过在更新表达式中对决策变量引入两个控制因素提出松弛SUSLM算法(SUSLMR).该算法的拉格朗日乘子在每次迭代更新步中更新数次,并且添加校正项以确保算法的收敛性.

关键词：可分凸优化问题多块交替方向乘子法邻近项算法拉格朗日更新序列

来源：评论

学校读者我要写书评

暂无评论

一种带有投影校正步的部分并行分离方法

引用

重庆工商大学学报（自然科学版） 2016年第6期33卷 36-40页

作者：徐灵重庆师范大学数学科学学院重庆401331

为了解决带有线性约束的可分凸优化问题,提出了一种带有投影校正步的部分并行分离方法,该方法在预测步中充分利用了目标函数可分的结构特点,投影校正步的使用,确保了方法的收敛性;最后通过计算数值例子展示了算法的可行性与有效性.

关键词：可分凸优化问题线性约束部分并行分离方法投影校正步

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：