检索结果-内蒙古大学图书馆

西南大学学报（自然科学版） 2022年第1期44卷 99-107页

作者：朱小梅李觉友重庆师范大学数学科学学院重庆401331 重庆两江新区博雅小学校重庆401121

针对在线分布式优化中一类损失函数梯度信息获取困难的问题,提出一种基于Bandit反馈的在线分布式镜面下降(ODMD-B)算法.首先,推广在线分布式镜面梯度下降(ODMD)算法到免梯度的情形,提出了一种新的仅利用函数值信息来对梯度进行估计的方... 详细信息

针对在线分布式优化中一类损失函数梯度信息获取困难的问题,提出一种基于Bandit反馈的在线分布式镜面下降(ODMD-B)算法.首先,推广在线分布式镜面梯度下降(ODMD)算法到免梯度的情形,提出了一种新的仅利用函数值信息来对梯度进行估计的方法即Bandit反馈,其关键在于利用损失函数值信息逼近梯度信息,能有效克服梯度信息难以获取或计算复杂的困难.然后,给出算法的收敛性分析.结果表明算法的收敛速度为O(T),其中T是迭代次数.最后,使用投资组合选择模型进行了数值仿真实验.实验结果表明,ODMD-B算法的收敛速度与已有的ODMD算法的收敛速度接近.对比ODMD算法,本文所提出算法的优点在于仅仅使用了计算花费较小的函数值信息,使其更适用于梯度信息难以获取的优化问题.

关键词：在线学习分布式优化镜面下降算法 Bandit反馈 Regret界

来源：评论

学校读者我要写书评

暂无评论

基于无梯度的分布式镜面下降算法

引用

湖北民族大学学报（自然科学版） 2020年第4期38卷 432-436页

作者：朱小梅杨婷重庆师范大学数学科学学院重庆401331

针对梯度信息难以获取的一类强凸分布式优化问题,提出了一种新的无梯度分布式镜面下降算法,并证明了所提算法的收敛性.与现有的分布式镜面下降(DMD)算法相比,该算法仅仅需要函数值的信息,不需要梯度信息.而且该算法能够达到与DMD算法相... 详细信息

针对梯度信息难以获取的一类强凸分布式优化问题,提出了一种新的无梯度分布式镜面下降算法,并证明了所提算法的收敛性.与现有的分布式镜面下降(DMD)算法相比,该算法仅仅需要函数值的信息,不需要梯度信息.而且该算法能够达到与DMD算法相同的收敛速率O(ln(K)/K),其中K是最大迭代次数.同时,该算法适合于更一般的时变有向网络.

关键词：分布式优化镜面下降算法时变有向图强凸优化 Bregman散度

来源：评论

学校读者我要写书评

暂无评论

基于Bandit反馈的分布式在线算法研究

基于Bandit反馈的分布式在线算法研究

引用

作者：朱小梅重庆师范大学

学位级别：硕士

近年来,随着数据规模的增大及其高速流式产生方式的普及,分布式优化算法在理论和应用上都取得了很大的发展。许多基于此框架的算法被设计出来并在实践中成功应用。随着数据规模的爆炸式增长,集中式优化算法因受限于单机的计算瓶颈而难... 详细信息

近年来,随着数据规模的增大及其高速流式产生方式的普及,分布式优化算法在理论和应用上都取得了很大的发展。许多基于此框架的算法被设计出来并在实践中成功应用。随着数据规模的爆炸式增长,集中式优化算法因受限于单机的计算瓶颈而难以求解大规模优化问题。而多机协作的分布式机制可以大大降低单机的计算负担。同时,在分布式网络中,节点之间通过相互协调合作,可以有效地解决智能电网、传感器网络等大规模问题,并能提高数据传递效率,增强网络鲁棒性。但在实际应用中,分布式网络一般都在动态环境下运行,传统的批量学习算法在处理大量数据上十分耗时,而在线学习具有实时更新模型的特点,能够根据数据的变化动态地调整模型,进而可更高效地完成对大量实时数据的处理,且其在机器学习、在线推荐系统和资源分配等方面都有着重要的应用价值。然而在实际情况中,梯度信息无法直接获取或者难以获取的这类优化问题在分布式在线优化中占有非常重要的地位,因此研究此类问题具有至关重要的意义。本文主要考虑一类分布式在线优化问题的相关算法及其收敛性结果,本文其余部分安排如下:第1章,介绍了本文所需要的相关背景知识,并简单概述了本文的主要研究内容及创新之处。第2章,考虑在无向图下,对于一类梯度难以获取或无法获取的分布式在线优化问题,即Bandit问题。利用Bandit反馈技术,设计出该问题的Bandit分布式在线算法,并给出相关收敛性分析,同时通过数值模拟实验证明该算法是有效的。第3章,考虑在有向图下,对于现有分布式在线算法不允许应用于一些基于传播的网络的Bandit问题。利用Bandit反馈技术和行随机性质,设计出该问题的算法,并给出相关收敛性分析。最后给出了数值算例证明该算法的有效性。第4章,考虑在时变有向图下,对于现有分布式在线算法在动态的通信图的场景无法处理的Bandit问题。利用Bandit反馈技术和时变行随机性质,设计出该问题的算法,并给出相关收敛性分析。最后通过数值实例证明该算法是有效的。第5章,对本文的研究进行总结并对后续的研究工作做出了展望。

关键词：多智能网络分布式优化在线优化镜面下降算法对偶平均算法 Bregman散度 Bandit反馈光滑化函数

来源：评论

学校读者我要写书评

暂无评论

基于随机量化的多智能体分布式凸优化算法

引用

曲阜师范大学学报(自然科学版) 2024年

作者：熊梦辉张保勇袁德明南京理工大学自动化学院

该文研究了时变平衡网络图中带有状态约束的多智能体分布式凸优化问题.针对网络通信能力受限的情况,在智能体的信息交互过程中引入了随机量化器,以有效减少数据传输量.在此基础上,提出了一种具有随机量化通信的分布式镜面下降算法,并在... 详细信息

该文研究了时变平衡网络图中带有状态约束的多智能体分布式凸优化问题.针对网络通信能力受限的情况,在智能体的信息交互过程中引入了随机量化器,以有效减少数据传输量.在此基础上,提出了一种具有随机量化通信的分布式镜面下降算法,并在常规假设条件下证明了其收敛性,同时给出了具体的收敛速度.最后,以分布式线性回归问题为仿真算例,验证了所设计算法的可行性.

关键词：分布式凸优化镜面下降算法随机量化

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：