网络分布式优化与学习的扩散自适应策略
本文介绍了利用扩散策略开发分布式算法解决多任务问题的方法,通过最小化适当的均方误差标准和 L2 正则化共同推断在网络覆盖区域内需要推断的多个最佳参数向量。在本文中,分析了算法在平均值和均方误差意义下的稳定性和收敛性,并进行了模拟以验证理论发现,同时还说明了网络内应用于光谱感应、目标定位和高光谱数据分离的几种有用应用程序。
Nov, 2013
本文提出了一种基于扩散 LMS 策略的自适应网络分布式估计方法,利用凸正则化增强扩散过程中的稀疏性检测,使网络具备学习能力和实时学习稀疏结构的能力,并演示了该方法在稀疏数据恢复方面的优势。
Jun, 2012
本文探讨如何通过协作和学习代理的网络以分布式方式解决多目标优化问题,提出了一种基于自适应扩散策略的分布式解决方案,并研究了代理人收敛于 Pareto 最优解以及其与不动点之间的关系,为金融领域中代理人网络的协作决策提供了一个应用实例。
Aug, 2012
本文提供了一种解决异步网络上多任务问题的模型,它采用多任务扩散 LMS 算法以协作的方式同时推断多个参数向量,并描述了详细的均方误差分析,该算法在充足步长的条件下保证稳定和性能,并将其应用于光谱感知的特定应用中。
Dec, 2014
本文研究了扩散 LMS 算法在多任务环境下的表现,在单任务假设不成立时,提出了一种无监督聚类策略,能让节点选择邻居并协作估计共同参数向量,在多目标跟踪任务中得到了应用。
Apr, 2014
通过对聚合优化问题进行罚函数改进和递增构造,本文开发了一种分布式优化策略,该策略以精确收敛为保障,适用于广泛的左随机组合策略,并且在 Part II 中展示出比 EXTRA 策略更宽阔的稳定性范围和更优的收敛性能,并且适用于非对称的左随机组合矩阵。
Feb, 2017
该研究提出了一种分布式算法,用于非线性自适应学习,基于扩散的 KLMS 机制以 Adapt Then Combine 模式协作,实现最小化成本函数的目标,实验证明该算法优于其他 LMS 变体。
Feb, 2016
本文介绍了一种基于数据的方法,用于学习适应底层网络拓扑特征的类特定扩散函数,从而改善扩散分类器的性能并提高分类准确性,超过了依赖于节点嵌入和深度神经网络的最先进方法。
Apr, 2018
采用扩散策略,将全分布式协作强化学习算法应用于分布式网络,实现仅与直接相邻的智能体通信以改进他们对环境的预测能力,具有线性计算时间和内存占用的高效分布式策略,可应用于离线学习和连续学习,以减少预测误差的偏差和方差,实现全局最优解的学习。
Dec, 2013
我们提出了一个分布式优化的离散时间模型,适用于具有动态有向图的连续时间分布式学习,并消除了对链接进行随机权重设计的需求,通过共识算法、矩阵扰动理论和 Lyapunov 理论,我们证明了梯度跟踪步长和离散时间步长的收敛性和动态稳定性,该工作在链接删除或数据丢失的情况下改善了现有随机权重无向网络的性能,而无需重新运行耗时和计算复杂的算法。该提出的优化框架在分布式分类和学习中具有应用价值。
Nov, 2023