网络上的多任务扩散适应

Nov, 2013

Multitask Diffusion Adaptation over Networks

Jie Chen, Cédric Richard, Ali. H. Sayed

TL;DR本文介绍了利用扩散策略开发分布式算法解决多任务问题的方法，通过最小化适当的均方误差标准和 L2 正则化共同推断在网络覆盖区域内需要推断的多个最佳参数向量。在本文中，分析了算法在平均值和均方误差意义下的稳定性和收敛性，并进行了模拟以验证理论发现，同时还说明了网络内应用于光谱感应、目标定位和高光谱数据分离的几种有用应用程序。

Abstract

adaptive networks are suitable for decentralized inference tasks, e.g., to monitor complex natural phenomena. Recent research works have intensively studied distributed optimization problems in the case where the

adaptive networks decentralized inference distributed algorithms multitask problems mean-square error criterion

发现论文，激发创造

网络分布式优化与学习的扩散自适应策略

我们提出了自适应扩散机制，以分布式方式优化全局代价函数，并将其应用于分布式估计和定位问题。

Oct, 2011

异步网络中的多任务扩散适应

本文提供了一种解决异步网络上多任务问题的模型，它采用多任务扩散 LMS 算法以协作的方式同时推断多个参数向量，并描述了详细的均方误差分析，该算法在充足步长的条件下保证稳定和性能，并将其应用于光谱感知的特定应用中。

Dec, 2014

多任务网络中的扩散 LMS

本文研究了扩散 LMS 算法在多任务环境下的表现，在单任务假设不成立时，提出了一种无监督聚类策略，能让节点选择邻居并协作估计共同参数向量，在多目标跟踪任务中得到了应用。

Apr, 2014

基于扩散调适的稀疏分布式学习

本文提出了一种基于扩散 LMS 策略的自适应网络分布式估计方法，利用凸正则化增强扩散过程中的稀疏性检测，使网络具备学习能力和实时学习稀疏结构的能力，并演示了该方法在稀疏数据恢复方面的优势。

Jun, 2012

扩散策略下的分布式帕累托优化

本文探讨如何通过协作和学习代理的网络以分布式方式解决多目标优化问题，提出了一种基于自适应扩散策略的分布式解决方案，并研究了代理人收敛于 Pareto 最优解以及其与不动点之间的关系，为金融领域中代理人网络的协作决策提供了一个应用实例。

Aug, 2012

非线性系统建模网络上的适应和学习

本文用于分析分布式情况下的非线性滤波问题，提出了一种针对多任务场景的基于核的算法，并对其进行了模拟基准测试，最后详细说明了目前尚未解决的问题和未来的研究方向。

Apr, 2017

分散式多任务学习的精确子空间传输

该论文提出了一种针对分布式学习的新方法，该分布式学习方法使用多任务学习中的精确扩散算法，可在具有不同目标或数据的代理之间建立关系，而无需强制执行共识机制。经过数值验证表明，该算法表现比基于近似投影的传统算法更好。

Apr, 2023

自适应优化的分布式分数贝叶斯学习

通过分布式自适应优化算法和混合贝叶斯学习以及分布式梯度下降方法，本文研究了在分布式网络中解决参数不确定性和并寻找最优解的问题，并证明了所有代理的信念和决策变量以及最优解的估算都会渐进地收敛到真实参数的结果以及真实参数下的最优解，并在数值实验中验证了理论分析的准确性。

Apr, 2024

分布式优化的双重平均：收敛分析和网络扩展

本文研究了分布式网络中去中心化优化的问题，尤其是基于双重平均子梯度的分布式算法及其收敛速度与网络大小和拓扑结构的关系，同时探讨了算法收敛和网络结构限制之间的关系，并证明了我们算法所需的迭代次数与网络谱隙成反比例关系。

May, 2010

自适应网络上的鲁棒非参数基于知识的扩散最小均方

本研究将非参数知识融入最小均方扩散算法的最大后验估计框架中，提出了一种能够在合作估计器组中鲁棒地估计未知参数向量的算法。通过利用核密度估计和缓冲一些中间估计量，计算每个节点中参数向量的先验分布和条件似然。设计了似然函数使用伪 Huber 损失函数，定义了一个误差阈值函数来减少计算开销并更好地抵抗噪声，当误差小于预定义阈值时停止更新。在存在高斯和非高斯噪声的稳态和非稳态情况下对所提出的算法的性能进行了检验。结果表明，该算法在不同类型噪声存在下具有鲁棒性。

Dec, 2023