本文介绍了一种分布式学习算法 —— 去中心化单环梯度上升 / 下降算法（AD-GDA），以解决设备之间数据分布不均导致合作训练模型性能下降的问题，并采用压缩共识方案提高通信效率，并给出了平滑凸和非凸损失函数的收敛性保证。

May, 2022

本研究旨在研究分布式在线学习在拜占庭攻击下的表现。通过使用一类最先进的强健合并规则，我们证明，即使在存在 byzantine 参与者和对抗性环境下，分布式在线梯度下降也只能实现线性对抗性后悔界限，并且我们可以将线性对抗性后悔的常数控制在合理水平。有趣的是，当环境不是完全对抗性时，我们展示了亚线性随机后悔的可能性，采用了一种拜占庭式强健分布式在线动量算法来实现。

Jul, 2023

研究在图形上进行分散敌对训练以提高多智能体系统的鲁棒性。通过使用传播学习的 min-max 形式，我们开发了一种分散的敌对训练框架，在凸和非凸环境中分析了所提出方案的收敛性，并说明了对抗攻击的增强鲁棒性。

Mar, 2023

研究了去中心化的多智能体强化学习算法，引入了对抗性智能体对共识更新的漏洞，并提出了一种算法，使得非对抗性智能体在受限制的情况下达成共识。

May, 2023

本文介绍了针对网络中的图形数据处理的分散式学习算法，通过 ADMM 迭代最小化来得到所需的并行程度，并通过案例研究阐明了分散式学习框架对于当代无线通信和网络任务的影响。

Mar, 2015

提出了一种针对标签翻转攻击加固联邦学习系统的先进方法，该方法通过集成自适应阈值的简化一致性验证过程，提供了与分布式学习环境实时需求相适应的精炼的异常检测层，使参与客户必须达成多数共识以验证更新，确保只有经过审核和共识的修改应用于全局模型，验证实验证明了该方法显著减少了标签翻转攻击，增强了联邦学习系统的恢复能力，该方法通过结合类似区块链的参与式验证的验证层，超越了依赖异常检测或统计验证的传统技术，而无需产生与密码学相关的开销，我们的方法创新之处在于在加强安全措施与联邦学习系统的固有限制（如计算效率和数据隐私）之间取得最佳平衡，为更安全、强大和可信赖的分布式机器学习应用铺平了道路，其中数据完整性和模型鲁棒性的保护至关重要。

Mar, 2024

本文讨论了基于网络化多智能体系统的分散在线凸优化，并提出了一种新的算法 —— 学习增强的分散式在线优化（LADO），使个体代理人仅基于本地在线信息选择动作。与现有的集中式学习增强在线算法形成鲜明对比，LADO 实现了分散式设置下的强大的鲁棒性保证。我们还证明了 LADO 的平均成本限制，揭示了平均性能和最坏情况下鲁棒性之间的权衡，并表明通过明确考虑鲁棒性要求来训练 ML 策略的优势。

Jun, 2023

提出了一种基于总变差正则化的适应于拜占庭攻击的随机子梯度优化算法，在去除拜占庭代理的情况下达到了最优解附近，并且在数值模拟实验中表现出优越的性能.

May, 2020

本文针对分布式学习中的安全问题，提出了基于中位数和截尾均值运算的两种鲁棒性分布式梯度下降算法，并证明了这些算法在强凸、非强凸和光滑非凸损失函数下均能达到次优统计误差率，并且进一步提出了一种基于中位数的分布式算法，可在一轮通信下达到与鲁棒性分布式梯度下降算法相同的最优误差率，实现更好的通信效率。

Mar, 2018

本文提出了一种新的稳定对抗学习（SAL）算法，该算法利用异质数据源构建了更实用的不确定性集，并根据协变量与目标的稳定性进行差异化的鲁棒性优化，理论上表明我们的方法适用于随机梯度下降优化，并为我们的方法提供了性能保证。在模拟和实际数据集上的实证研究验证了我们的方法在未知分布转移方面的均匀优秀性能。

Jun, 2021