我们提出了 P2PL 算法，它是一种实用的多设备对等深度学习算法，不需要边缘服务器或云端的协调，适用于超过 5G 计算环境（如智能城市）中的规模、延迟、带宽和单点故障问题，并通过最大范数同步、设备上的深度模型训练保护隐私、本地设备间通信实现分布式一致性。通过实验证明，即使使用 100 台设备和松散的随机一致性权重，所有参与设备都能达到联邦和集中式训练所达到的相同测试性能，并将这些实验结果扩展到具有多样化网络拓扑、稀疏和间歇通信以及非 IID 数据分布的环境中。

Oct, 2023

本文提出了一种高效的分散式（点对点）和异步算法来解决个性化模型的学习，同时满足强隐私要求，并证明了它的收敛速率。我们展示了如何使算法往常差异保持私密以保护个人数据集的信息披露，并正式分析了效用和隐私之间的权衡。实验结果表明，在非私密约束下，我们的方法大大优于以前的工作，在隐私约束下，我们可以显著改进在独立学习中得到的模型。

May, 2017

本文对联邦学习进行了拓展，提出了并行连续学习 (PSL)，利用 PSL 的框架，实现了从三个方面的拓展：网络（通过设备之间的设备对设备通信进行分散合作），异构性（考虑到训练设备之间的数量、数据来源和性能差异），以及接近度（设备之间不同的距离和不同的访问点）。PSL 实现了模型的分散和本地模型凝聚作为联邦学习方法的一部分，并提出了网络感知动态模型跟踪以优化模型学习和资源效率之间的权衡。

Feb, 2022

通过开发 P4（Personalized Private Peer-to-Peer）方法解决个性化学习中的客户聚类和数据隐私的挑战，保证每个客户在培训期间和培训后维护不同的隐私保证，并在多个基准数据集和不同的神经网络模型上展示了相对于差分隐私 P2P 技术的高达 40％的精确度提高。

May, 2024

本文提出了一种在节点网络中训练机器学习模型的完全去中心化框架，其中节点通过在模型参数空间上引入信念的贝叶斯式方法，通过聚合来自其一跳邻居的信息进行更新其信念以在整个网络上学习最适合观察的模型的分布式学习算法，同时获得确保每个节点的误差概率很小的充分条件和讨论了应用此算法训练深度神经网络（DNNs）所需的近似，实验证明与节点学习无合作的情况相比，所提出的学习规则算法提供了显着的精度改进。

Jan, 2019

一种考虑了分散式机器学习和数据保护的联邦学习方式，通过构建本地图和局部连接来训练个人的、个性化的非线性模型，实现了低通讯成本和对数据的隐私保护。

Jan, 2019

个性化联邦学习（PFL）在每个客户端寻找最优个性化模型，我们提出了一种分布式的个性化联邦学习（DPFL）框架，通过引入随机梯度推送和部分模型个性化，实现了线性分类器的个性化，达到了更好的收敛速度。

May, 2024

使用强化学习的方法，在无监督的分布式机器学习环境中创建一个最优化的数据传输图，以提高收敛速度和对故障的鲁棒性。

Feb, 2024

本文提出了一种新颖的协议，用于安全的（拜占庭容错）分散式训练，强调通信效率。

Jun, 2021

通过将无服务器计算与点对点网络相结合，提出了一种在资源限制下实现高效并行梯度计算的新型架构，相比传统的点对点分布式训练方法，在梯度计算时间上取得了显著提升，同时也引入了更高的成本。

Sep, 2023