分布式学习是机器学习中一种新颖的范例，通过在客户端之间分发训练数据而不进行集中聚合来提升可扩展性和效率。本文提出了三种基于秘密共享的抗丢失模型的隐私保护方法，通过在多个数据集上进行实验评估了这些方法的效率、性能和准确性。实验结果表明，我们的方法在保护隐私和抵御客户端丢失的场景中表现显著优于传统方法，尤其适用于大型模型、较高的丢失率和复杂的客户端网络。

Apr, 2024

联合考虑分布式学习中的隐私保护和拜占庭健壮性，研究了一种隐私保护和拜占庭健壮的分布式随机梯度下降框架，采用高斯噪声进行隐私保护，并采用鲁棒聚合规则来对抗拜占庭攻击，分析了其学习误差和隐私保证，发现分布式学习中隐私保护和拜占庭健壮性之间存在基本的权衡关系，并通过数值实验验证了理论发现。

Aug, 2023

本文提出了一种基于稳健随机模型聚合的差分隐私机制，解决了联邦学习中的差分隐私和拜占庭容错性问题，并分析了隐私保护和学习性能之间的权衡关系。

Apr, 2022

我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。

Jun, 2024

本文提出了一种解决联邦学习中隐私和拜占庭容错性的算法，通过使用差分隐私随机梯度下降算法保护隐私，并应用拜占庭容错算法，最终实现高精度和拜占庭攻击的抵抗。

Apr, 2023

提出了基于差分隐私机制的稀疏化和动量驱动的方差减少方法，以防御拜占庭攻击，并保证演算法的客户端隐私保障。通过与现有方法的比较实验证明了该框架提高了系统的强韧性，并取得了较强的隐私保证。

Sep, 2023

分布式学习面临隐私泄露的问题，本论文引入了一种新的安全聚合协议 CESAR，通过与现有的稀疏化机制相兼容，提高了通信效率，同时对抗恶意和好奇的对手。实验证明 CESAR 在并行随机梯度下降中保持很高的准确性，而仅增加 11% 的数据开销，并在独立同分布数据上优于 TopK 法达到最多 0.3% 的准确度提升。

May, 2024

介绍了 ZIP-DL 这一创新的隐私保护分散式学习算法，通过在模型训练过程中添加相关噪声的方法来确保噪声在聚合过程中几乎自动中和，最小化对模型准确性的影响；ZIP-DL 不需要多次通信来进行噪声抵消，解决了隐私保护和通信开销之间的常见权衡问题，并提供了收敛速度和隐私保证的理论保证，从而使其适用于实际场景；详尽的实验研究表明，ZIP-DL 在漏洞性和准确性之间取得了最佳平衡，特别是相比基线 DL，(i) 将可链接性攻击的有效性降低了最多 52 个百分点，并且 (ii) 在面对针对隐私保护竞争对手的成员推断攻击时，相同漏洞下的准确性提高了最多 37 个百分点。

Mar, 2024

本文提出了一种新颖的协议，用于安全的（拜占庭容错）分散式训练，强调通信效率。

Jun, 2021

该论文提出了一个在混淆模型下更高效的隐私安全的聚合协议，可以使得通信量和误差只呈对数级增长，并且采用了一个称为 ' 隐身斗篷 ' 的新技术来实现此目的，该技术可以使得每个数据项与噪声几乎不可区分，同时对总和不会造成任何扭曲。

Jun, 2019