Oct, 2023
理解联邦学习中的对抗迁移
Understanding Adversarial Transferability in Federated Learning
Yijiang Li, Ying Gao, Haohan Wang
TL;DR我们研究了一个新颖而实用的情境中的弹性和安全问题：一组恶意客户端通过伪装身份和表现为良性客户端，在训练期间对模型造成影响，并且在训练之后揭示他们的对手位置以进行可转移的对抗攻击，这些数据通常是 FL 系统训练时使用的数据子集。我们的目标是全面了解 FL 系统在这种实际情境中面临的挑战，包括各种配置。我们注意到这种攻击是可能的，但是与其在干净图像上的准确度相当时，联邦模型比其集中式对应物更为稳健。通过我们的研究，我们假设这种稳健性来自两个因素：分布式数据上的分散训练和平均操作。我们从实证实验和理论分析的角度提供证据。我们的工作对于理解联邦学习系统的稳健性具有意义，并对联邦学习应用提出了实际问题。