Oct, 2023
联邦学习中背门攻击对抗鲁棒性软化
Adversarial Robustness Unhardening via Backdoor Attacks in Federated Learning
Taejin Kim, Jiarui Li, Shubhranshu Singh, Nikhil Madaan, Carlee Joe-Wong
TL;DR在数据驱动的背景下，保护用户隐私与释放数据潜力之间的微妙平衡成为一个重要关注点。联邦学习作为一种能够在不共享数据的情况下进行协同模型训练的隐私中心解决方案逐渐崭露头角。本研究通过对恶意攻击与后门攻击在联邦学习中的相互作用进行调查，引入了 Adversarial Robustness Unhardening（ARU）。ARU 是一种被某一部分攻击者使用的方法，通过在分散的训练过程中故意破坏模型的健壮性，使其容易受到更广泛的逃避攻击。我们进行了大量的实证实验，评估了 ARU 对抗性训练和现有的抵御恶意攻击和后门攻击的聚合防御策略的影响。我们的研究结果为提升 ARU 以应对当前的防御措施提供了策略，并突显了现有防御策略的局限性，以增强对抗 ARU 的防御能力。