ICMLJun, 2022

神经毒素：联邦学习中的持久后门

PDF
TL;DR本文提出一种新的方法 Neurotoxin, 用于对联邦学习系统中的后门攻击进行对抗，它可以攻击在训练过程中变化较小的参数，使得攻击可以更加持久。对十个自然语言处理和计算机视觉任务进行了全面评估，发现该方法可以使最新的后门攻击持久性提高两倍。
federated learningadversarial attacksbackdoor attacksneurotoxinnatural language processing
发现论文，激发创造
  • 攻击尾部：是的，你真的可以破解联邦学习

    通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

    Jul, 2020

  • 用触发优化的数据毒化在联邦学习中隐藏后门模型更新

    DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

    May, 2024

  • 关于联邦学习后门防御漏洞的研究

    本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

    Jan, 2023

  • 远程消除后门：去除联邦学习中的痕迹

    该文提出了一种基于机器遗忘的方法，使得攻击者可以有效地去除联邦学习中注入的后门，该方法在保证集中模型性能的同时，防止不相关信息的过度遗忘，并通过图像分类方案的全面评估证明了其在多种攻击情境下有效去除后门。

    Apr, 2023

  • 时间分布的后门攻击对联邦脉冲学习的影响

    该研究探讨了脉冲神经网络（SNNs）和联邦学习（FL）在使用神经形态数据时受到后门攻击的脆弱性。研究发现，尽管 SNNs 的效率和 FL 的隐私优势使其在低功率设备上具有潜力，但这些系统容易受到此类攻击。研究采用了针对 SNNs 和 FL 定制的新型攻击策略，通过在时间和恶意设备之间分布后门触发器来增强攻击的有效性和隐蔽性，进一步证明了在部署 SNNs 和 FL 时需要稳健的安全措施。

    Feb, 2024

  • 连续训练下的联邦后门攻击防御

    通过训练两个模型，其中一个不带任何防御机制，另一个结合恶意客户过滤和提前停止以控制攻击成功率，我们提出了防御联邦学习背门攻击的框架 ——“阴影学习”。该框架在理论上受到了证明，并且实验证明了它显著改善了现有的防御措施。

    May, 2022

  • 如何后门联邦学习

    本文论述了联邦学习的安全问题，指出任何参与者都可以在联邦学习中引入隐藏的后门功能，进而设计了基于替换模型和泛化约束的攻击方式。这种攻击方法可以在短时间内使全局模型对后门任务达到 100％的准确率，并可通过对抗损失函数规避检测方法。

    Jul, 2018

  • 使用稳健的学习速率防御联邦学习中的后门

    本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

    Jul, 2020

  • 深谋远虑：预测他人行动在联邦学习中提升后门攻击

    在联邦学习中，我们提出了一种利用攻击者对未来其他客户端的行为，实现后门快速生效并且持续存在的攻击方法，该攻击方法适用于图像分类、下一个单词预测和情感分析等应用。

    Oct, 2022

  • 技术报告：基于全体群体知识对齐协助后门联邦学习

    本文提出一种利用联邦学习（FL）模型信息泄漏强化早期注入的单次后门攻击的方法，即在 FL 模型收敛时注入后门攻击。作者提出了一个两阶段后门攻击，通过预备阶段对本地数据进行分布推断攻击并基于推断结果制定本地数据集，以及在注入后门攻击时根据 FL 模型信息泄漏进行调整，提高攻击的持久性和成功率。在 MNIST 数据集上进行的广泛实验表明，该方法不仅能够绕过防御机制，而且在成功率和持久性方面都比现有的后门攻击更具优势。

    Jul, 2022