基于提示的方法在连续学习中为数据隐私问题提供了前沿解决方案，但在面向多个数据提供方且禁止长期存储私人用户数据的情景中，其出色的记忆能力可能成为双刃剑，因为它可能在从私人用户数据中学习时无意识地保留注入的有毒知识。本文针对这一问题，揭示了连续学习面临的一个潜在威胁：后门攻击，该攻击在特定触发器存在时驱动模型追随预设的对抗目标，在处理干净样本时依然表现正常。我们指出了对增量学习者执行后门攻击面临的三个关键挑战，并提出相应的解决方案：（1）可传递性：我们使用一个替代数据集，并操纵提示选择，将后门知识转移到其他数据提供方的数据上；（2）弹性：我们模拟受害者的静态和动态状态，确保后门触发器在强烈的增量学习过程中保持稳健；（3）真实性：我们应用二元交叉熵损失作为反作弊因素，防止后门触发器退化为对抗性噪声。大量的实验验证了我们的连续后门框架，在各种基准数据集和连续学习者上取得了高达 100％的攻击成功率，进一步的消融研究证实了我们贡献的有效性。

Jun, 2024

该论文研究了基于深度学习的认证系统对于后门攻击的脆弱性，特别是通过数据注入的后门攻击，通过注入极少的毒数据，攻击者可以成功实现攻击，进而窃取敏感信息，从而为后续研究防御策略提供了研究价值。

Dec, 2017

本文系统评估了包括触发器模式、回归技术、模型体系结构及数据集在内的不同实验条件，并研究后门数据污染攻击的成功率及其可被检测的难度。

Apr, 2020

该研究探讨了对于基于无监督大规模未标注数据的自监督学习方法的后门攻击，提出了通过知识蒸馏的防御方法，并在实验中取得了成功。

May, 2021

对于机器学习中的黑门攻击，本文通过建立性能的上下界限来评估任何包含恒定触发器的黑门攻击的有效性，回答了一系列基本但以前未被充分探讨的问题，包括黑门攻击成功的决定因素、最有效的黑门攻击方向以及人类难以察觉的触发器何时会成功。该理论适用于判别模型和生成模型，并通过使用基准数据集和最先进的黑门攻击场景进行实验来证明该理论。

Oct, 2023

该研究对针对深度神经网络的后门攻击进行了全面的调查，总结和分类现有的后门攻击和防御方法，并提供了分析基于攻击方法的中毒后门攻击的统一框架，并分析了后门攻击与相关领域（如敌对攻击和数据污染）的关系，同时总结了广泛采用的基准数据集。

Jul, 2020

本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

Apr, 2022

本文介绍了一种特定类型的数据投毒攻击，即后门注入攻击，讨论了攻击者注入后门到深度学习模型中的方法，并提出了两种在不削弱受害者模型有效性的情况下，难以察觉但能实现模型毒化的后门生成方法。我们进行了广泛的实验评估，并证明即使在最弱的攻击者模型下，这种攻击可以在小的注入率（约为 1％）条件下实现高达 90％以上的攻击成功率。

Aug, 2018

本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

Feb, 2020

通过使用适当的数据增强手段，自主训练能够在缓解后门攻击中扮演重要角色。

Jan, 2023