Jan, 2024

图像和时间序列的端到端反后门学习

PDF
TL;DR本研究针对深度学习模型中的后门攻击问题，提出了一种创新的方法 —— 端到端反后门学习（End-to-End Anti-Backdoor Learning，E2ABL），通过在深度神经网络（DNN）的浅层连接一个额外的分类头，主动识别潜在的后门触发器并在训练过程中动态清除这些样本及其对应的标签，从而实现对后门攻击的强大训练防御。实验证明，E2ABL 在图像和时间序列领域中显著提升了现有的防御效果，对广泛的后门攻击都具有很好的效果。
backdoor attacksdeep learning modelsend-to-end traininganti-backdoor learningrobust training
发现论文，激发创造
  • 反后门学习：在注入恶意数据后训练干净模型

    本文提出一种名为反后门学习 (Anti-Backdoor Learning, ABL) 的方法，实现了在数据中注入后门的情况下对深度神经网络进行防御。采用两个阶段的梯度上升机制对数据进行处理，这样训练出的模型可以与只使用纯净数据训练的模型一样优秀。

    Oct, 2021

  • 深度学习中绕过后门检测算法

    本文提出了一种对抗性的植入算法，可以绕过现有的包括最先进技术在内的检测算法，呼吁设计对抗感知的防御机制来检测后门攻击。

    May, 2019

  • 序列到序列模型下的后门学习

    本文针对输出空间无限离散的 seq2seq 模型做了后门攻击的研究，发现只需注入 0.2% 的样本，即可成功使模型生成指定关键词和完整句子，使用 Byte Pair 编码技术可以创建多个新的后门，通过机器翻译和文本摘要的实验验证了该方法攻击成功率超过 90%。

    May, 2023

  • 通过解耦训练过程进行后门防御

    该论文研究发现深度神经网络易受后门攻击影响，通过自监督学习和半监督微调等方法提出了一种解决方案，通过将原来的训练过程分解成三个阶段，有效地减轻了后门攻击带来的威胁。

    Feb, 2022

  • RAB: 防篡改攻击的可证明鲁棒性

    本研究提出了通过随机平滑技术来确保深度神经网络对于各种威胁模型的健壮性，同时证明了所提出的健壮性训练过程的健壮性边界，并在 MNIST、CIFAR-10 和 ImageNette 数据集上进行了可靠性评估，该研究成果有助于更强大的机器学习模型的开发。

    Mar, 2020

  • 对一类序列异常检测模型的后门攻击

    探索深度序列异常检测模型的后门攻击策略，通过生成触发器和注入后门触发器，有效地破坏现有异常检测模型。

    Feb, 2024

  • BaDExpert：提取后门功能以准确检测后门输入

    我们提出了一种针对深度神经网络 (DNNs) 的后期开发防御新方法，用于对抗恶意背后进攻，该方法通过一种新颖的反向工程方法，可以直接从给定的感染模型中提取出背后功能，并将其重建成仅能识别背后输入的模型。我们称之为背后专家模型。我们的防御方法在多个数据集和模型架构上经过验证，有效地减轻了 16 种最先进的背后进攻。

    Aug, 2023

  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021

  • 用于二分类和多攻击场景的后训练后门攻击检测

    本文提出了一种基于反向工程和期望可转移性统计量的检测框架，旨在解决在无法访问分类器的训练集和其他清洁参考分类器的情况下检测深度神经网络分类器遭受后门攻击的问题，该框架能够在多个数据集上取得非常优异的表现，且适用于具有多个攻击的多类情况。

    Jan, 2022

  • 机器学习模型的动态后门攻击

    本研究提出了一种针对深度神经网络的动态后门技术，该技术具有随机模式和位置，其生成的触发器降低了当前后门检测机制的有效性，可很好地规避当前防御后门攻击的最先进机制，并在 MNIST、CelebA 和 CIFAR-10 数据集上取得了几乎完美的攻击结果，极小化实用性损失。

    Mar, 2020