Aug, 2019

Februus: 深度神经网络系统的木马攻击输入净化防御

PDF
TL;DRFebruus 为一种新方法，能够在运行时中立化高度潜在和难以发现的网络 Trojan 攻击，通过对输入进行手术式的去除和重构，Februus 实现了对不符合标准的输入的有效中和，并能够在不需要异常检测方法、模型重新训练或昂贵的标签数据的情况下，操作运行时 Trojaned 输入的处理。
februustrojan attacksdeep neural networkinput sanitizationbackdoor defense
发现论文，激发创造
  • 一种自适应的黑盒防御反对特洛伊攻击（TrojDef）

    本文提出了一种基于预测置信度边界的黑盒防御方法 TrojDef，旨在识别和过滤特洛伊输入，并通过数学分析表明其在防御特洛伊攻击方面优于现有防御方法。

    Sep, 2022

  • 基于扰动敏感性的自然语言处理神经木马检测框架 PerD

    该论文提出了一种基于模型输出偏差分析的模型级神经木马检测框架来检测 NLP 领域的神经木马，并提出了一种轻量级变体以提高检测速度。

    Aug, 2022

  • 深度神经网络中特洛伊攻击的表面简单方法

    本文提出了一种新的训练免费的攻击方法，使用一个小的特洛伊模块（TrojanNet）将恶意特征插入目标模型，该模型通过特殊标记对输入进行标记，并将所有标签注入特洛伊，攻击成功率达到 100％，且不会影响模型在原始任务上的准确性。

    Jun, 2020

  • FreeEagle: 在无数据情况下检测复杂神经木马

    本文提出了一种名为 FreeEagle 的数据免费后门检测方法，可以有效检测深度神经网络上的复杂后门攻击，而不需要任何干净样本或包含触发器的样本，并在不同数据集和模型结构上表现良好。

    Feb, 2023

  • ConFoc: 基于内容焦点的神经网络特洛伊攻击防护

    本文针对深度神经网络在图像应用中受到的特洛伊攻击，提出一种基于内容而非样式的防御技术，通过分析神经网络中样式和内容的学习和识别方式，成功将攻击成功率下降至小于 1％，同时保持和提高模型在良性和对抗性数据处理中的准确性。

    Jul, 2020

  • 通过输入过滤实现有效和强大的神经木马防御

    本文提出了两种新型的防御方法：变分输入过滤（VIF）和对抗输入过滤（AIF），以及一种新的防御机制 “过滤 - 对比”，针对当前危险和隐蔽的特洛伊攻击发展，总结了丰富的实验和剖析研究，证明了基于 VIF/AIF/FtC 的新型防御方法能够在有效净化来自潜在特洛伊触发器的输入的同时，保持高水平分类准确性，并具有出色的鲁棒性。

    Feb, 2022

  • Cassandra: 从对抗扰动中检测木马网络

    本文提出了一种检测预训练模型是否被恶意篡改的方法，该方法通过学习神经网络的参数来捕获其对抗扰动，以检测是否存在后门；同时，本文还提出了一种异常检测方法来确定被感染的网络的目标类别。实验结果表明该方法检测恶意后门的准确率高达 92% 以上。

    Jul, 2020

  • 数据高效后门攻击

    本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

    Apr, 2022

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • 用于打破深度学习后门攻击防御的特洛伊木马训练

    本研究论文介绍了一种新的多目标后门攻击，使用非后门模型作为教师模型解决最小最大优化问题提升攻击模型的性能，不能有效防御后门模型的特定输出的防御机制准确性将降至 0％。

    Mar, 2022