Oct, 2022

重新思考特洛伊木马触发器的逆向工程

PDF
TL;DR本文研究发现特征空间平面与输入空间约束都涉及特征空间 Trojans, 并利用这一发现设计了新的逆向工程方法来防卫其攻击。结果表明，该方法在 Trojan 模型检测和缓解任务方面都比现有的逆向工程方法和其他防御类型表现更好，平均检测精度达到 93％，缓解成功率可降低到 0.26％，无害精度几乎不变。
发现论文，激发创造
  • 基于拓扑先验的特洛伊木马检测触发器探测

    探讨如何检测 DNN 在受到 Backdoor 攻击后的 Trojan，提出新颖的优先条件，如多样性和拓扑简单性，来增加发现合适触发器的可能性和改善触发器的质量，从而有效地提高了 Trojan 进行检测的准确性。

    Oct, 2021

  • 通过受控脱毒实施的神经网络深度特征空间木马攻击

    本研究提出了一种具有五种特征的新型深度特征空间特洛伊攻击方法，包括有效性、隐秘性、可控性、鲁棒性和依赖于深度特征，在 9 个图像分类器上进行了广泛实验，并证明了该攻击可以规避最先进的防御措施。

    Dec, 2020

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • 用于打破深度学习后门攻击防御的特洛伊木马训练

    本研究论文介绍了一种新的多目标后门攻击，使用非后门模型作为教师模型解决最小最大优化问题提升攻击模型的性能，不能有效防御后门模型的特定输出的防御机制准确性将降至 0％。

    Mar, 2022

  • 深度神经网络中特洛伊攻击的表面简单方法

    本文提出了一种新的训练免费的攻击方法，使用一个小的特洛伊模块（TrojanNet）将恶意特征插入目标模型，该模型通过特殊标记对输入进行标记，并将所有标签注入特洛伊，攻击成功率达到 100％，且不会影响模型在原始任务上的准确性。

    Jun, 2020

  • 神经木马

    本文研究了神经网络知识产权的安全，提出三种缓解技术：输入异常检测，重新训练和输入预处理，证明了这些技术的有效性。

    Oct, 2017

  • 重新思考后门攻击的触发条件

    该论文研究了针对深度神经网络的后门攻击，并提出了通过改变触发器来防御后门攻击的方法。

    Apr, 2020

  • 通过校正神经激活分布进行后门缓解

    这篇论文揭示和分析了后门攻击的一个重要特性：成功攻击会导致后门触发实例的内部层激活分布发生改变，与干净实例的分布不同。基于这一观察，作者提出了一种高效和有效的方法，通过使用逆向工程的触发器来纠正分布变化，从而实现后期训练的后门缓解。该方法不会改变 DNN 的任何可训练参数，但与需要大量 DNN 参数调整的现有方法相比，其缓解性能普遍更好。它还能有效检测带有触发器的测试实例，可以帮助及时发现恶意攻击者对后门进行利用。

    Aug, 2023

  • 基于扰动敏感性的自然语言处理神经木马检测框架 PerD

    该论文提出了一种基于模型输出偏差分析的模型级神经木马检测框架来检测 NLP 领域的神经木马，并提出了一种轻量级变体以提高检测速度。

    Aug, 2022