Feb, 2023

QTrojan：一种针对量子神经网络的电路后门

PDF
TL;DR提出了一种适用于量子神经网络（QNNs）的电路级后门攻击 - QTrojan，这种攻击通过将少量量子门插入受害 QNN 的变分量子电路来实现，并且比之前的数据污染型后门攻击（DPBA）更加隐蔽。与 DPBA 相比，QTrojan 提高了清洁数据的准确率 21％，攻击成功率提高了 19.9％。
circuit-level backdoor attackquantum neural networksqtrojanvariational quantum circuitdpba
发现论文，激发创造
  • TBT: 基于位木马的有针对性神经网络攻击

    本研究提出了一种新的目标二进制特洛伊（TBT）方法，为实现模型的恶意攻击，通过比特翻转攻击将特定的神经特洛伊插入到深度神经网络中。研究表明，只需利用可用的比特翻转技术（即行锤），翻转几个易受攻击的比特就可以将功能完好的 DNN 模型转化为特洛伊感染的模型，并实现将测试图像的 92％分类到目标类的目的。

    Sep, 2019

  • 内鬼之恶：硬件特洛伊通过机器学习的后门

    本文提出一种全新的硬件加速器中的后门攻击方式，并设计了一个可配置的硬件木马，其中搭载了一个最小化的后门，使得攻击者只需要对少量参数进行更改就可以对深度学习模型做出改变，从而在保证运行效率的同时完全避开了目前防御机制。通过将木马植入 Vitis AI DPU 进行实验，作者成功 ic 证明了这种攻击的可行性与危险性，同时指出了目前硬件加速器中的深度学习模型存在的漏洞和安全问题，为以后的研究和应用提供了重要参考。

    Apr, 2023

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • 量子泄漏：从基于云的 NISQ 设备中窃取量子神经网络

    介绍了 QuantumLeak，一种从基于云计算的 NISQ 机器中提取 QNN 模型的有效准确的技术，相比现有的经典模型窃取技术，QuantumLeak 在各种数据集和 VQC 架构上提高了 4.99%~7.35% 的本地 VQC 准确度。

    Mar, 2024

  • 深度神经网络中特洛伊攻击的表面简单方法

    本文提出了一种新的训练免费的攻击方法，使用一个小的特洛伊模块（TrojanNet）将恶意特征插入目标模型，该模型通过特殊标记对输入进行标记，并将所有标签注入特洛伊，攻击成功率达到 100％，且不会影响模型在原始任务上的准确性。

    Jun, 2020

  • FreeEagle: 在无数据情况下检测复杂神经木马

    本文提出了一种名为 FreeEagle 的数据免费后门检测方法，可以有效检测深度神经网络上的复杂后门攻击，而不需要任何干净样本或包含触发器的样本，并在不同数据集和模型结构上表现良好。

    Feb, 2023

  • 一种自适应的黑盒防御反对特洛伊攻击（TrojDef）

    本文提出了一种基于预测置信度边界的黑盒防御方法 TrojDef，旨在识别和过滤特洛伊输入，并通过数学分析表明其在防御特洛伊攻击方面优于现有防御方法。

    Sep, 2022

  • 用于打破深度学习后门攻击防御的特洛伊木马训练

    本研究论文介绍了一种新的多目标后门攻击，使用非后门模型作为教师模型解决最小最大优化问题提升攻击模型的性能，不能有效防御后门模型的特定输出的防御机制准确性将降至 0％。

    Mar, 2022

  • 通过校正神经激活分布进行后门缓解

    这篇论文揭示和分析了后门攻击的一个重要特性：成功攻击会导致后门触发实例的内部层激活分布发生改变，与干净实例的分布不同。基于这一观察，作者提出了一种高效和有效的方法，通过使用逆向工程的触发器来纠正分布变化，从而实现后期训练的后门缓解。该方法不会改变 DNN 的任何可训练参数，但与需要大量 DNN 参数调整的现有方法相比，其缓解性能普遍更好。它还能有效检测带有触发器的测试实例，可以帮助及时发现恶意攻击者对后门进行利用。

    Aug, 2023

  • TABOR: 人工智能系统中检查和恢复特洛伊木马后门的高精度方法

    该研究提出了 TABOR 技术，它将特洛伊木马检测任务形式化为非凸优化问题，并提供了一种新的目标函数和度量标准，通过可解释的 AI 技术帮助优化更加有效地识别特洛伊木马后门，并使用异常检测方法过滤出误报。

    Aug, 2019