本研究提出了一种名为 MEAD 的多臂架构，用于评估基于多种攻击策略的检测器，并说明了该方法的有效性和现有检测器的不足表现，从而打开了一条新的研究领域。

Jun, 2022

通过使用零查询方案、设计新的数据结构、利用及定义的概念、实现线索较弱的检测来生成背景一致的对抗性攻击，能够有效地规避自然多物体场景中的黑盒目标检测器，并提高攻击成功率。

Mar, 2022

设计最优敌对噪声算法是一项具有挑战性的任务，本文将其表述为学习器和对手之间的一种两方零和博弈，需要利用最佳响应神经网络生成随机化攻击来计算纳什均衡，本文在多个分类任务中演示了该方法的实际有效性。

Jun, 2019

本文提出了一个基于零样本图像净化的后门防御框架，能够在黑盒模型中有效抵御各种攻击，并无需任何关于被攻击模型的内部信息或清洁 / 污染样本的先验知识。该框架涉及两个步骤：第一步对污染图像进行线性变换以消除触发模式，第二步使用预训练扩散模型恢复变换移除的缺失语义信息，最终得到可应用于零样本情况的高保真净化图像。在多个数据集上进行的实验结果表明，与现有后门防御基线相比，该框架具有明显的优势。

Mar, 2023

该研究旨在设计一种高效的基于转移学习的对抗检测器，并评估使用多个策略性放置的对抗检测器与单个对抗检测器相比在入侵检测系统中的有效性。通过将它们各自的决策相结合，我们证明结合多个检测器可以进一步提高对抗流量的可检测性。

Oct, 2022

本文提出了一种抵御针对调制方案进行攻击的无线通信保密方法，通过扰动信道输入符号来达到识别攻击者并保障合法接收端的目的。仿真结果表明，该方法在保证通信效果的同时，能有效防御基于深度学习或决策树的攻击，并证明了多样化的训练数据和课程学习能显著提高攻击准确率。

Feb, 2019

基于深度学习的恶意软件检测器对于被有意修改以逃避检测的恶意软件实例，即对抗性恶意软件实例，显示出易受攻击。为了应对深度学习检测器的这种脆弱性，我们提出了一个受随机平滑启发的针对对抗性恶意软件实例的实用防御方案。该方案使用随机消融平滑的方式训练基于消融版本的可执行文件的基础分类器，在测试时，根据分类器对原始可执行文件的一组消融版本进行的预测，将给定输入可执行文件的最常见预测类作为最终分类。实验证明，相比未经平滑处理的分类器，我们提出的基于消融的模型在 BODMAS 数据集上对各种最先进的规避攻击表现出更高的鲁棒性和泛化能力。

Aug, 2023

通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

Aug, 2019

本文采用博弈论视角研究分类器对抗攻击的鲁棒性，证明了在确定性情况下不存在一个能保证最优鲁棒性的纳什均衡点，并提出了采用随机化方法构建具有鲁棒性的分类器的算法，实验结果验证了该方法的有效性。

Feb, 2020

研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。

Jun, 2021