May, 2023

双管齐下：通过结合转导和拒绝机制实现更好的对抗鲁棒性

PDF
TL;DR在拒绝和转导两个技术中，拒绝 + 转导可提供显著改进，本研究发展了一种新的转导方法，结合 Tram'er 的分类器 - 探测器技术，达到更好的鲁棒性。
adversarial perturbationstransductionrejectionselective-model solutionsrobust accuracy
发现论文，激发创造
  • 评估透过迁移学习所学习的神经网络的鲁棒性

    本文从威胁分析视角出发，对基于转导学习的防御机制进行了系统评估，并提出了攻击模型空间的原则，通过这一原则设计的攻击框架 Greedy Model Space Attack 可以作为评估转导学习防御机制的新基准。同时，本文发现在考虑的攻击方式下，重新训练模型可以显著提高对抗攻击的鲁棒性。

    Oct, 2021

  • 基于 Transformer 的对抗攻击在安全领域中的有效性

    评估了变压器对系统防御者的恶意样本的强健性以及对系统攻击者的对抗性样本的可迁移性，发现变压器所生成的对抗样本具有最高的可迁移率，对其他模型具有更强的对抗性，强调了研究在安全领域中使用变压器架构进行攻击和防御的重要性，并建议将其作为转移攻击设置中的主要架构。

    Oct, 2023

  • 图像和视频对象检测的可传递对抗性攻击

    本研究提出了一种基于生成对抗网络（GAN）框架的方法，通过联合训练高级别类别损失和低级别特征损失，获得生成对抗图像和视频，并成功解决了对目标检测模型的对抗攻击中存在的二合一问题：低的迁移能力和高的计算成本。

    Nov, 2018

  • 旧而有为：重新定义对抗学习一类分类器训练范式

    本研究提出了一种基于对抗模型的异常检测框架，利用生成器和鉴别器来实现高效和稳健的异常检测，通过将鉴别器的基本角色从区分真假数据转变为区分良好和劣质的重建，使检测器能够更好地检测到异常输入中经常出现的细微畸变，经过对 Caltech-256 和 MNIST 图像数据集以及 UCSD Ped2 视频数据集的实验，该方法均取得了优越的结果。

    Apr, 2020

  • 对抗性稳健的迁移学习

    本文研究如何在数据稀缺或者训练成本较高的情况下，通过对源模型的继承和微调，使得目标模型不仅精度高，而且对抗攻击具有良好的鲁棒性，其中运用到 Transfer Learning， Neural Network Classifiers，Robustness，Lifelong Learning 和 Generalization 等关键词。

    May, 2019

  • 基于迁移学习的多对抗检测技术用于网络入侵检测系统的攻击逃避检测

    该研究旨在设计一种高效的基于转移学习的对抗检测器，并评估使用多个策略性放置的对抗检测器与单个对抗检测器相比在入侵检测系统中的有效性。通过将它们各自的决策相结合，我们证明结合多个检测器可以进一步提高对抗流量的可检测性。

    Oct, 2022

  • 带有拒绝机制的分层对抗鲁棒性

    针对分类器的对抗训练模型中的拒绝选项，根据拒绝代价模型，提出了一种新的防御方法 —— 基于一致性预测的拒绝的对抗训练模型，实验证明在强适应性攻击中具有明显的性能优势。

    May, 2023

  • 两种耦合的拒绝度量可以区分对抗性样本

    通过引入可拒绝的机制并使用置信度和修正后的置信度 (R-Con) 来提高鲁棒性，从而更好地检测和拒绝对抗样本。

    May, 2021

  • ATRO: 带有拒绝选项的对抗训练

    本文提出了 Adversarial Training with a Rejection Option (ATRO) 的分类框架，以减轻对抗样本带来的性能恶化问题，并在实验中证实了此方法的有效性。

    Oct, 2020

  • 深度神经网络抵抗对抗样本攻击

    该研究提出了一种基于深度神经网络的拒绝机制来检测恶意样本，可以有效地防止对抗性攻击，并且具有更高的效率和普适性。

    Oct, 2019