Mar, 2018

提高对手实力绕过功能压缩

PDF
TL;DRFeature Squeezing 是一种新提出的防御方法，可通过将对应于原始空间中许多不同特征向量的样本合并为单个样本，从而减少对手可用的搜索空间。虽然已经证明特征压缩防御可以在联合检测框架中组合，以实现对最先进的攻击的高检测率，但我们证明，在 MNIST 和 CIFAR-10 数据集上，通过增加所述最先进的攻击方案的对手强度，可以使用最小的视觉扭曲来绕过检测框架的对抗性示例。这些结果表明，建议的防御措施需要针对更强的攻击配置进行验证。
feature squeezingdefense methodadversarydetection frameworkadversarial examples
发现论文，激发创造
  • 特征压缩：在深度神经网络中检测对抗性样本

    该研究提出了一种新的策略，即特征压缩，用于检测对深度神经网络模型的对抗性攻击，通过减小搜索空间，该方法显著提高了攻击检测的准确性和少量误报率，并结合其他防御方法，可对抗最先进的攻击。

    Apr, 2017

  • 特征压缩减轻和检测 Carlini/Wagner 对抗样本

    简单的特征压缩技术可以显著提高深度学习模型抵抗当前已知最强的对抗攻击方法 ——Carlini/Wagner 攻击的能力。

    May, 2017

  • 对抗性鲁棒性的压缩训练

    本文提出了一种新的方法，利用协同示例来增强对抗性训练，从而在对抗性鲁棒性方面实现了新的最高水平。

    May, 2022

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 循环神经网络防御对抗样本的方法

    本研究提出一种新的 RNN 防御方法”sequence squeezing”，并实施了四种其他的防御方法，通过使用这些方法将黑客攻击的有效性从 99.9％降低到 15％。

    Jan, 2019

  • 对抗性特征选择抵御逃避攻击

    该研究探讨了特征选择在对抗性环境下的安全性问题，并提出了一种面向对抗攻击的特征选择模型，以提高分类器的安全性。实验结果表明，该模型在垃圾邮件和恶意软件检测等应用场景具有较好的效果。

    May, 2020

  • 一种用于去偏置神经网络的对抗特征学习策略

    本实验提出特征筛选的方法，即在神经网络的低层中自动鉴定和抑制易于计算的虚假特征，从而使高级别能够提取更丰富、更有意义的特征，这可以提高深度神经网络的识别能力和准确性，且无需依赖任何预设的知识。

    Jan, 2023

  • 基于特征空间的对抗攻击

    本文提出了一种新的对抗攻击方法，通过扰动表示样式的抽象特征，包括可解释和不可解释的风格，诸如鲜艳色彩和锐利轮廓等，通过优化程序注入难以察觉的风格变化，实现深度神经网络模型误分类，我们展示了该方法产生的对抗样本比现有的非受限制攻击更加自然，并支持现有的像素空间的对抗攻击检测和防御技术难以在风格相关特征空间中保证模型的鲁棒性。

    Apr, 2020

  • 快速自适应的测试时间防御与鲁棒特征

    通过投影训练模型到最稳健的特征空间，降低对非稳健方向的敌对攻击的脆弱性，提出一种容易与任何（稳健）训练过程集成的新颖自适应测试防御策略。

    Jul, 2023

  • 针对对抗训练的自适应特征对齐

    本文提出了自适应特征对齐的方法，通过预测双 BN 结构中的融合权重，不引入任何超参数，且在不牺牲模型标准精度的情况下，有效地提高了模型的鲁棒性，并且在 CIFAR-10、SVHN 和 tiny-ImageNet 数据集上全面超越了现有的技术。

    May, 2021