探索稳健特征以提升对抗性鲁棒性

Sep, 2023

探索稳健特征以提升对抗性鲁棒性

Exploring Robust Features for Improving Adversarial Robustness

Hong Wang, Yuefan Deng, Shinjae Yoo, Yuewei Lin

TL;DR通过分离鲁棒特征和领域特定特征，我们提出了一个鲁棒特征分离模型，以增强模型的对抗性鲁棒性。同时，训练出的领域鉴别器几乎完美地能够识别出干净图像和对抗性样本中的领域特定特征，从而无需额外的计算成本实现对抗性样本的检测。这样一来，我们可以为干净图像和对抗性样本指定不同的分类器，避免了干净图像准确率的降低。

Abstract

While deep neural networks (DNNs) have revolutionized many fields, their fragility to carefully designed adversarial attacks impedes the usage of DNNs in safety-critical applications. In this paper, we strive to

deep neural networks adversarial attacks robust features feature disentanglement model adversarial example detection

发现论文，激发创造

通过特征解缠缚来缓解对抗鲁棒性中的特征差距

我们提出了一种基于潜在特征解缠的方法，以明确建模并进一步消除导致特征差异的潜在特征，从而提高深度神经网络对抗样本的鲁棒性。实证评估表明，我们的方法超越了现有的对抗微调方法和对抗训练基线。

Jan, 2024

通过限制深度神经网络的隐藏空间来进行对抗性防御

针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

Apr, 2019

基于局部直方图均衡化的增强图像差异特征对抗样本检测

基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

May, 2023

对抗样本不是真实特征

对抗性示例的存在多年来一直是一个谜团，吸引了广泛的兴趣。本文从一个更大的背景视角重新审视这个理论，发现非鲁棒特征不像人类视为噪声特征那样有用，而具有良好转移性的鲁棒或自然特征更加有用。同时，我们还展示了经过鲁棒特征培训的编码器在 AutoAttack 下仍然是非鲁棒的，这表明仅凭鲁棒特征可能无法获得可靠的模型鲁棒性。

Oct, 2023

图像分类器的鲁棒性和不变性属性

本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

Aug, 2022

通过解耦视觉表示遮蔽来提高对抗鲁棒性

深度神经网络在对抗性例子方面容易受到攻击，针对这一问题，我们提出了一种基于解耦视觉特征掩蔽的简单而有效的防御方法，该方法可以提高鲁棒性，相对于现有的防御方法具有优越性能。

Jun, 2024

深度神经网络对未知对抗攻击的健壮性评估

通过分析正常和对抗攻击样本的深度神经网络表示之间的差异，研究了对抗攻击的鲁棒性和现有防御机制的普适性，并揭示了 L2 和 Linfinity 范数之间的显著差异。

Aug, 2023

通过信息瓶颈提取对抗样本中的鲁棒和非鲁棒特征

本文提出了一种通过 Information Bottleneck 明确地提炼出稳健特征和非稳健特征的方法，这些特征高度相关于对抗性预测并具有人类可感知的语义信息。此外，我们还提出了一种攻击机制来强化与模型预测直接相关的非稳健特征，并验证了其破坏模型鲁棒性的效果。

Apr, 2022

提高对抗鲁棒性的特征去噪

本研究旨在通过特征去噪的方式提高卷积神经网络在对抗攻击下的鲁棒性，实验结果表明这种方法对提高白盒和黑盒攻击下的分类准确率具有一定效果。

Dec, 2018

对于分布转移下的对抗鲁棒性的通用性

本研究探讨了基于域一般化的经验和认证鲁棒性之间的相互影响，并发现两种鲁棒性均适用于未知的数据域。同时我们也证明，在医学应用中，对抗性增强显著提高了鲁棒性的泛化能力，对数据准确性影响不大。

Sep, 2022