使用知觉球上的对抗扰动解释分类器

CVPRDec, 2019

使用知觉球上的对抗扰动解释分类器

Explaining Classifiers using Adversarial Perturbations on the Perceptual Ball

Andrew Elliott, Stephen Law, Chris Russell

TL;DR本文提出了一种基于视觉损失的对敌对扰动的简单正则化方法，用于解释图像分类器中的图像分类。这种半稀疏的扰动可以突出对象和感兴趣区域，使其与背景明显不同。通过在多个可解释性基准测试中进行评估，包括局部化、插入删除和指向游戏，证明了感知正则化反事实是图像分类器的有效解释。

Abstract

We present a simple regularization of adversarial perturbations based upon the perceptual loss. While the resulting perturbations remain i

regularization adversarial perturbations perceptual loss weak localization image-based classifiers

发现论文，激发创造

对抗性反事实视觉解释

本文提出了一种由扰动攻击变成语义上的有意义的扰动来进行反事实解释的方法，该方法在扰动攻击时使用去噪扩散概率模型以避免高频率和超出分布的扰动，从而使得研究目标模型不受其鲁棒性水平的限制。通过在多个测试平台上的实验验证，我们的反事实解释方法展现出明显的优势。

Mar, 2023

使用共享对抗训练来防御通用扰动

本文探讨了对抗性训练的有效性以及在减少通用扰动和提高模型性能之间的平衡问题，并在图像分类和语义分割方面展示了结果。

Dec, 2018

玩转通用对抗扰动游戏

构建针对普遍对抗性扰动所鲁棒的分类器的零和博弈训练方法，可在多个图像分类数据集上保证分类器的鲁棒性和多用途性。

Sep, 2018

任何分类器的对抗性易受攻击性

本文研究了对抗扰动现象，并推导了任何分类函数的鲁棒性的基本上界，以及证明了存在跨不同分类器传递的具有小风险的对抗扰动。研究显示了生成模型的关键属性，如平滑性和潜在空间的维度，并提供了信息量大的鲁棒性基线。

Feb, 2018

语义对抗攻击：参数转换欺骗深度分类器

本文通过对参数条件生成模型的范围空间进行对抗性损失的优化，提出了一种新颖的方法来生成 “语义” 对抗性示例，并在面部图像上展示了其攻击的效果。

Apr, 2019

物理信号的对抗扰动

我们研究了基于计算机视觉的信号分类器对输入的敌对扰动的脆弱性，其中信号和扰动受到物理约束。通过求解 PDE 约束优化问题，我们构建了干扰信号使得即使对接收信号的谱图进行的扰动几乎不可察觉，探测器仍会误将源分类。尽管此类问题可能涉及数百万个决策变量，但我们引入了高效解决方案。我们的实验表明，可以在各种物理条件下计算出对多种机器学习模型有效且可实现的敌对扰动。

Feb, 2024

本地化不确定性攻击

本文介绍一种新的攻击模型，即局部不确定性攻击，用于制造确定性和随机分类器的对抗样本。与其他攻击方式不同，这种攻击是局限于分类器不确定性区域进行的，这样可以制造出更难以察觉的对抗样本。

Jun, 2021

检测对抗性扰动

本文提出一种方法，在深度神经网络中增加一个小的 “检测器” 子网络，用于区分含有敌对扰动的假数据和不包含敌对扰动的真数据的二元分类任务，并证明其能够有效检测和对抗敌对扰动攻击。

Feb, 2017

学习对抗性扰动的理论理解

理论框架揭示了扰动中包含了足够的类别特征以实现泛化，并且学习扰动的决策边界与标准样本的决策边界在大部分区域上相一致。

Feb, 2024

黑盒认证与对抗扰动下的学习

该研究从学习者和第三方认证者的角度正式研究了分类问题，并考虑了半监督学习框架下 VC - 类的适当学习的可能性和不可能性结果。该研究还探讨了黑盒认证在有限查询预算下的黑盒对手视角，提出了一些预测器和扰动类别的分析，并证明了具有多项式查询复杂性的对手的存在可以暗示存在样本高效稳健的学习者。

Jun, 2020