使用期望扰动分数通过探测多个扰动来检测对抗性数据

ICMLMay, 2023

使用期望扰动分数通过探测多个扰动来检测对抗性数据

Detecting Adversarial Data by Probing Multiple Perturbations Using Expected Perturbation Score

Shuhai Zhang, Feng Liu, Jiahao Yang, Yifan Yang, Changsheng Li...

TL;DR本文提出了一种新的统计量 —— 期望扰动分数 (EPS)，来计算两个样本之间的差异，为解决使用单一样本的平凡评分不足问题，将样本使用各种噪声扰动来捕捉其多视角观察，并基于 EPS-AD 提出了基于预训练扩散模型来估计 EPS 以对抗样本进行检测的新方法，该方法与最大平均偏差 (MMD) 相结合，证明了在自然样本之间，EPS-AD 检测到的差异较大，且通过实验展示了该方法的优越性。

Abstract

adversarial detection aims to determine whether a given sample is an adversarial one based on the discrepancy between natural and adversarial distributions. Unfortunately, estimating or comparing two data distributions is extremely difficult, especially in high-dimension spaces. Recent

adversarial detection expected perturbation score maximum mean discrepancy diffusion model multi-view observations

发现论文，激发创造

通过基于分数的优化提高对抗鲁棒性

我们引入了一个名为 ScoreOpt 的新的对抗防御方案，通过在测试时优化对抗样本，向原始清数据在得分优先的方向

Jul, 2023

通过扰动伪造检测对抗性数据

通过学习区分自然数据分布与对抗性噪声分布的覆盖关系，我们提出了扰动伪造方法，通过噪声分布扰动、稀疏掩模生成和伪对抗性数据生成来训练一个对所有类型的对抗性攻击具有强大泛化能力的检测器，同时不依赖任何特定模型。实验证明我们的方法具有出色的泛化能力。

May, 2024

针对易样本的扰动改善目标对抗可迁移性

在黑盒攻击中，敌对扰动的可迁移性为攻击提供了一种有效的捷径。本文实验和理论上证明相同数据集训练的神经网络，在每个类别的高样本密度区域（High-Sample-Density-Regions，HSDR）具有更一致的性能。在目标场景中，朝目标类别的 HSDR 添加扰动对于提高迁移性效果更好。此外，低损失的简单样本更有可能位于 HSDR，因此朝目标类别的这些简单样本添加扰动可以避免 HSDR 位置的密度估计。基于以上事实，我们验证了向目标类别的简单样本添加扰动可以提高现有攻击方法的目标敌对迁移性，提出了一种生成式目标攻击策略称为 Easy Sample Matching Attack（ESMA），它在目标攻击的成功率上具有更高的表现并且优于 SOTA 生成式方法。此外，与当前的 SOTA 相比，ESMA 只需 5% 的存储空间和更少的计算时间，因为 ESMA 使用单个模型攻击所有类别，而不是为每个类别分别创建模型。我们的代码可在此 URL 中获取。

Jun, 2024

最大不变数据扰动作为解释

本研究提出了一种新的特征分数定义方法，使用最大不变数据扰动，将问题转化为线性规划，可有效识别重要输入特征，实验表明该方法在图像分类中能够有效识别图像的相关部件。

Jun, 2018

概率异常：检测对抗样本的统计测试

通过计算测试统计量并利用对抗攻击引入的异常，我们提出了一种方法来可靠地检测被恶意策略改动的样本，并证明了在一定条件下此方法的有效性，我们在实验中也展示了此方法可以以高精度纠正对抗攻击的测试时间预测。

Feb, 2019

对抗多样性与艰难正样例生成

我们提出了一种新的心理测量感知对抗性相似性评分（PASS）方法，用于量化对抗性图像，并引入了艰难正例生成的概念，使用广泛的对抗扰动 - 而不仅仅是最接近的对抗扰动 - 进行数据增强。我们介绍了一种新颖的热 / 冷方法来生成对抗性例子，为每个单独的图像提供多个可能的对抗扰动，这些扰动通常对应于语义上有意义的图像结构，并允许更大的灵活性来缩放扰动幅度，从而产生更多样化的对抗图像。最后，我们证明了在 MNIST 和 ImageNet 数据集上通过使用我们的方法训练的深度神经网络相对于现有方法的鲁棒性更强。

May, 2016

具有可证明估计误差的深度神经网络最小对抗扰动

本文提出了两种轻量级策略来找到最小的对抗扰动，区别于现有技术，该方法允许对近似距离相对于理论距离进行误差估计理论，得到了实验结果的支撑，表明该方法适用于靠近分类边界的样本，具有抗击任何对抗性攻击的证明鲁棒性保证。

Jan, 2022

批量检测对抗性示例 -- 一种几何方法

本文研究通过引入几何度量法来检测深度学习模型中的对抗样本，并以 MNIST 数据集和两个医学数据集为例，对密度和覆盖度两种几何度量法进行了实证研究，结果表明这两种度量法能够检测到对抗样本并能在机器学习系统中使用来监控可能的对抗性例子或相关病理因素，为进一步研究机器学习系统的安全提供了基础。

Jun, 2022

用最大熵对抗数据增强来提高泛化能力和鲁棒性

本文提出了基于信息瓶颈原理的最大熵正则化方法用于敌对数据增强，通过扩大模型预测不确定性来产生 “难” 的敌对扰动，提升模型鲁棒性，并在三个基准测试中实现了比现有技术显著的优越性能。

Oct, 2020

GREAT Score：使用生成模型对对抗扰动的全局鲁棒性进行评估

本文提出了一个称为 GREAT Score 的新框架，用于利用生成模型对对抗扰动进行全球鲁棒性评估。该方法具有高效性、可扩展性、适用于隐私敏感的黑盒模型等多个优点。

Apr, 2023