对未知对手进行健壮性测试

Aug, 2019

Testing Robustness Against Unforeseen Adversaries

Daniel Kang, Yi Sun, Dan Hendrycks, Tom Brown, Jacob Steinhardt

TL;DR提出了一种名为 ImageNet-UA 的模型鲁棒性测试框架，旨在测试模型对未遭遇过的对抗攻击的鲁棒性。该框架引入了四种新的对抗攻击，与 L_inf 等现有鲁棒性评估方法相比，ImageNet-UA 能更好地展现模型的鲁棒性。目前的防御措施在面对未预料的攻击时提供很少的保障，期望使用更加多样化和现实的 ImageNet-UA 能有助于开发泛化性更好的防御措施。

Abstract

Most existing adversarial defenses only measure robustness to L_p adversarial attacks. Not only are adversaries unlikely to exclusively create small L_p perturbations, adversaries are unlikely to remain fixed. Adversaries adapt and evolve their attacks; hence →

adversarial defenses imagenet-ua robustness assessment novel adversarial attacks model robustness

发现论文，激发创造

加强对抗性容错性评估的置信度

该研究提出了一种测试方法以识别弱攻击和防御评估，为了增强透明和信心，将攻击单元测试作为未来强度评估的重要组成部分。

Jun, 2022

在 MNIST 上开发第一个具有对抗鲁棒性的神经网络模型

提出了一种使用单独的学习类条件数据分布来执行分析合成的新型鲁棒性分类模型，其在 MNIST 数据集上对 L0，L2 和 L 无穷小扰动都具备最先进的鲁棒性，攻击结果在正常类和对抗类之间呈现明显的感知边界。

May, 2018

对抗鲁棒性评估：为什么 L0 和 L∞攻击都是必要的

提出了一种双重质量评估法来评估深度神经网络算法的鲁棒性，分析了存在的问题，并揭示了当前网络和防御在各个鲁棒性级别上的脆弱性。

Jun, 2019

ImageNet 比赛中的无限制对抗攻击

该研究旨在探索更有效的无限制对抗性攻击算法，以加快在更强的无边界攻击下的模型稳健性的学术研究，并组织了一项比赛来促进此领域的发展。

Oct, 2021

精准、可靠、快速的鲁棒性评估

在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

Jul, 2019

通用对抗训练

本文研究的是生成通用对抗扰动和抵御这类扰动的有效方法，提出了一种简单的基于优化的通用攻击方法来降低各种网络的 ImageNet 上的准确性，并提出了一种通用对抗性训练来生成抗干扰的分类器。

Nov, 2018

神经网络鲁棒性解释和评估

该研究提出了一种定量指标来评估神经网络模型的内在稳健性，并通过损失可视化的方式解释了对抗攻击和防御机制。该指标具有快速生成、结构和参数规模无关、可靠性高的优点，并提供了一种相对于不同测试设置不变的评估方法。

May, 2019

深度神经网络对未知对抗攻击的健壮性评估

通过分析正常和对抗攻击样本的深度神经网络表示之间的差异，研究了对抗攻击的鲁棒性和现有防御机制的普适性，并揭示了 L2 和 Linfinity 范数之间的显著差异。

Aug, 2023

无监督领域自适应对抗鲁棒性

本文提出一种通过利用 ImageNet 预训练模型中的中间表示，使得源域与目标域学习到的特征分布更加接近，从而提高无监督域适应模型在未标记数据上的对抗鲁棒性，不需要对抗干预或标签要求。

Sep, 2021

使用生成模型的可传递通用对抗扰动

本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

Oct, 2020