ICCVSep, 2019

对抗性鲁棒性和普通扰动鲁棒性是否独立属性？

PDF
TL;DR本文探讨了神经网络在面对平移、对比度下降等常见扰动时的稳健性与面临恶意输入时的对抗性之间的联系，提供了一个基准测试作为评价神经网络对常见扰动的稳健性，证明了提高神经网络对特定常见扰动的稳健性可以提高它们对未见过的常见扰动的稳健性，同时还说明了对抗对抗性和常见扰动稳健性是相互独立的。
发现论文，激发创造
  • 准确性和鲁棒性是否相关？

    通过利用深度卷积神经网络生成对抗性样本，然后比较不同的生成技术在产生图像质量和测试机器学习模型鲁棒性方面的差异，最后在跨模型对抗迁移上进行了大规模实验，研究结果表明对抗性样本在相似的网络拓扑间是可传递的，并且更好的机器学习模型更不容易受到对抗性样本的攻击。

    Oct, 2016

  • 对抗性样本的（不）可避免性

    该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

    Jun, 2021

  • 利用对抗对比学习提高目标检测器对常见干扰的鲁棒性

    该研究提出了一种创新的对抗对比学习框架，通过生成实例级对抗样本和优化对比损失，增强了神经网络对抗攻击和常见扭曲的鲁棒性，同时通过对比学习增强了干净样本与对抗样本之间的相似性，从而使得表示具有对抗攻击和常见扭曲的抵抗力。通过改善对抗和实际应用条件下的性能，该方法旨在增强神经网络在安全关键应用中的鲁棒性，如自主车辆在不可预测的天气条件下行驶。我们预计这个框架将有助于提高神经网络在具有挑战性环境中的可靠性，促进其在任务关键场景中的广泛应用。

    Nov, 2023

  • 评估神经网络对普遍损坏和扰动的鲁棒性能力

    该文章为图像分类器的稳健性建立了严格的基准测试，并提出了两个基准测试 ImageNet-C 和 ImageNet-P，用于评估分类器对常见扰动和干扰的稳健性。研究发现，从 AlexNet 分类器到 ResNet 分类器，相对污染鲁棒性几乎没有变化，而绕过的对抗性防御提供了实质性的常见干扰强度。

    Mar, 2019

  • 针对自然扰动的属性引导对抗训练

    本文提出了一种基于对抗训练的方法，用于使深度神经网络具有对各种自然产生的扰动的鲁棒性，解决了当前小像素级扰动方法的不足，关键在于最大化分类器对属性空间的曝光度。

    Dec, 2020

  • 图像识别中神经网络稳健性评估综述

    近年来，对神经网络的稳健性评估引起了极大关注，深度学习的稳健性问题特别突出，研究人员致力于在图像识别任务中评估稳健性，在此综述中，我们对神经网络评估中敌对稳健性和扰动稳健性进行了详细研究，分析当前研究和标准，提供了图像识别中稳健性评估的广泛概述，分析了概念、度量标准和评估方法，研究了用于度量图像扰动程度的扰动度量和范围表示，以及特定于分类模型稳健性条件的稳健度量，还讨论了现有方法的优势和局限性，并提供了一些未来研究的潜在方向。

    Apr, 2024

  • 使用共享对抗训练来防御通用扰动

    本文探讨了对抗性训练的有效性以及在减少通用扰动和提高模型性能之间的平衡问题，并在图像分类和语义分割方面展示了结果。

    Dec, 2018

  • 对抗样本是噪声下测试误差的自然结果

    该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

    Jan, 2019

  • 对输入数据分布的敏感性对抗鲁棒性

    在这篇论文中，我们发现通过在输入数据分布上进行语义保持的变换可以导致 Robust accuracy 的大幅度变化，而 clean accuracy 却没有变化，这表明输入数据分布可以影响神经网络的 Adversarial robustness。

    Feb, 2019

  • 面向对抗攻击具有抵抗能力的深度学习模型

    通过稳健优化方法探究神经网络对抗攻击的鲁棒性，设计出对抗攻击和训练模型的可靠方法，提出对于一阶对手的安全保证，并得到针对广泛对抗攻击的高鲁棒性网络模型。

    Jun, 2017