May, 2023

使用随机 Lp 范数损坏研究图像分类器的抗腐化性能

PDF
TL;DR研究探讨了随机 Lp - 范数扰动在图像分类器数据训练和测试中的作用，发现训练数据使用 L0 - 范数扰动可以提高模型的容错性且不影响正确率，建议在使用先进的数据扩充技术的基础上使用 L0 - 范数扰动进行数据增广。
发现论文，激发创造
  • 对抗训练对常见噪声的有效性

    本文针对常见数据污染问题，探讨了对抗训练在提高精度和校准性方面比简单高斯噪声数据增强更有效的现象，并提出了新的方法 —— 基于感知图像补丁相似度的对抗训练松弛，通过实验验证此方法可以优化原有的对抗训练基础模型，同时结合数据增强策略获得更好的性能。

    Mar, 2021

  • 计算机视觉模型对常见失真的鲁棒性：一项调查研究

    本文针对计算机视觉模型在实际应用中面临的常规污染问题进行了全面和系统的综述，介绍了不同类型的图像污染以及相关的评估指标和基准数据集，并对现有模型的基础污染鲁棒性进行了评估，以帮助选择适合特定计算机视觉任务的骨干网络。

    May, 2023

  • 通过强健低秩表示实现对抗鲁棒性

    本研究探讨了使用自然低秩表示训练神经网络以提高分类器对抗干扰抵抗力的效果，并提出了一种基于乘法权重更新方法且具有可证明保证的快速算法，以使得网络对于特定类型的干扰具有认证的鲁棒性。

    Jul, 2020

  • 评估神经网络对普遍损坏和扰动的鲁棒性能力

    该文章为图像分类器的稳健性建立了严格的基准测试，并提出了两个基准测试 ImageNet-C 和 ImageNet-P，用于评估分类器对常见扰动和干扰的稳健性。研究发现，从 AlexNet 分类器到 ResNet 分类器，相对污染鲁棒性几乎没有变化，而绕过的对抗性防御提供了实质性的常见干扰强度。

    Mar, 2019

  • 通过数据本地化对稀疏对抗扰动进行认证鲁棒性

    通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

    May, 2024

  • 在 MNIST 上开发第一个具有对抗鲁棒性的神经网络模型

    提出了一种使用单独的学习类条件数据分布来执行分析合成的新型鲁棒性分类模型，其在 MNIST 数据集上对 L0，L2 和 L 无穷小扰动都具备最先进的鲁棒性，攻击结果在正常类和对抗类之间呈现明显的感知边界。

    May, 2018

  • 鲁棒性是准确性的代价吗？—— 对 18 个深度图像分类模型鲁棒性的全面研究

    本研究通过使用多个强健度和成功率等措施，在 306 个模型对之间全面测试了 18 个 ImageNet 模型，并揭示了若干新的见解：（1）在分类错误的对数下，经验 L2 和 L∞扭曲度量呈线性比例律；（2）模型架构比模型尺寸更重要；（3）对于相似的网络架构，略微增加网络深度可在 L∞扭曲度上提高强健性；（4）存在具有高度敌对可转性的模型，而从一个模型制造的大多数敌对示例仅可以在同一家族内转移。

    Aug, 2018

  • 近乎紧致 L0 范数认证的 top-k 预测对抗扰动的稳健性

    本文介绍的方法，基于随机平滑技术，能够对 top-k 预测模型对 $\ell_0$-norm 对抗扰动具有几乎紧密的保证，并在 ImageNet 数据集上验证了该方法的有效性。

    Nov, 2020

  • 探索空间健壮性景观

    研究神经网络分类器对旋转和平移的脆弱性，探索使用鲁棒优化和测试时间输入聚合的思想来提高鲁棒性，并发现一阶方法无法可靠地找到最坏情况的扰动。

    Dec, 2017

  • 使神经网络对多种图像污染具有鲁棒性的简单方法

    该研究论文证明，通过对图像识别模型进行简单但适当的高斯噪声和斑点噪声训练，可以使其具有更好的泛化能力和对不同类型损坏更强的鲁棒性，并结合敌对训练方法进一步提高性能。

    Jan, 2020