May, 2021

对抗性训练中类别稳健性的分析和应用

PDF
TL;DR本文研究了对抗训练中的类别鲁棒性问题，提出了一种基于温度的 PGD 攻击方法，并对训练和推断阶段进行了改进，以降低类别鲁棒性差异。实验结果表明，该方法可以取得更高的攻击成功率。
发现论文，激发创造
  • 稳健性与公平性可能相互矛盾：基于类别准确性的实证研究

    本文通过经验研究，在对抗训练的模型中发现了分类的精度和稳健性存在类间差异，包括在通常的训练模型中也存在差异。同时，本文还探讨了解决这种类间差异的可能技术和方法。

    Oct, 2020

  • 通过对抗性训练提高机器学习的稳健性

    研究了机器学习的鲁棒性，使用集中式和分散式环境进行对抗训练，结果显示比现有研究提高了 18.41% 和 47% 的准确性，并提出了独立同分布和非独立同分布数据的 IID 数据共享方法，可提高自然准确性和鲁棒准确性。

    Sep, 2023

  • 对抗训练在对抗鲁棒性方面的最新进展

    该研究论文系统地回顾了针对深度学习模型的对抗训练在对抗鲁棒性方面的最新进展，并从三个视角讨论了对抗训练中的泛化问题，同时指出了尚未完全解决的挑战并提出潜在的未来研究方向。

    Feb, 2021

  • CFA：类别校准的公平对抗训练

    本文探讨了在保证深度神经网络（DNNs）在整体上具有抗对抗性的前提下，如何提高每个类别的对抗鲁棒性和公平性，提出了一种基于类别的校准的公平对抗训练框架，命名为 CFA，实验证明该方法显著提高了对抗鲁棒性和公平性。

    Mar, 2023

  • 对抗训练的分割原则

    对抗性示例的存在揭示了深度神经网络的基本弱点。我们的主要贡献是一种通用方法，使分类器具有显着的鲁棒性，而其自然准确性的降低仅仅是微小或可忽略的。

    Oct, 2023

  • 为强韧性还是为公平：走向对抗训练中的公平性

    研究发现，对于一些平衡的数据集，在执行 Adversarial training algorithms 时将出现不同类别的数据准确度和鲁棒性的严重差异，因此提出了一种名为 Fair-Robust-Learning 的框架以解决这种不公平的问题，并在实验中验证了其有效性。

    Oct, 2020

  • 物体检测中的类别感知鲁棒性对抗训练

    本文提出一种新颖的、针对目标检测任务的类感知鲁棒性对抗训练范式，旨在提高目标检测模型的鲁棒性，并通过广泛实验验证了该方法的有效性。

    Mar, 2021

  • 神经网络对抗鲁棒性的有用分类法

    深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类，提出了不同的分类方法：通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性，减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式，提供了新的视角，深入探讨使网络变得更加强健的潜在因素，启发了更多的解决方案。此外，文献中有一些关于对抗防御成本问题和鲁棒性与准确性之间的权衡的论述，但我们提出的分类方法可以解决这些问题。本文提出了几项挑战，以此推动深度学习研究的进一步发展。

    Oct, 2019

  • 探索健壮神经网络的误分类以增强对抗攻击

    针对当前神经网络抵御对抗攻击的能力较弱的情况，提出了一种新的损失函数，从而提高了 19 种不同状态下的神经网络的抗攻击能力。同时发现目前不良攻击行为只能诱发少量不同类别的误分类，过于自信或不自信都会影响对模型鲁棒性的准确评估。

    May, 2021

  • 对抗训练分类准确率的精确统计分析

    本文研究了针对二分类问题且数据按两个具有各向异性协方差矩阵的高斯混合分布产生的情况。在这个问题上，我们推导了一种具有极小 - 极大策略的经过对抗训练的模型在标准和鲁棒准确性方面的精确表现。

    Oct, 2020