Nov, 2023

拓扑保持对抗训练

PDF
TL;DR通过保留自然样本的拓扑结构，我们的研究提出了一种名为 Topology-pReserving Adversarial traINing (TRAIN) 的对抗训练方法，以缓解自然准确率降低的问题，并在多个测试数据集上实验证明在自然准确率和鲁棒准确率上都取得了显著的改善。
adversarial trainingnatural accuracy degradationtopology-preserving adversarial trainingrobustness of neural networksquantitative and qualitative experiments
发现论文，激发创造
  • 净化上的对抗性训练（AToP）：增强鲁棒性和泛化能力

    在这篇论文中，研究人员提出了一种称为对抗训练纯化（AToP）的新框架，通过随机转换（RT）的扰动破坏和对抗损失下的纯化模型优化（FT）来加强深度神经网络对抗攻击的鲁棒性和泛化能力，并通过对 CIFAR-10、CIFAR-100 和 ImageNette 的广泛实验表明其在对抗攻击防御方面达到了最先进的结果和泛化能力。

    Jan, 2024

  • 实例自适应对抗训练：神经网络中更好的准确性和权衡

    本文提出了一种实例自适应对抗训练技术，通过在每个训练样本周围施加特定的扰动边缘来实现更好的泛化能力和测试准确性。

    Oct, 2019

  • 软对抗训练可以保留自然准确度

    本文研究用抽象认证来提取子输入以进行软对抗训练，提出了一个培训框架，能在约束条件下保持自然精度而不牺牲强健性，证明了软对抗性训练在对抗攻击防御方面的可行性，并提出了未来工作的范围以进一步改进该框架。

    Jun, 2022

  • 对抗训练的分割原则

    对抗性示例的存在揭示了深度神经网络的基本弱点。我们的主要贡献是一种通用方法，使分类器具有显着的鲁棒性，而其自然准确性的降低仅仅是微小或可忽略的。

    Oct, 2023

  • 通过学习限制性对敌多面体提高对抗攻击鲁棒性

    通过限制对干净样本添加范数约束的微小扰动后得到的输出可达集合，我们旨在训练出对抗攻击具有强鲁棒性的深度神经网络。我们称这个集合为对抗多面体，每个干净样本都对应一个对抗多面体。实际上，如果所有样本对应的多面体都是紧凑的，并且不与深度神经网络的决策边界相交，那么深度神经网络就能对抗攻击具有鲁棒性。因此，我们的算法的内部工作是基于学习受限的对抗多面体（CAP）。通过一系列实验证明了 CAP 相对于现有的对抗鲁棒性方法在提升模型对抗最先进攻击（包括 AutoAttack）的鲁棒性方面的有效性。

    Jan, 2024

  • 插值对抗训练：在不牺牲过多准确性的情况下实现强大的神经网络

    本论文提出了一种名为 Interpolated Adversarial Training 的对抗性训练方法，它采用最近提出的基于插值的训练方法来提高对抗鲁棒性，并以 CIFAR-10 数据集为例进行了实验证明，相较传统对抗性训练方法，该方法可以在保持对抗鲁棒性的同时取得更好的泛化性能与更低的标准测试误差。

    Jun, 2019

  • 认证鲁棒神经网络：泛化和抗污染性

    通过提出综合强健的（HR）训练程序，理论和实验证明了其在对抗错误损失方面具有 SOTA 性能，并克服了在敌对训练中普遍存在的过度拟合问题。

    Mar, 2023

  • 结构保持转化：生成多样性和可迁移性对抗样本

    本研究提出了一种结构保持转换（SPT）方法生成自然且多样化的对抗样本，它允许在保持对人的分类器至关重要的结构模式的同时，让对抗样本呈现可感知的偏差，具有极高的可迁移性。在 MNIST 和 Fashion-MNIST 数据集上的实证结果表明，本研究的对抗样本可以轻松地绕过强有力的对抗训练，并且可以在攻击其他目标模型时有着自然的表现，并且攻击成功率有所下降或没有下降。

    Sep, 2018

  • 对抗鲁棒性：神经架构搜索的视角

    该研究旨在探寻能否通过神经网络的复杂拓扑结构来提升对抗性鲁棒性能力，其发现表明，基于 NAS 的架构对小规模数据集和简单任务具有更好的鲁棒性能力，而随着数据集规模或任务复杂度的增加，传统手工设计的架构具有更好的鲁棒性能力。

    Jul, 2020

  • A3T：对抗性增强的对抗性训练

    本文介绍了一种通过强制表示不变性来提高深度神经网络对抗攻击鲁棒性的方法，并比较其与其他标准对抗训练方法的可行性。

    Jan, 2018