Jul, 2023

针对对抗训练的漏洞感知实例加权

PDF
TL;DR通过实验，我们提出了一种新的基于实例的重加权方案，其考虑每个自然样本的易受攻击性和由对抗攻击导致的其对应的丢失信息，这对现有的加权方案表现有着显著提高，特别是对抗强白箱和黑箱攻击。
adversarial trainingdeep learningrobustnessreweighting schemeswhite and black-box attacks
发现论文，激发创造
  • 双重稳健实例重新加权对抗训练

    提出一种新型的双重鲁棒性实例重新加权的对抗训练 (AT) 框架，通过探索分布鲁棒优化技术获得重要性权重，并在最脆弱的示例上提高鲁棒性。

    Aug, 2023

  • 基于 Reweighting 的不平衡对抗训练

    本文通过对失衡数据集的对抗训练模型进行实验，提出了数据特征可分性差是影响训练效果提升的重要原因，并在此基础上提出了一种分离式权重对抗训练（SRAT）方法，在各种数据集上验证了该方法的有效性。

    Jul, 2021

  • 几何感知实例再加权对抗训练

    这篇研究论文介绍了一种新的对抗训练方法，通过根据自然数据点到分类边界的远近来赋予不同的权重，以提高模型的鲁棒性和准确性。

    Oct, 2020

  • 利用弱点感知扰动预算改进对抗训练

    透过对自然样本的脆弱性进行考量，提出了两种简单、计算成本低的方法 (Margin-Weighted Perturbation Budget 与 Standard-Deviation-Weighted Perturbation Budget)，用于为 Adversarial Training 算法中的对抗样本分配扰动范围，实验证明这些方法有效地提升了算法的鲁棒性。

    Mar, 2024

  • 通过平衡对抗训练来提高模型的稳健公平性

    本文提出了平衡对抗训练（Balance Adversarial Training）方法，用于解决在对抗训练中不同类别间的鲁棒性和准确性存在严重失衡的问题。通过对两种不公平现象进行观察，即不同类别的对抗样本生成难度差异（源类别公平）和生成对抗样本时不同类别存在不公平偏向（目标类别公平），引入适当的攻击强度和均匀分布约束等措施，能够显著提升指标和缓解鲁棒公平问题。

    Sep, 2022

  • 通过自适应逐实例损失平滑提升对抗训练

    通过对输入进行敌对扰动（即人类感知不到的人工噪音），深度神经网络容易产生错误预测。迄今为止，敌对训练已成为对抗性攻击最成功的防御方式。本文聚焦于改进敌对训练以提高对抗性强度，提出了一种新的敌对训练方法 ISEAT，它通过自适应、实例特定的方式同时平滑输入和权重损失景观以增强鲁棒性，证明与现有防御方法相比，该方法具有显著的优越性。

    Mar, 2023

  • 在对抗训练中提高最劣鲁棒性

    本文提出了一种最差类对抗训练（worst-class adversarial training）的新框架，利用无悔动态来解决对抗样本攻击的问题，旨在获得在最差情况下表现优异的分类器，并在同时仅牺牲少量平均鲁棒性。作者在各种数据集和网络上的实验证明了该方法超越了现有方法。

    Feb, 2023

  • AROID：通过在线逐实例数据增强提高对抗鲁棒性

    该论文提出了一种新的方法，通过在线实例化学习数据增强策略来提高 Deep neural networks 的 Adversarial training 的鲁棒性，在多个模型结构和数据集上成功地超越了现有的竞争性数据增强方法。

    Jun, 2023

  • 评估基于几何感知实例重新加权的对抗训练鲁棒性

    本技术报告评估了一种最近开发的名为 “几何感知实例加权对抗训练” 的方法在 CIFAR-10 数据集上对抗性攻击的鲁棒性。 通过使用 PGD 攻击来计算了该方法的脆弱性，并解释了导致该方法易受攻击的原因。

    Mar, 2021

  • 理解和提高 Frank-Wolfe 对抗训练的效率

    通过 FW-AT 理论框架提出一种新的对抗训练算法 - FW-AT-Adapt，它使用简单的扭曲度量来调整训练中的攻击步数，从而提高效率而不影响鲁棒性。与其他单步方法相比，FW-AT-Adapt 在多步 PGD-AT 的鲁棒性与训练时间上提供了最小的损失。

    Dec, 2020