Jul, 2021

基于 Reweighting 的不平衡对抗训练

PDF
TL;DR本文通过对失衡数据集的对抗训练模型进行实验，提出了数据特征可分性差是影响训练效果提升的重要原因，并在此基础上提出了一种分离式权重对抗训练（SRAT）方法，在各种数据集上验证了该方法的有效性。
adversarial trainingimbalanced datasetspoor data separabilityseparable reweighted adversarial trainingdata feature separability
发现论文，激发创造
  • 针对对抗训练的漏洞感知实例加权

    通过实验，我们提出了一种新的基于实例的重加权方案，其考虑每个自然样本的易受攻击性和由对抗攻击导致的其对应的丢失信息，这对现有的加权方案表现有着显著提高，特别是对抗强白箱和黑箱攻击。

    Jul, 2023

  • 以 Wasserstein 距离为指导的对抗性权重调整用于偏见缓解

    通过对抗再加权方法来解决机器学习中的表征偏差，平衡数据分布以减少对少数群体的不公正对待，从而提高分类准确性和公平性。

    Nov, 2023

  • 通过平衡对抗训练来提高模型的稳健公平性

    本文提出了平衡对抗训练（Balance Adversarial Training）方法，用于解决在对抗训练中不同类别间的鲁棒性和准确性存在严重失衡的问题。通过对两种不公平现象进行观察，即不同类别的对抗样本生成难度差异（源类别公平）和生成对抗样本时不同类别存在不公平偏向（目标类别公平），引入适当的攻击强度和均匀分布约束等措施，能够显著提升指标和缓解鲁棒公平问题。

    Sep, 2022

  • 长尾分布上的对抗性训练

    本文研究了在服从长尾分布的数据集上的对抗训练，相较于平衡数据集上的对抗训练，该过程会产生不均匀的对抗性样本和不平衡的特征嵌入空间，导致模型对尾部数据的鲁棒性和准确性低。为了解决这一问题，我们提出了一种新的对抗训练框架 —— 再平衡对抗训练（REAT），该框架包括两个组件：（1）通过有效数术语来指导模型生成更平衡和有信息的对抗性样本的新训练策略；（2）精心构建的惩罚函数来强制获得令人满意的特征空间。不同数据集和模型结构上的评估结果证明 REAT 可以有效提升模型的鲁棒性并保持模型的准确性。代码可以在此 URL 中找到。

    Jul, 2023

  • 几何感知实例再加权对抗训练

    这篇研究论文介绍了一种新的对抗训练方法，通过根据自然数据点到分类边界的远近来赋予不同的权重，以提高模型的鲁棒性和准确性。

    Oct, 2020

  • 双重稳健实例重新加权对抗训练

    提出一种新型的双重鲁棒性实例重新加权的对抗训练 (AT) 框架，通过探索分布鲁棒优化技术获得重要性权重，并在最脆弱的示例上提高鲁棒性。

    Aug, 2023

  • 自适应困难类别对抗性加权学习

    本研究探讨了在对抗性攻击中存在的不均衡的跨类语义相似性，提出了一种自我调节的重加权策略，为模型优化加重难以处理的类对损失，并在对抗培训中引入确定难度极高的类对一致性，最终实现了对各种对抗攻击的优越鲁棒性。

    Oct, 2022

  • 不平衡问题的对抗分类器

    本文提出了一种基于对抗训练的分类器训练框架，可以处理不平衡数据，并通过给优势类别的样本加权来提高判别器的分类能力，同时也可以扩展到图形表示学习等其他问题。实验结果表明，相比现有的方法，本方法在不平衡数据分类和图形链接预测等任务中表现更优。

    Nov, 2018

  • 对抗训练与权重衰减

    该研究旨在提升机器学习模型的稳健性，研究发现在包括未知扰动的情况下，权重衰减表现更佳，并结合对抗性训练实现较强的白盒攻击抵御能力。

    Apr, 2018

  • 为强韧性还是为公平：走向对抗训练中的公平性

    研究发现，对于一些平衡的数据集，在执行 Adversarial training algorithms 时将出现不同类别的数据准确度和鲁棒性的严重差异，因此提出了一种名为 Fair-Robust-Learning 的框架以解决这种不公平的问题，并在实验中验证了其有效性。

    Oct, 2020