Jul, 2023

面向未知标签噪音和不平衡数据集的全能对抗训练

PDF
TL;DR本研究提出了全能对抗训练（OAT）方法来解决训练集中不平衡数据和有噪声的数据集，其策略包括两种创新方法：引入 Oracle 来帮助模型学习正确的数据标签条件分布，并提出 logits 调整对抗训练来克服数据不平衡的挑战。全面的评估结果表明，OAT 在数据不平衡和标签噪声的复杂组合情况下比其他基线模型具有 20％以上的清洁准确率提高和 10％的健壮性提高。
发现论文，激发创造
  • 异常鲁棒性对抗训练

    基于异常值健壮的对抗训练（ORAT）是在传统健壮学习方法和最近的对抗训练方法的基础上开发的，以同时处理低质量训练数据和推理时的敌对攻击，并在三个基准数据集上展示了其有效性和鲁棒性。

    Sep, 2023

  • 一次性全面对抗训练：在现场实现健壮性和准确性的权衡

    本文提出了 Once-for-all Adversarial Training (OAT) 和 Once-for-all Adversarial Training and Slimming (OATS) 框架，可以在不重新训练模型的情况下，调整模型在标准准确度和鲁棒准确度之间的权衡，并达到类似或超越专门训练的模型的性能。

    Oct, 2020

  • 扩展对抗训练以应对大扰动界限

    本文提出一种新的方法，通过 Oracle-Aligned Adversarial Training (OA-AT) 的方式来提高神经网络对抗攻击的鲁棒性，可以在大的扰动（如 L-inf bound 为 16/255 时）达到最先进的性能，同时在标准边界（8/255）也胜过现有的防御机制。

    Oct, 2022

  • NoiLIn: 改进对抗训练与校正嘈杂标签的刻板印象

    通过在对抗训练的过程中注入随机噪声标签，我们提出了一种新的训练方法 NoiLIn，可以有效地解决模型鲁棒性和准确性之间的折中问题，并进一步提高了当今最先进的对抗训练方法的泛化能力。

    May, 2021

  • 有效且稳健的对抗训练以应对数据和标签损坏

    我們提出了一種有效且強健的對抗訓練 (ERAT) 框架，能夠同時處理兩類污染 (即數據和標籤)，而不需要事先了解其具體信息。我們通過混合對抗訓練和基於類平衡樣本選擇的半監督學習提高了模型對雙重污染的韌性。大量實驗證明了我們提出的 ERAT 框架的優越性。

    May, 2024

  • 自适应对抗训练以提高 DNN 在医学图像分割和检测中的对抗性鲁棒性

    本研究旨在解决医学影像分析任务中现有标准对抗训练方法中的问题，提出了一种生成适应性噪声的自适应边界对抗训练（AMAT）方法，改进了深度神经网络（DNNs）的鲁棒性，提高了模型的稳健性。

    Jun, 2022

  • 走向公平感知的对抗学习

    在这篇论文中，我们提出了一种名为公平感知对抗学习（FAAL）的新的学习范式，通过将鲁棒训练问题重新定义为最小 - 最大 - 最大框架，以确保训练模型的鲁棒性和公平性。具体而言，通过利用分布鲁棒优化，我们的方法旨在在不同类别之间找到最差的分布，解决方法保证了高概率的上界性能。FAAL 可以在仅两个迭代周期内将一个不公平的鲁棒模型调整为公平模型，而不牺牲整体准确性和鲁棒性，实验证明了 FAAL 相对于其他先进方法的卓越性能和高效性。

    Feb, 2024

  • ATOM: 使用异常值挖掘强化外部数据分布检测

    本研究提出了一种理论上动机驱动、运用了有意义外部数据挖掘的对抗训练算法 ATOM，从而提高了深度学习模型的 Out-of-Distribution Detection 能力，在包括对抗式输入在内的广泛经典 OOD 检测任务中，实现了最佳性能。

    Jun, 2020

  • 通过平衡对抗训练来提高模型的稳健公平性

    本文提出了平衡对抗训练（Balance Adversarial Training）方法，用于解决在对抗训练中不同类别间的鲁棒性和准确性存在严重失衡的问题。通过对两种不公平现象进行观察，即不同类别的对抗样本生成难度差异（源类别公平）和生成对抗样本时不同类别存在不公平偏向（目标类别公平），引入适当的攻击强度和均匀分布约束等措施，能够显著提升指标和缓解鲁棒公平问题。

    Sep, 2022

  • 对抗分布式训练用于强健深度学习

    本文提出了一种新的模型训练框架 - 对抗分布式训练（ADT），通过最小值最大化优化问题，训练模型来学习处理各种威胁。ADT 的有效性也在几个基准测试中得到了验证。

    Feb, 2020