自适应对抗训练不增加追溯成本

Sep, 2023

Adaptive Adversarial Training Does Not Increase Recourse Costs

Ian Hardy, Jayanth Yetukuri, Yang Liu

TL;DR最近的研究将对抗性攻击方法和算法性补偿方法相连接，这两者都寻求对输入实例进行最小更改以改变模型的分类决策，通过研究发现，传统的对抗训练增加了生成补偿的成本，然而，适当的对抗训练半径一直是未知的，新的研究表明，采用自适应训练半径的对抗训练可以提高模型鲁棒性，但对算法性补偿成本影响较小，提供了一个在对补偿能力至关重要的领域实现经济鲁棒性的可能途径。

Abstract

Recent work has connected adversarial attack methods and algorithmic recourse methods: both seek minimal changes to an input instance which alter a model's classification decision. It has been shown that traditional adversarial training, which seeks to minimize a classifier's susceptib

adversarial attack methods algorithmic recourse methods adversarial training adaptive training radii algorithmic recourse costs

发现论文，激发创造

因果算法对抗鲁棒性

该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

Dec, 2021

论算法反馈的隐私风险

本文旨在探讨对算法提供诉求时对于隐私泄露的重要风险，通过 membership inference attacks 方法将对算法使用的数据的私密信息泄露。

Nov, 2022

走向非对抗性算法修复

在高风险情况下，通过对敌对示例和反事实解释的形式定义，我们介绍了非敌对算法性回应，并阐明了为什么在获得不具备敌对特性的反事实解释方面是至关重要的。我们进一步研究了目标函数中不同组件（例如用于计量距离的机器学习模型或成本函数）如何决定结果是否可以被视为敌对示例。我们对常见数据集进行的实验证明，这些设计选择通常比使用回应或攻击算法更关键，以决定回应是否具有非敌对特性。此外，我们展示了选择强大和准确的机器学习模型会导致实践中所期望的更少敌对性回应。

Mar, 2024

可扩展对抗分类的通用重训练框架

提出了第一个系统性的通用的重新训练框架，可以在对抗性攻击的情况下提高任意学习算法的鲁棒性，并且是先前方法中更广泛的对抗模型的一类；该框架能够最小化对抗风险的最优上界，同时扩展该结果以考虑逃避攻击的近似值，从而显著提高抵抗逃避攻击的鲁棒性，而不会显著影响整体准确性的实验评估也证实了这一点。

Apr, 2016

对抗训练可能是把双刃剑

本文研究了对抗训练在提高图像分类器对白盒攻击的鲁棒性中的有效性，以及在黑盒攻击下的细微差别，并定义了鲁棒性增益的度量指标来衡量其效果。研究表明，尽管对抗训练是提高白盒场景下的鲁棒性的有效方法，但对于更现实的基于决策的黑盒攻击，则可能无法提供如此良好的鲁棒性增益。此外，即使是最小的扰动白盒攻击也可以比常规攻击更快地针对对抗训练过的神经网络收敛。

Jul, 2021

增强守护者而非宝藏：适应性对抗性检测器

针对自适应攻击提出了一种名为 RADAR-Robust Adversarial Detection via Adversarial Retraining 的方法，旨在增强对抗性检测器的鲁棒性，同时保持分类器的性能。在训练阶段，我们将优化后的对抗性样本集成到数据集中，使对抗性检测器能够学习和适应潜在的攻击场景，从而显著提高检测器准确识别自适应对抗性攻击的能力，而不会损害净准确性。

Apr, 2024

二分类中追溯风险

提出了一个学习理论框架，比较了分类有和没有算法追溯的风险，发现在许多情况下提供算法追溯反而有害，因为它会使用户产生更多的错误。此外，提供算法追溯有时会对系统整体造成伤害。因此，对当前的算法追溯概念需要重新思考。

Jun, 2023

自适应偏好引导下的成本适应型补救推荐

该论文提出了一种将偏好学习整合到追索生成问题中的两步方法，通过设计问答框架来逐步细化追索主体的马氏矩阵代价的置信集，然后利用基于梯度和基于图的代价自适应追索方法来生成合法且考虑到整个代价矩阵的高效追索，数值评估结果表明该方法在提供高效追索建议方面优于现有基准。

Feb, 2024

面向强健可靠的算法可追溯性

提出了一种新的框架 ROAR（RObust Algorithmic Recourse）用于解决由于模型漂移导致现有的后事补救技术不再有效的问题，该框架利用对抗性训练找到了对模型漂移具有鲁棒性的后事补救，实验评估结果表明这种方法在多个合成和现实世界数据集上具有很高的效度。

Feb, 2021

对抗训练与权重衰减

该研究旨在提升机器学习模型的稳健性，研究发现在包括未知扰动的情况下，权重衰减表现更佳，并结合对抗性训练实现较强的白盒攻击抵御能力。

Apr, 2018