本文提出了平衡对抗训练（Balance Adversarial Training）方法，用于解决在对抗训练中不同类别间的鲁棒性和准确性存在严重失衡的问题。通过对两种不公平现象进行观察，即不同类别的对抗样本生成难度差异（源类别公平）和生成对抗样本时不同类别存在不公平偏向（目标类别公平），引入适当的攻击强度和均匀分布约束等措施，能够显著提升指标和缓解鲁棒公平问题。

Sep, 2022

研究发现，对于一些平衡的数据集，在执行 Adversarial training algorithms 时将出现不同类别的数据准确度和鲁棒性的严重差异，因此提出了一种名为 Fair-Robust-Learning 的框架以解决这种不公平的问题，并在实验中验证了其有效性。

Oct, 2020

基于理论和实证分析，我们演示了当类别之间的距离减小时，鲁棒公平性会恶化的现象。鉴于这些观察，我们引入了一种称为 “距离感知的公平对抗训练（DAFA）” 的方法，它通过考虑类别之间的相似性来解决鲁棒公平性问题。具体而言，我们的方法给每个类别分配不同的损失权重和对抗边界，并调整它们以在相似类别之间促进鲁棒性的权衡。在各个数据集上的实验结果证明，与现有方法相比，我们的方法不仅具有平均鲁棒准确性，而且还显著提高了最差鲁棒准确性，表明在鲁棒公平性方面有了显著的改进。

Jan, 2024

本文提出了一种名为 Adversarial Feature Alignment (AFA) 的新型对抗性训练方法，旨在解决深度学习模型在安全性上平衡鲁棒性和准确性的挑战。通过利用对比学习的优化算法，AFA 减轻特征不对齐可能导致误分类的风险，并在实验中展示了其卓越性能。

Feb, 2024

本文探讨了在保证深度神经网络（DNNs）在整体上具有抗对抗性的前提下，如何提高每个类别的对抗鲁棒性和公平性，提出了一种基于类别的校准的公平对抗训练框架，命名为 CFA，实验证明该方法显著提高了对抗鲁棒性和公平性。

Mar, 2023

本文研究了对抗攻击和训练在公平性和准确性两个方面的影响，提出了一种公平性攻击的统一结构，并证明了不同概念的公平性攻击的等价性。研究表明，统一对抗性训练和攻击在公平性和准确性方面可以同时提高性能。

Mar, 2023

该研究利用博弈论中的概念，提出了一种逐步提高分类器公平性的方法，并通过实验表明该方法的公平性性能显著优于其他算法。

Jan, 2019

为了保证医疗人工智能系统的公平性和对负责任，我们提出了一种对抗性多任务训练策略来同时减轻和检测基于深度学习的医学图像分析系统中的偏见。实验表明我们提出的方法具有较高的有效性。

Mar, 2021

本文提出了一种新的模型训练框架 - 对抗分布式训练（ADT），通过最小值最大化优化问题，训练模型来学习处理各种威胁。ADT 的有效性也在几个基准测试中得到了验证。

Feb, 2020

通过对敏感特征进行公平处理实现公正的推荐系统的研究中，我们提出了特征公平性作为实现各种特征组合下不同群体之间公平处理的基础。通过平衡特征的普适性来提高整体准确性。我们介绍了通过对抗训练实现无偏特征学习的方法，使用对抗扰动来增强特征表示。对抗方可以改善对少数特征的模型泛化。我们根据特征偏差的两种形式：特征值的频率和组合多样性自动调整对抗策略，并根据此调整扰动强度和对抗训练权重。对于组合多样性较少的特征值，我们应用更强的扰动以提高模型的泛化能力，而对于低频特征，增加其权重以解决训练不平衡问题。我们以广泛应用的因式分解机模型为基础，利用自适应对抗扰动（AAF）方法进行研究。在实验中，AAF 在公平性和准确性衡量指标上优于强基准。AAF 在单特征和多特征任务的物品公平性和用户公平性方面表现出色，展示了其多功能性和可扩展性。为了保持较好的准确性，我们发现对抗扰动必须得到很好的管理：在训练过程中，扰动不应过于持续，并且它们的强度应该减弱。

Sep, 2023