Aug, 2024

在协变量和相关性同时变化下学习公平的不变表征

HTML
PDF
TL;DR本研究针对现有方法在公平意识领域泛化中仅关注协变量或相关性偏移的问题进行了深度探讨，提出了一种新的方法，同时处理这两种偏移。研究显示，通过在潜在空间中对数据进行内容和风格因素的解耦，我们的方法能有效提升模型准确度及群体和个体公平性，显著优于现有的最先进方法。
发现论文，激发创造
  • 跨领域机器学习公平性转移

    本文通过领域自适应问题提出了新的理论和建模方法，为在新数据少的目标领域中改善公平性提供了解决方案，实证结果证明该方法能够较少数据的情况下改善公平指标

    Jun, 2019

  • 使用敏感子空间鲁棒性训练个体公平的机器学习模型

    我们考虑培训机器学习模型，使其在输入的某些敏感扰动下表现不变的公平性，这种公平性的形式化表述为个体公平性的一种变体，并使用分布鲁棒优化方法在训练期间强制执行。我们还展示了该方法在两个容易受到性别和种族偏见影响的机器学习任务上的有效性。

    Jun, 2019

  • 基于不变式学习的对抗训练域不变表示的表示方法

    本文研究使用先前为学习“公平表示”而开发的审查技术来解决域泛化问题。我们研究了$k$个域的对抗性损失函数及其渐近行为，并在此基础上获得了算法在以前未见过的域上良好最坏情况预测性能的充分条件。我们提供了完整的不变性特征描述，并为敌对不变域泛化提供了第一个形式化保证。

    Jun, 2020

  • 协变量漂移下的稳健公平性

    通过考虑协变量变化，提出了一种对于未知数据能够保持公正与性能的预测模型的方法。

    Oct, 2020

  • 不变学习环境推理

    EIIL是一种用于域不变学习的通用框架，采用环境推断技术，可以推断出对下游不变学习最有帮助的分区，实现了较好的性能并且可以改进公平预测问题中的准确性和校准度。

    Oct, 2020

  • 在相关性转移下改进公平训练

    本文提出了一种解决模型公平性中的相关性变化问题的新颖方法，即引入相关性偏移的概念和采用预处理步骤以减少相关性偏移，并借此通过优化问题来调整数据比率，从而使得数据处理算法可以有效地提高其准确性和公平性。

    Feb, 2023

  • 跨领域顺序自编码器追求反事实公平性

    通过引入名为CDSAE的创新框架，我们提出了一种有效地解决领域漂移和公平问题的方法，该方法通过同时分离环境信息、敏感属性和分类特征的嵌入表示来提高模型的泛化能力，验证结果表明，在持续领域的不断变化中，我们的方法能实现提高准确性并确保公平性的目标。

    Sep, 2023

  • 在协变量偏移下，在少量测试样本的情况下改善公平性和准确性的权衡

    在测试数据中的协变量偏移可以显著降低模型的准确性和公平性表现。我们提出了一种基于加权熵的预测准确性目标和表示匹配损失的新型组合目标函数，通过实验证明了我们的损失函数优化在公平性与准确性的权衡上优于其他基线方法。我们还提出了一种称为不对称协变量偏移的新颖设置，并展示了我们的方法在这种设置下的显著优势。最后，我们理论上证明了在训练集上的加权熵项和预测损失可以近似于协变量偏移时的测试损失。我们通过实验证明了这种对未见测试损失的近似不依赖于影响其他基线方法的重要性采样方差。

    Oct, 2023

  • 在协变量和依赖偏移下的公平感知领域泛化

    基于领域偏移的普适分类器归纳问题几乎困难且复杂，本文通过引入三种不同的分布偏移（概念偏移、协变量偏移和依赖性偏移），提出了一种新颖的领域泛化方法，能够在不同领域中保持模型的准确性和公平性。实验结果表明，该方法在四个基准数据集上超越了现有的方法。

    Nov, 2023

  • FAIRM：通过极小极大优化实现算法公平性和领域泛化的不变表示学习

    通过不变原则，我们提出了一个具有公平性和域泛化特性的基于训练环境的FAIRM方法，并在弱分布假设下提供了具有有限样本理论保证的实证FAIRM。我们开发了高效的算法来实现线性模型中的FAIRM，并展示了最小化最优性的非渐近性能。我们通过合成数据和MNIST数据的数值实验来评估我们的方法，并证明其优于其他方法。

    Apr, 2024