May, 2024

利用分层群组结构实现交叉公平的合成数据生成

PDF
TL;DR该论文介绍了一种特定的数据增强方法，旨在增强分类任务中的交叉公平性。这种方法利用交叉性内在的层级结构，将群体视为其父类别的交集，通过学习组合父类群体数据的转换函数，对较小群体进行数据增强。我们对四个不同数据集进行的实证分析（包括文本和图像）表明，使用这种数据增强方法训练的分类器在交叉公平性方面表现优秀，并且在与优化传统群体公平度量方法相比时更具鲁棒性。
data augmentationintersectional fairnessclassification taskshierarchical structureempirical analysis
发现论文，激发创造
  • 通过子群混合增强数据以提高公平性

    通过对小组之间进行配对混合的数据增广方法，改善组间公平性并提高分类性能，特别是针对少数群体的社会偏见问题。

    Sep, 2023

  • 如何捕捉交叉公平性

    本文提出了一种新的框架 ——α 交叉公平（Intersectional Fairness）框架，来解决交叉敏感群体的分类问题，提出了一种新的公平度量，并在实验中验证了该框架的有效性以及一些算法的有效性。

    May, 2023

  • 基于结构回归的模型性能评估方法在交叉子群中的应用

    通过引入结构回归方法进行细分评估，以演示即使对于非常小的子群体，也可以得出可靠的系统性能估计，进而提供相应的推断策略以构建置信区间，并探索拟合度检验如何揭示交叉群体所经历的公平相关伤害的结构。

    Jan, 2024

  • 分类问题中审计和实现交叉公平性

    本文研究关于机器学习中的公平性问题，针对多种敏感属性，提出了应对交叉性公平性偏差的方法，定义了一系列评估数据或模型输出结果公平性的指标，并开发了后处理技术来减轻分类模型的交叉性偏差。这些技术不依赖于底层模型的任何假设，并可以保持公平性和预测性能的平衡。最后，展示了在实际数据集上提出的方法的有效性。

    Nov, 2019

  • 公平的交集定义

    本研究提出了机器学习和人工智能系统中的公平性定义，并受到交叉性别、种族、性取向、阶级和残疾等影响因素的启发，通过保护属性子集合理分配资源，提供合理保护算法，同时在人口普查数据和 COMPAS 犯罪再犯数据集上进行案例研究。

    Jul, 2018

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023

  • 公平的混合：插值促进公平

    该研究提出了公平混合（fair mixup）的新型数据增强策略，通过对分组间插值样本的正则化训练来实现分类器的公平性约束，并分析实验证明其在表格、视觉和语言测试中确保了更好的准确性和公平度的泛化能力。

    Mar, 2021

  • 交叉公平性：分形方法

    通过在超立方体的几何设置下，将交叉公平问题分层分析，证明了公平并不向下传递，但会向上传递，探讨了公平作为自相似、分形、关联属性在人工智能中的自然涌现。

    Feb, 2023

  • 超越你所见：使用种族健康不平等社会决定因素对多标签胸部 X 射线分类进行子群 交叉公平性的实证分析

    通过使用深度学习模型，本研究在疾病诊断方面取得了重要进展，在使用胸部 X 射线上具有很大潜力。然而，这些模型中存在的固有偏见可能导致预测准确性在不同保护组之间存在差异。为了实现准确的诊断结果并确保在交叉组之间公平性，我们提出了一个框架，用于在高维胸部 X 射线多标签分类任务中实现公平性。该框架不仅考虑传统的受保护属性，还考虑了社会决定因素中的复杂交互作用，使得公平性的评估更加细致。我们提出了一种简单而强大的方法，通过使用跨组平衡的数据集来重新训练预训练模型的最后分类层。此外，我们还考虑了公平性约束，并在多标签设置中集成了类别平衡微调。我们在 MIMIC-CXR 数据集上评估了我们的方法，结果表明与基准方法相比，我们的框架在准确性和公平性之间实现了最佳权衡。

    Mar, 2024

  • 实现组内与组间公平性的规范数据转换

    通过引入在组公平性的形式定义，提出了一种预处理框架，以实现组间和组内公平性，并在维持准确性的同时，保证了来自同一族群的个体之间的公平性。将此框架应用于 COMPAS 风险评估和法学院数据集，并将其在实现组间和组内公平性方面的性能与两种基于正则化的方法进行了比较。

    Oct, 2023