Jun, 2023

面向子群体的公平感知反事实

PDF
TL;DR介绍了一种用于审计子组公平性的框架，通过反事实说明来指出不同方面中某些子组个体实现补救的困难，提出了不同基本的子组公平概念。同时，提出了一个高效的，模型不可知的，高度可参数化和可解释的子组公平评估框架，并对不同基准数据集进行了彻底的实验评估，证明了其优点、广泛适用性和效率。
发现论文，激发创造
  • 反事实公平表达

    在这项研究中，我们提出了一种使用所有可用特征进行训练的新算法，从理论和实证方面证明了使用该方法训练的模型能够满足 Counterfactual Fairness。

    Nov, 2023

  • 因果背景连接反事实公平与稳健预测和群体公平

    我们利用因果上下文桥接了反事实公平、鲁棒预测和群体公平之间的差距，展示了它们之间的等价关系，并通过测量相对简单的群体公平指标来测试反事实公平。

    Oct, 2023

  • 以相同的方式来解释它！”-- 对于反事实解释的模型不可知的群体公平性

    该研究提出了一种模型不可知的方法，以计算相对复杂度在不同保护组之间没有显著差异的因果关系解释。

    Nov, 2022

  • 实现反事实公平性用于异常检测

    本文提出了一种基于因果关系的公平异常检测框架 CFAD，它的目标是确保在事实世界和反事实世界中，同一人属于不同组时检测结果相同。实验结果表明 CFAD 能够有效地检测异常并确保因果公平性。

    Mar, 2023

  • FALE: 公平感知的 ALE 图用于审计亚群的偏见

    在机器学习系统中，公平性逐渐成为一个关键要求。本文着重于研究子群体公平性以及如何通过可解释性方法识别潜在偏见，并以用户友好的方式可视化结果，提出了 FALE 方法（公平感知累积局部效果图），作为识别潜在偏见问题的高效、用户友好、易理解和可靠的初步工具。

    Apr, 2024

  • 反事实公平机会：利用反事实推理测量决策模型公平性

    本研究提出一种利用反事实推理揭示机器学习和去偏见模型不公平行为的方法，在三个不同数据集上获得验证。

    Feb, 2023

  • 从观测数据中学习反事实公平性

    本文提出了一种新的框架 CLAIRE，通过对反事实数据增广和不变化惩罚的表征学习框架有效地减轻了敏感属性的偏差，并在合成和真实数据集上的实验验证了 CLAIRE 在反事实公平性和预测性能方面的优越性。

    Jul, 2023

  • 防止公平选区操纵：小组公平审计与学习

    在机器学习中，通过使用受保护的属性定义的结构化函数类来提议一种新的公平统计定义，从而语义上定义了指数级（或无限个）子组内的统计不变性，并证明了公平子组审核的计算问题与弱自适应学习问题等价，提出了两种算法，证明了这些算法在解决自治学习问题的情况下可以收敛，其中第二种方法具有简单和更快的步骤计算的优点。

    Nov, 2017

  • 反事实解释可被操纵

    本文介绍了反事实解释的脆弱性并表明其容易被操纵，进一步提出了一个新颖的目标来训练明显公平的模型，在轻微扰动下反事实解释可以找到更低成本的救济措施。然而，我们在贷款和暴力犯罪预测数据集上的实验表明，这些模型可能会不公平地提供低成本的救济措施给特定的子群体。这些发现引起了对当前反事实解释技术可信度的担忧，并希望能启发对健壮性反事实解释的探索。

    Jun, 2021

  • 使用图对抗公平性学习公平节点表示

    本文提出了一种新的公平性概念 —— 图形对照公平性，并基于对照数据增强提出了一种学习节点表示的框架，以减少模型在涉及敏感属性的图形数据中的偏见，该框架在合成和真实世界的图形上的实验表明，优于现有的基线图形对照公平性，并且在预测性能方面有可比性。

    Jan, 2022