Nov, 2023

未观察到的混杂因素下的因果公平性：一种神经敏感性框架

PDF
TL;DR现实中，由于法律、伦理和社会原因，对机器学习预测的公平性要求越来越高。尽管现有工作通常关注没有未观察到混淆的情况，但未观察到的混淆可能导致严重的因果公平性违规和不公平的预测。本研究分析了未观察到的混淆对因果公平性的敏感性，并提出了一个新的神经框架用于学习公平的预测，同时在一系列实验中验证了该框架的有效性。
发现论文，激发创造
  • 从观测数据中学习反事实公平性

    本文提出了一种新的框架 CLAIRE，通过对反事实数据增广和不变化惩罚的表征学习框架有效地减轻了敏感属性的偏差，并在合成和真实数据集上的实验验证了 CLAIRE 在反事实公平性和预测性能方面的优越性。

    Jul, 2023

  • 推广的因果敏感性分析的神经框架

    本研究提出了一种神经框架 NeuralCSA，用于广义因果敏感性分析，通过学习条件归一化流来实现广义性，从而能够在不同的敏感性模型、不同的治疗类型以及多种因果查询中推断因果查询的有效界限。

    Nov, 2023

  • 公平临床风险预测的反事实推理

    本文使用机器学习系统支持决策制定在医疗保健中的问答涉及使用电子医疗记录中的观察性数据中隐含的偏见，进而进一步发展了组公平性标准，以在个体层面上扩展增益计数事实公正标准，探讨扩增的标准是否可以应用于使用观测性电子健康记录数据的病人长住和死亡的公平模型的开发。通过一个假设因果图的变分自动编码器来执行反事实推理，提供了一种在学习生成模型的背景下，在公平维护与预测性能下降之间权衡的方法。

    Jul, 2019

  • 公平无知背景下的反事实推理用于偏差评估与检测

    该研究论文探讨了即使在没有敏感特征的情况下，机器学习模型仍可能存在歧视偏见的问题，并提出了利用反事实推理揭示模型潜在偏见的方法。

    Feb, 2023

  • 因果机器学习公平性概念调查

    本文探讨了基于因果关系的公平性概念及其在实际场景中的适用性，并针对采用观察数据估计因果量的不同方法，包括可辨识性和潜在结果框架进行了综合报告，提供出一个指南来帮助选择适合特定实际场景的公平性概念，并根据 Pearl 的因果推理难度对公平性概念进行了排名。

    Oct, 2020

  • PC-Fairness: 基于因果关系公平的统一框架

    本研究提出了一种计算因果公平性的框架，其中定义了一个旨在涵盖前期因果公平概念的统一定义，并使用约束优化问题对路径特定反事实公平性进行了界定，以解决可辨识性的问题，实验表明了本方法的正确性和有效性。

    Oct, 2019

  • 公平性 - 准确性权衡：因果视角

    机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

    May, 2024

  • 因果推断用于公平性

    本文强调通过因果关系的发现步骤，适当地使用因果关系来解决公平性问题的重要性，并且通过使用合成和标准公平性基准数据集的实证分析来证实了即使微小的因果模型差异也可能对公平性 / 歧视的结论产生重大影响。

    Jun, 2022

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 反事实公平机会：利用反事实推理测量决策模型公平性

    本研究提出一种利用反事实推理揭示机器学习和去偏见模型不公平行为的方法，在三个不同数据集上获得验证。

    Feb, 2023