May, 2024

直接歧视的结构证据的本地因果发现

PDF
TL;DR发展公平性应用的高效因果发现方法，我们引入局部发现直接歧视（LD3）：一种多项式时间算法，用于提取直接歧视的结构证据，并证明该准则由 LD3 返回的知识满足，增加了加权控制直接效应作为因果公平性度量的可靠性。以肝脏移植分配为案例研究，我们展示了 LD3 在模拟复杂决策系统中建模公平性方面的潜在影响。真实世界数据的结果相比基准更可信，且执行时间快 197 倍至 5870 倍。
发现论文，激发创造
  • 发现和消除直接和间接歧视的因果框架

    本文通过利用因果网络捕捉数据的因果结构，将直接和间接歧视建模为路径特异性效应，并提出了一种有效的算法，用于发现和消除直接和间接歧视，以及保留数据效用。实验结果表明，该方法有效性较高。

    Nov, 2016

  • 因果推断用于公平性

    本文强调通过因果关系的发现步骤，适当地使用因果关系来解决公平性问题的重要性，并且通过使用合成和标准公平性基准数据集的实证分析来证实了即使微小的因果模型差异也可能对公平性 / 歧视的结论产生重大影响。

    Jun, 2022

  • 算法决策中的公平：通过因果镜头探究

    本研究通过因果模型的视角考虑了决策系统是否基于性别、种族、宗教等方面会造成歧视的问题，引入了基于因果关系的群体公平的两个定义：FACE 和 FACT，提出了鲁宾 - 尼曼潜在结果框架来鲁棒地估算 FACE 和 FACT，并在合成数据上展示了方法的有效性。同时，作者还在真实数据集上进行了分析，发现 FACT 比 FACE 更微妙，在不同情形下可得出不同结论。

    Mar, 2019

  • 公平性指标在欧盟非歧视法律中的相容性：人口多样性平衡和条件人口差异

    本研究旨在通过条件人口失调性 (CDD) 的公平性定义来评估公平度量和公平约束，在欧盟非歧视法律框架下支持公平上下文方法，并进行了数据分析，发现 AI 辅助决策在法律角度上具有公平性，取决于具体情况和法律理由。

    Jun, 2023

  • 社会歧视推理的因果推断

    本文介绍一种基于倾向得分分析的原因型歧视方法，并利用回归树学习新的歧视 / 偏袒模式，验证在两个现实世界的数据集上，它可以加强机器学习透明度并探测训练数据和学习算法中的歧视性偏差。

    Aug, 2016

  • 揭示歧视的概率因果结构

    本文介绍了一种基于因果推断的数据挖掘方法 ——Suppes-Bayes 因果网络，并通过针对反歧视法律相关概念的应用实验，验证了该方法在歧视发现方面的可行性。

    Oct, 2015

  • 少样本回归的不公平性发现和预防

    本文通過創建因果貝葉斯知識圖，對機器學習模型中的歷史數據中現有的偏見進行了發現，提出了一種新的基於風險差的算法，以量化每個受保護變量在圖中的歧視影響力，以及一種快速適應的偏差控制方法，在元學習中高效地減少了組的不公平性，最終在合成和實際數據集上進行了廣泛實驗，證明了我們提出的不公平發現和防治方法可以高效地檢測偏見並減輕模型輸出上的偏見以及對訓練樣本量少的未見任務的精度和公平度的泛化。

    Sep, 2020

  • 动态系统中的公平因果模型

    本文介绍因果有向无环图作为公平性动态系统研究的一个统一框架，阐明了因果假设如何表达和操作，说明了计算干预数量的重要性，并说明了因果假设能够在已知环境动态的情况下进行模拟和在未知动态下进行干预估计，以实现对短期和长期结果的干预，无论是在群体还是个人的层面上。

    Sep, 2019

  • 通过因果推理避免歧视

    该研究探讨了机器学习中公平性的定义和测量方法，提出了基于因果推理的非歧视标准，并开发了相应的算法。

    Jun, 2017

  • 因果结构学习中的非线性、反馈与一致性

    寻找自动化搜索方法，从观察数据中学习因果结构；讨论潜变量和观察变量之间的因果联系以及它们之间的潜在模式和结构；提出了不同于高斯分布条件的 k - 三角性忠诚度的另一定义，可用于非高斯分布；轻松学习具有潜变量的因果结构的充分性假设。

    Aug, 2023