动态系统中的公平因果模型

Sep, 2019

Causal Modeling for Fairness in Dynamical Systems

Elliot Creager, David Madras, Toniann Pitassi, Richard Zemel

TL;DR本文介绍因果有向无环图作为公平性动态系统研究的一个统一框架，阐明了因果假设如何表达和操作，说明了计算干预数量的重要性，并说明了因果假设能够在已知环境动态的情况下进行模拟和在未知动态下进行干预估计，以实现对短期和长期结果的干预，无论是在群体还是个人的层面上。

Abstract

In many application areas---lending, education, and online recommenders, for example---fairness and equity concerns emerge when a machine learning system interacts with a dynamically changing environment to produ

fairness machine learning causal directed acyclic graphs intervention short-term and long-term outcomes

发现论文，激发创造

部分已知因果图的干预公平性：一种约束优化方法

本文提出了一种基于干预的因果公平性框架，用于在部分已知因果图的情况下实现公平预测，该方法使用部分有向无环图（PDAG）来度量因果公平性，并制定一个受限制的优化问题来平衡公平性和准确性。模拟和真实数据集的结果证明了该方法的有效性。

Jan, 2024

因果推断用于公平性

本文强调通过因果关系的发现步骤，适当地使用因果关系来解决公平性问题的重要性，并且通过使用合成和标准公平性基准数据集的实证分析来证实了即使微小的因果模型差异也可能对公平性 / 歧视的结论产生重大影响。

Jun, 2022

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

通过强化学习在动态系统中找到公平性的平衡点

在这篇论文中，我们研究了在顺序决策中存在着动态系统的公平性问题，提出了一个基于马尔可夫决策过程的算法框架，通过预处理和处理中方法集成各种公平性考虑，平衡传统公平性、长期公平性和效用。

Jan, 2024

设计动态系统中的长期群体公平策略

在这篇论文中，我们提出了一个新的框架，用于在动态系统中实现长期群体公平性，即使在政策设计过程中已经考虑了公平性。我们通过使用时间齐次马尔可夫链对系统动态进行建模，并利用马尔可夫链收敛定理优化政策，确保独特的收敛性。我们给出了一些系统的不同目标公平状态的示例，并展示了我们的方法如何在长期和收敛之前评估不同目标对群体条件人口分布的影响和演化。

Nov, 2023

因果公平性分析

本文提出了一个因果公平性分析的框架，以理解、建模和可能解决决策设置中的公平问题。研究挑战是挖掘潜在的因果机制并将各种公平度量与结构机制和人口单位归因。最后，提出了一个公平的菜谱，以评估不公平对各个人群的影响。

Jul, 2022

关于因果性在公正机器学习中的必要性和适用性

因果推理对于评估公平性至关重要，尤其是自动化决策和合法反歧视程序中。在实践中应用因果关系的挑战和限制以及可能的解决方案也进行了讨论。

Jul, 2022

算法决策中的公平：通过因果镜头探究

本研究通过因果模型的视角考虑了决策系统是否基于性别、种族、宗教等方面会造成歧视的问题，引入了基于因果关系的群体公平的两个定义：FACE 和 FACT，提出了鲁宾 - 尼曼潜在结果框架来鲁棒地估算 FACE 和 FACT，并在合成数据上展示了方法的有效性。同时，作者还在真实数据集上进行了分析，发现 FACT 比 FACE 更微妙，在不同情形下可得出不同结论。

Mar, 2019

线性动力系统观测预测中的公平性

本研究提出了两种子群公平和瞬时公平的概念，解决了时间序列预测中的偏差问题，并使用凸化层次结构全局收敛优化方法来证明我们的方法的有效性。

Sep, 2022

未知动态下的长期公平性

本文提出了一种在在线强化学习中形式化长期公平的方法；该方法可以适应不同的控制目标，通过牺牲短期激励来推动分类器 - 人群系统朝着更理想的均衡状态发展，从而在损失和公平违规之间实现同时概率边界的算法。

Apr, 2023