现实中，由于法律、伦理和社会原因，对机器学习预测的公平性要求越来越高。尽管现有工作通常关注没有未观察到混淆的情况，但未观察到的混淆可能导致严重的因果公平性违规和不公平的预测。本研究分析了未观察到的混淆对因果公平性的敏感性，并提出了一个新的神经框架用于学习公平的预测，同时在一系列实验中验证了该框架的有效性。

Nov, 2023

研究使用观察数据学习个性化决策策略时如何考虑可能的未观测混杂因素以及最小化候选策略的最坏估计后悔的方法和算法，以在保证安全和关注证据改进的前提下得到可靠的个性化治疗策略。

May, 2018

本文研究了决策系统对于受保护类别的公正性评估时，如何使用基于观察到的代理指标的概率模型，如姓氏和地理位置来预测受保护类别并弥补缺失类别标签以满足合规性要求。作者发现该方法有偏差，并提出了一个基于软分类的替代方法，并证明了其偏差源于结果因果关系与真实类别成员资格的条件协方差。最后，作者使用数字模拟和抵押申请公共数据集进行实证研究，并得出结论：阈值法模型的偏差普遍上升，但大小强烈取决于所选择的阈值；而新的权重估计器倾向于具有负偏差，更容易分析和理解。

Nov, 2018

在快节奏的精准医学时代，观察性研究在正确评估临床实践中的新治疗方法中起着重要作用。然而，未观察到的混杂因素可能会严重影响从非随机数据中得出的因果结论。我们提出了一种新的策略，利用随机试验来量化未观察到的混杂因素。首先，我们设计了一个统计检验来检测强度高于给定阈值的未观察到的混杂因素。然后，我们使用该检验来估计一个渐近有效的下界，来度量未观察到的混杂因素的强度。我们在几个合成和半合成数据集上评估了我们统计检验的能力和有效性。此外，我们展示了如何使用我们的下界来正确识别现实世界中未观察到的混杂因素的存在和缺失。

Dec, 2023

本文提出了一种使用非参数方法、连续监控、基于概率策略和适应分布变化等特征的公平性审计方法，并在多个基准公平性数据集上验证其有效性。

May, 2023

本文使用机器学习系统支持决策制定在医疗保健中的问答涉及使用电子医疗记录中的观察性数据中隐含的偏见，进而进一步发展了组公平性标准，以在个体层面上扩展增益计数事实公正标准，探讨扩增的标准是否可以应用于使用观测性电子健康记录数据的病人长住和死亡的公平模型的开发。通过一个假设因果图的变分自动编码器来执行反事实推理，提供了一种在学习生成模型的背景下，在公平维护与预测性能下降之间权衡的方法。

Jul, 2019

本研究关注于公平性决策者的欺诈风险并且提出了一种难以检测的算法 —— 隐秘偏倚抽样来满足这种欺诈需求。

Jan, 2019

通过多重假设检验，在统计保证的前提下，使用自助法在子人群的集合中同时限制性能差异，从而识别受模型性能不足影响的子人群并验证模型在某些子人群中的适用性。此外，该方法还兼容超丰富甚至无限的子人群集合，并支持评估在某些分布变化下的性能。

May, 2023

本文研究了评估算法决策的不平等影响面临的根本性挑战：保护类成员在数据中通常不可观察。研究者考虑使用附加数据集来构建模型，从而预测代理变量（如姓氏和地理位置）来确定受保护类别的成员身份，提供了计算和可视化这些集合的算法和统计工具。通过借助美国人口普查数据和两个真实案例（抵押贷款和个性化药物剂量），展示了这种方法可以实现可靠和稳健的不平等影响评估。

Jun, 2019

该研究关注人工智能决策系统的公平性问题，提出了一种在存在不确定性的情况下，对长期数据进行带公平性约束的监督学习的新方法，能有效减少基于数据的不公平决策。

Jan, 2023