差异特征未报告对算法公平性的影响

Jan, 2024

差异特征未报告对算法公平性的影响

The Impact of Differential Feature Under-reporting on Algorithmic Fairness

Nil-Jana Akpinar, Zachary C. Lipton, Alexandra Chouldechova

TL;DR本研究提出了一个分析可追踪的差异特征低报告模型，并用此模型来表征此类数据偏差对算法公平性的影响。我们证明在实际数据环境中，低报告通常导致不公平的增加，而我们提出的解决方案方法成功地减轻了不公平的增加。

Abstract

predictive risk models in the public sector are commonly developed using administrative data that is more complete for subpopulations that more greatly rely on public services. In the United States, for instance,

predictive risk models public sector data bias algorithmic fairness differential feature under-reporting

发现论文，激发创造

公平无知背景下的反事实推理用于偏差评估与检测

该研究论文探讨了即使在没有敏感特征的情况下，机器学习模型仍可能存在歧视偏见的问题，并提出了利用反事实推理揭示模型潜在偏见的方法。

Feb, 2023

机器学习在医疗领域中公平特征选择的评估

在普遍采用机器学习的医疗领域，自动化的社会偏见可能会加剧健康差距，我们探索了从特征选择的角度来解决算法公平性。传统的特征选择方法忽视了不同子群体之间这些因素的差异，而我们的公平特征选择方法考虑了所有人口群体的平等重要性。我们在三个公开可用的医疗数据集上测试了我们的方法，在这三个数据集上，我们观察到在公平性度量指标上的改善，同时平衡准确率仅有轻微下降。我们的方法解决了公平机器学习背景下的分配和程序公正性问题。

Mar, 2024

在群体公平设置中检测敏感特征的统计学方法

本文提出了一种基于 Hilber-Schmidt 独立性准则的预处理步骤，用于自动识别敏感特征，以解决机器学习模型在高度影响社会的决策支持系统中不公平结果的问题。我们的实验结果证明了我们的假设，并表明文献中被认为是敏感的几个特征不一定产生不公平结果。

May, 2023

组条件缺失人口的公平风险

通过概率插值敏感特征并联合学习组条件缺失概率的变分自编码器，我们提出了公平感知分类模型，以解决隐私、法律问题和个体恐惧所导致的敏感特征全知要求的实际不可行性问题，我们的模型在图像和表格数据集上表现出较好的准确性和公平性平衡。

Feb, 2024

数据不平衡对差分隐私的效用和公平性的影响：既非私密，也非公平

研究了不同程度数据不平衡和隐私保证对深度学习模型准确性和公平性的影响，并发现即使数据有小的不平衡和较宽松的隐私保证也会引起非公平性。

Sep, 2020

基于人口统计学的算法公平性：揭示在追求公平性过程中人口统计数据收集的风险

本文探讨了收集人口统计数据用于实现算法公平性所面临的风险和挑战，并呼吁在数据管理和系统性压抑等领域中解决这些问题。

Apr, 2022

临床存在下的填补策略：对算法公平性的影响

本文探讨了在机器学习过程中常被忽略的数据预处理步骤 —— 数据填补，对医疗领域存在的偏见和影响较大的群体不平等性产生的影响，并提出了缓解不平等的建议。

Aug, 2022

利用数据组合评估隐含保护类别的算法公正性

本文研究了评估算法决策的不平等影响面临的根本性挑战：保护类成员在数据中通常不可观察。研究者考虑使用附加数据集来构建模型，从而预测代理变量（如姓氏和地理位置）来确定受保护类别的成员身份，提供了计算和可视化这些集合的算法和统计工具。通过借助美国人口普查数据和两个真实案例（抵押贷款和个性化药物剂量），展示了这种方法可以实现可靠和稳健的不平等影响评估。

Jun, 2019

算法公平性的因果特征选择

本文介绍了一种使用因果干预公平性范例，通过在数据管理的集成组件中考虑公平性来识别特征以提高预测质量而不添加偏差的方法，提出了一种使用条件独立性检测的方法来确定确保干预公平的特征子集，并通过现实世界的数据集进行了详细的实证评估，证明了方法的有效性和效率。

Jun, 2020

我的分类器为什么具有歧视性？

针对敏感应用如医疗保健或刑事司法等领域，本研究旨在解决在预测模型中公平性与准确性的平衡问题，并提出，应该在数据的背景下评估预测结果的公平性，并通过数据收集来解决样本大小或未测量的预测变量所带来的不公平性，同时通过将成本基准的歧视度量分解为偏差，方差和噪音，并提出旨在估计和减少每个术语的行动。最后，本文以收入，死亡率和审查等领域的预测为案例研究，确认这种分析方法的价值，并发现数据收集通常是减少歧视而不牺牲准确性的手段。

May, 2018