Jun, 2022

你的特征有多偏见？：使用全局敏感度分析计算公平影响函数

PDF
TL;DR本研究旨在通过引入公平影响函数对数据集中的特征进行量化，分解分类器偏差成由各个单独特征和多个特征所组成的组成部分，以更好地评估其公平性，并提出了一个基于方差分解和本地回归的算法 FairXplainer，该算法可以更准确地捕捉分类器的偏差，实现更好的公平干预。
fairnessmachine learningclassifier biasfairness influence functionvariance decomposition
发现论文，激发创造
  • 了解公平限制的实例级影响

    本研究使用影响函数（influence function）的概念研究了在实例级别强制公平约束时，训练示例的影响，提出了一种公平性影响函数。通过排名它们的影响分数，确定可能导致模型歧视的可疑培训示例，进行了大量实验并得出结论，仅在重要数据示例的子集上训练可以在准确性与公平性之间进行权衡。

    Jun, 2022

  • 算法公平性的因果特征选择

    本文介绍了一种使用因果干预公平性范例，通过在数据管理的集成组件中考虑公平性来识别特征以提高预测质量而不添加偏差的方法，提出了一种使用条件独立性检测的方法来确定确保干预公平的特征子集，并通过现实世界的数据集进行了详细的实证评估，证明了方法的有效性和效率。

    Jun, 2020

  • 通过平衡影响训练公平的深度神经网络

    我们提出了一个名为 FAIRIF 的两阶段训练算法，它可以应用于一系列使用随机梯度下降训练的模型，并通过在小型验证集上计算样本权重来实现跨不同人口群体的模型性能平衡，从而缓解先前机器学习算法中存在的不公平问题。在合成数据集和实际数据集上的实验表明，FAIRIF 可以在牺牲很少的模型实用性的情况下实现更好的公平性 - 实用性权衡。

    Jan, 2022

  • 在群体公平设置中检测敏感特征的统计学方法

    本文提出了一种基于 Hilber-Schmidt 独立性准则的预处理步骤，用于自动识别敏感特征，以解决机器学习模型在高度影响社会的决策支持系统中不公平结果的问题。我们的实验结果证明了我们的假设，并表明文献中被认为是敏感的几个特征不一定产生不公平结果。

    May, 2023

  • FIFA: 在训练不平衡数据分类器中使公平更具有普适性

    介绍了一种理论上遵循平衡公正（FIFA) 的灵活方法，以同时支持分类和公正的泛化，结合多种现有公正学习方法，为一些不平衡的数据集提供了更好的公正泛化。

    Jun, 2022

  • 公正的核学习

    研究如何通过包含公平性在目标函数中来解决机器学习中涉及敏感特征的不公平性问题。提出了基于新的公平分类框架的新型公平回归和降维方法，并通过使用 Hilbert Schmidt 独立性准则作为公平项，实现了线性和非线性问题的评估。

    Oct, 2017

  • 机器学习在医疗领域中公平特征选择的评估

    在普遍采用机器学习的医疗领域，自动化的社会偏见可能会加剧健康差距，我们探索了从特征选择的角度来解决算法公平性。传统的特征选择方法忽视了不同子群体之间这些因素的差异，而我们的公平特征选择方法考虑了所有人口群体的平等重要性。我们在三个公开可用的医疗数据集上测试了我们的方法，在这三个数据集上，我们观察到在公平性度量指标上的改善，同时平衡准确率仅有轻微下降。我们的方法解决了公平机器学习背景下的分配和程序公正性问题。

    Mar, 2024

  • 公平风险度量

    本研究提出了一个新的公平定义，通过对敏感特征感兴趣的亚组的期望损失进行衡量，从而实现了通用的敏感特征以及凸性目标的结果。该目标是基于条件风险最小化构建的，这与数学金融中风险度量的丰富文献相关。

    Jan, 2019

  • 公平性不确定性量化：您有多确定该模型是公平的？

    本文提出了一种在线 multiplier bootstrap 方法，用于构建置信区间，以评估通过在线 SGD 类型算法训练具有 Disparate Impact 和 Disparate Mistreatment 意识的线性二元分类器的公平性，并在合成和实际数据集上说明了其结果。

    Apr, 2023

  • 公平无知背景下的反事实推理用于偏差评估与检测

    该研究论文探讨了即使在没有敏感特征的情况下，机器学习模型仍可能存在歧视偏见的问题，并提出了利用反事实推理揭示模型潜在偏见的方法。

    Feb, 2023