Feb, 2020

分类中不同待遇的影响：分割还是不分割？

PDF
TL;DR本文针对机器学习中存在的不公平待遇问题，提出了一种新的分类器算法 —— 分裂分类器。与传统的盲目分类器不同，分裂分类器可以更好地解决性别 / 年龄等敏感属性的问题，并且通过实验验证了该算法的有效性。
disparate treatmentmachine learningsplit classifiergroup-blind classifierbenefit-of-splitting
发现论文，激发创造
  • 超越不公平对待和不公平影响：在不造成不公平待遇的情况下学习分类

    介绍了一种新的不公平性概念 —— 不同的不公平待遇，并提出了针对基于决策边界分类器的不同不公平待遇的直观度量方法，这些方法可以轻松地作为凸 - 凹约束包含在公式中。实验表明，该方法在避免不同不公平待遇方面是有效的。

    Oct, 2016

  • 减少机器学习的影响差异是否需要治疗差异？

    通过技术分析，本文认为透明的治疗不平等相对于其他方法更可取，以实现影响平等，这是通过算法决策制定的结果之一，并对几个真实数据集的实验结果进行了高亮度的实际影响。

    Nov, 2017

  • 在群体公平设置中检测敏感特征的统计学方法

    本文提出了一种基于 Hilber-Schmidt 独立性准则的预处理步骤，用于自动识别敏感特征，以解决机器学习模型在高度影响社会的决策支持系统中不公平结果的问题。我们的实验结果证明了我们的假设，并表明文献中被认为是敏感的几个特征不一定产生不公平结果。

    May, 2023

  • 公平高效机器学习的解耦分类器

    本文研究当使用敏感信息来训练机器学习系统时如何保证公平性，提出了一种有效的技术 —— 基于转移学习的去耦合方法，并且可适用于多个公平标准下的任务，但是需要在应用设计者规定的联合损失函数下权衡公平性和准确性。

    Jul, 2017

  • 证明和消除不同影响

    通过研究受保护类别和过程的定义，提出基于导出数据的方法来评估算法偏差，并描述了消除偏差和保留数据相关信息的方法。

    Dec, 2014

  • 公平感知机器学习的两阶段算法

    论文提出了一种基于两阶段最小二乘法的公平机器学习算法，能够有效处理数据中敏感属性与非敏感属性相关的不公平问题， 其独特之处在于该算法针对回归模型的不公平问题也能做出有效处理，并且能够解决数字敏感属性的问题，经实验验证表现卓越。

    Oct, 2017

  • 避免偏见的对抗性分布：无需重新训练的修复方法

    利用机器学习模型的输出和输入的概率分布对基于敏感属性（如性别或种族）的性能不均衡进行量化，并通过扰动劣势群体的输入变量的分布来减少固定分类模型对感兴趣人群的影响，从而通过数据预处理器实现消除性能差异的目的。

    Jan, 2019

  • 学习分割以实现自动偏差检测

    本文介绍了一种自动偏差检测算法，名为 Learning to Split，可用于超视带学习问题中的训练集和测试集分离和偏差发现，此算法能够自动检测到偏差，并结合强大的机器学习算法，实现自动去偏差。

    Apr, 2022

  • 无需公平训练的公平分类器：一种受影响引导的数据采样方法

    学习公平分类器的方法是避免使用敏感属性的训练数据，在适当分布转移的数据集上进行传统训练可以同时减少公平差距上界和模型泛化误差，提高公平性和准确性。我们提出了一种可行的解决方案，通过采样有影响力的数据来在训练过程中逐步转移原始训练数据，其中新数据的敏感属性不会被访问或用于训练。对真实数据的大量实验验证了我们提出算法的有效性。

    Feb, 2024

  • 有监督学习中的机会平等

    本研究提出了一种针对监督学习中指定敏感属性的歧视判据，结合 FICO 信用评分案例研究来说明该判据是如何通过调整学习预测器的方式达到消除歧视的目的。同时，本文研究了基于被遗忘的测试方式定义和识别偏见的固有限制。

    Oct, 2016