ICMLAug, 2021

社会规范偏见：公平感算法的残留伤害

PDF
TL;DR本文通过研究职业分类中的 gender bias 问题，揭示了机器学习模型中可能存在的 Social Norm Bias (SNoB) 并比较了不同公平性算法的效果，显示这是一种残余偏差，后处理方法无法修正这种偏差。
machine learningfairness constraintsalgorithmic discriminationgender biasoccupational classification
发现论文，激发创造
  • 使用敏感子空间鲁棒性训练个体公平的机器学习模型

    我们考虑培训机器学习模型，使其在输入的某些敏感扰动下表现不变的公平性，这种公平性的形式化表述为个体公平性的一种变体，并使用分布鲁棒优化方法在训练期间强制执行。我们还展示了该方法在两个容易受到性别和种族偏见影响的机器学习任务上的有效性。

    Jun, 2019

  • 机器学习软件中的偏见：为什么？怎样？该怎么办？

    本研究拟定了 Fair-SMOTE 算法以解决自主决策中可能存在的偏见以及带来的问题，通过消除偏见标签、平衡内部分布使得基于敏感属性的示例在正负两类中均等地分布，从而提高了性能表现，并被证实是一种成功的偏差缓解方法。

    May, 2021

  • 社会技术系统中降低学习算法歧视以促进社会公益

    通过使用贝叶斯优化算法，解决了智慧出行倡议中机器学习算法所带来的社会不平等问题。

    Nov, 2020

  • GroupMixNorm 层用于学习公平模型

    提出了一种基于 GroupMixNorm 层的处理方法，通过混合样本的组级特征统计数据来减轻深度学习模型中的偏见，该方法在减少偏见的同时对整体准确性影响较小。实验结果表明该方法在标准数据集上取得了最先进的性能，同时还表明 GroupMixNorm 层对于新的受保护属性在推理过程中的稳健性及其在预训练网络中消除偏见的效用。

    Dec, 2023

  • 机器学习中的低表示和抽样偏差问题探讨

    本文介绍了通过采样偏差分析和定义样本大小偏差和代表性偏差，以及探讨借助企图收集欠代表的群体样本来处理歧视的观点。

    Jun, 2023

  • 基于置信度的公平性与准确性平衡方法

    研究三种经典机器学习算法（自适应 boosting，支持向量机和逻辑回归算法）在算法公平性方面的应用，旨在通过改变决策边界以减少对某一保护组成员的歧视。提出的方法在准确度和低歧视方面与先前的算法相当或优于，同时允许快速透明地量化偏差和误差之间的权衡。通过新的公平度量（RRB），结合偏差和准确性来提供算法公平性的更完整的图景。

    Jan, 2016

  • 具备公平性的多敏感特征数据朴素贝叶斯分类器

    本文研究了如何通过改进 two-naive-Bayes（2NB）算法，进而将之推广到 N-naive-Bayes（NNB）算法，从而得出一种基于多个敏感特征的差异公平性约束条件，并对其进行了实证研究。

    Feb, 2022

  • 通过将数据转化为与偏差正交的方式实现反事实公平性

    介绍了一种新的数据预处理算法 Orthogonal to Bias (OB)，旨在消除连续敏感变量的影响，从而实现机器学习应用中的反事实公平性，并通过模拟和实际数据集的实证评估证明该方法能够在不损害准确性的情况下实现更加公平的结果。

    Mar, 2024

  • 内生行为的公平预测

    本文通过研究模型，发现在刑事司法中，平衡不同人群的类型 I 和类型 II 错误与最小化总犯罪率目标是一致的，而其他流行的公平理念则不然。

    Feb, 2020

  • 算法决策政策的长期影响：通过社会学习的努力不公和特征隔离

    该研究提出了一种算法公平的努力程度量度标准，并提出了一种数据驱动框架，用于表征算法政策对重塑基础人口的长期影响。

    Mar, 2019