发现并消除歧视模式以学习公平朴素贝叶斯分类器

Jun, 2019

发现并消除歧视模式以学习公平朴素贝叶斯分类器

Learning Fair Naive Bayes Classifiers by Discovering and Eliminating Discrimination Patterns

YooJung Choi, Golnoosh Farnadi, Behrouz Babaki, Guy Van den Broeck

TL;DR该研究论文探讨了利用朴素贝叶斯分类器实现公平，提出了歧视模式的概念，介绍了一种发现和挖掘歧视模式的算法，并展示了一种学习最大似然参数以符合公平约束的方法，通过在三个真实世界数据集上进行实证评估表明，只增加少量约束即可消除指数级别的歧视模式。

Abstract

As machine learning is increasingly used to make real-world decisions, recent research efforts aim to define and ensure fairness in algorithmic decision making. Existing methods often assume a fixed set of observ

machine learning fairness naive bayes classifiers discrimination patterns real-world datasets

发现论文，激发创造

具备公平性的多敏感特征数据朴素贝叶斯分类器

本文研究了如何通过改进 two-naive-Bayes（2NB）算法，进而将之推广到 N-naive-Bayes（NNB）算法，从而得出一种基于多个敏感特征的差异公平性约束条件，并对其进行了实证研究。

Feb, 2022

概率电路公平性认证

本文提出了一种搜索疑似算法不公平因素的算法，不同于以往对于完整信息的处理，这个算法考虑了预测时的部分观测条件以及机器学习模型可能出现的疑似偏见，并引入了概率电路的概念，同时提供了一种基于抽样的方法来更有效地挖掘疑似偏见。

Dec, 2022

抗噪公平分类

本文研究了含有噪声敏感特征的公平机器学习算法，表明当使用均值差异分数作为公平性量度标准时，只需通过调整所需的公平容错率即可仍然学习出公平分类器，该容错率可以通过现有噪声率估计器进行估计，并在两个敏感特征审查案例研究中得到实证有效性。

Jan, 2019

公正感知学习与无偏表示

本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

Feb, 2020

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

数据受限二元分类中平衡公平性与准确性

在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

Mar, 2024

学习最优公平策略

通过因果推断和约束优化方法学习公平政策，解决敏感情境下数据分析中存在的多个潜在偏见，避免自动决策程序和学习算法继续存在不公平现象。

Sep, 2018

我的分类器为什么具有歧视性？

针对敏感应用如医疗保健或刑事司法等领域，本研究旨在解决在预测模型中公平性与准确性的平衡问题，并提出，应该在数据的背景下评估预测结果的公平性，并通过数据收集来解决样本大小或未测量的预测变量所带来的不公平性，同时通过将成本基准的歧视度量分解为偏差，方差和噪音，并提出旨在估计和减少每个术语的行动。最后，本文以收入，死亡率和审查等领域的预测为案例研究，确认这种分析方法的价值，并发现数据收集通常是减少歧视而不牺牲准确性的手段。

May, 2018

超越不公平对待和不公平影响：在不造成不公平待遇的情况下学习分类

介绍了一种新的不公平性概念 —— 不同的不公平待遇，并提出了针对基于决策边界分类器的不同不公平待遇的直观度量方法，这些方法可以轻松地作为凸 - 凹约束包含在公式中。实验表明，该方法在避免不同不公平待遇方面是有效的。

Oct, 2016

监督学习中的公正性：信息论方法

研究提出了一个信息理论框架来设计公平的预测器，以在监督学习环境中防止对指定敏感属性的歧视。使用平等的机会作为歧视标准，这要求在实际标签的条件下，预测应独立于受保护属性。同时确保公平和泛化，将数据压缩到辅助变量，再通过贝叶斯决策规则得到最终预测器。

Jan, 2018