Jun, 2018

运用最优输运理论获得公平性

PDF
TL;DR本文首先介绍了统计算法在决策中的应用，提出了公平性的概念，进而研究了不同的公平性定义。特别地，文中重点研究了不平等影响和平衡误差率这两个概念，并探讨了它们之间的关系。其目的在于检测二分类规则是否缺乏公平性，同时修改输入数据以应对潜在的歧视问题。针对后者，本文利用最优传输理论对数据进行修改。
fairnessdiscriminationstatistical algorithmsdisparate impactbalanced error rate
发现论文，激发创造
  • 利用最优传输解决图像分类中的公平性和可解释性问题

    算法公平性和不公平结果的可解释性对于在医疗保健和执法等领域建立人工智能系统的信任和问责是至关重要的。我们提出了一种基于最优运输理论的全面方法，通过发现图像中有偏差区域的原因和影响来建立模型的解释性。这些发现对于开发值得信赖、公正的 AI 系统，在各个领域的决策中提供透明、问责和公平具有重要意义。

    Aug, 2023

  • 公平性对于最优传输的边缘预测

    本文主要研究了图中预测任务的算法公正问题，提出了一种嵌入不可知的修复过程以实现组内和个体的公正权衡，并在实验中验证了该方法对不同公正概念和预测准确性的显式控制能力。

    Oct, 2020

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 群体无差别最优输运到群体平等及其约束变体

    我们设计了一种单一的群体盲扫描映射，它使源数据中两个群体的特征分布对齐，从而实现了（人口）群体平等，而不需要在映射的计算和使用过程中提供个体样本的受保护属性的值，也不依赖受保护属性的可访问性或估计。

    Oct, 2023

  • 通过最优输运获得二元公平性

    本文提出了一种基于最优输送理论的预处理方法，用于通过数据修复建立先贤公正，并通过条件分布对齐问题转化为等价的二元修复方案，从而为流行的链路预测任务获得公平性。此外，提出了一种名为 DyadicOT 的基于最优输送的二元公平算法，实验表明该算法相比其他公平性方法在两个基准图数据集中能够产生更好的公平性结果。

    Feb, 2022

  • 学习最优公平策略

    通过因果推断和约束优化方法学习公平政策，解决敏感情境下数据分析中存在的多个潜在偏见，避免自动决策程序和学习算法继续存在不公平现象。

    Sep, 2018

  • 监督学习中的公正性：信息论方法

    研究提出了一个信息理论框架来设计公平的预测器，以在监督学习环境中防止对指定敏感属性的歧视。使用平等的机会作为歧视标准，这要求在实际标签的条件下，预测应独立于受保护属性。同时确保公平和泛化，将数据压缩到辅助变量，再通过贝叶斯决策规则得到最终预测器。

    Jan, 2018

  • 基于置信度的公平性与准确性平衡方法

    研究三种经典机器学习算法（自适应 boosting，支持向量机和逻辑回归算法）在算法公平性方面的应用，旨在通过改变决策边界以减少对某一保护组成员的歧视。提出的方法在准确度和低歧视方面与先前的算法相当或优于，同时允许快速透明地量化偏差和误差之间的权衡。通过新的公平度量（RRB），结合偏差和准确性来提供算法公平性的更完整的图景。

    Jan, 2016

  • 公平和偏见的逻辑理论

    本文主要论述机器学习中公平性问题，提出三种公平模型：无意识公平、人口统计学公平和反事实公平，并在认识情境演算中进行了形式化的定义。

    Jun, 2023

  • 通过最优输运实现公平性测试的 FlipTest

    本研究提出了一种黑盒技术 FlipTest，旨在检测分类器中的歧视现象，通过优化传输将不同保护组的个体匹配，创建相似的样本对，构建 Flipset 以发现歧视，并生成透明度报告以阐明模型对给定子组的行为最相关的特征。

    Jun, 2019