May, 2024

基于社会福利优化的群体公平评估

PDF
TL;DR该论文通过优化社会福利功能（SWF）来评估各种公平性定义，探讨了广义社会公正观念是否对实现 AI 中的公平性有用，结果表明最优解可以在特定条件下证明人口平等或平等几率，但通常需要偏离这些平等类型。此外，预测率平衡的实用性有限，这些结果表明优化理论可以为如何在 AI 中实现群体公平性的讨论问题提供启示。
statistical parity metricsfairnesssocial justicesocial welfare functiongroup fairness
发现论文，激发创造
  • 具有统计保证的参数公平性

    通过将与预测相关的分布属性纳入考虑，我们扩展了人口平等的概念，允许专家知识在公平解决方案中得到应用，并通过一个工资的实际案例说明了此新度量的使用，同时开发了解决实际挑战的参数方法，提供了一个适用于现实生活中应用场景的强大解决方案。

    Oct, 2023

  • 论统计平等的道德正当性

    本文分析算法公正中的道德层面，提出统计公平准则（独立性）需要在不公正社会差异或测量误差引发预测特征差异的情况下实现，同时引证两个反例说明这一准则并不是普遍适用的。

    Nov, 2020

  • 公平分类与社会福利

    本文介绍了分类和公平制度的基于福利的分析，证明了更严格的公平标准通常不符合社会选择理论和福利经济学中的 Pareto 原理，并表明这些约束往往不能保证公正。

    May, 2019

  • 公平影响最大化：福利优化方法

    该研究提出了一种基于社会福利理论的公平影响最大化算法框架，旨在解决传统算法中存在的对少数群体不公平的问题，并证明了该框架可以高效地解决优化问题。

    Jun, 2020

  • 关于群体公平和个体公平之间的 (不) 兼容性

    我们研究了最优统计公平性解决方案与个别公平性之间的兼容性，并分析了它们之间的冲突以及潜在解决方案。通过放宽前者到 Pareto 边界，我们确定了满足个体公平性要求的 Pareto 边界区域，从而使统计公平的 Pareto 最优性与个体公平性的约束相适应。

    Jan, 2024

  • 极小化帕累托公平性：一个多目标视角

    本研究将群体公平性形式化为一个多目标优化问题，并提出一种公平性标准和优化算法，在深度神经网络上进行测试并展示如何减少最坏情况下的分类错误。

    Nov, 2020

  • 排名和回归的成对公平性

    我们提出了针对排名模型和回归模型的成对公平度量标准，这些标准类似于统计公平概念，如平等机会、平等准确性和统计平等，通过现有的约束优化和鲁棒优化技术可以有效地解决结果训练问题，实验表明这些方法具有广泛的适用性和权衡性。

    Jun, 2019

  • 公平度量与权衡导航

    通过使用 Rawls 公正作为选择公平措施及取得平衡的基础，我们可以为 AI 系统中的公平 / 准确度取得权衡提供一个有原则的选择，从而集中关注最脆弱的群体和最有影响该群体的公平措施。

    Jul, 2023

  • 通过后处理预测器实现公平且最优分类

    该论文研究了机器学习中的公平性问题，提出了在保持公平的前提下如何提高预测模型性能的方法，并且证明了最小误差率可以通过 Wasserstein 平均问题的最优值来计算，从而提出了一种简单的后处理方法来保证模型的公平性。

    Nov, 2022

  • 保护受保护群体：规避有害公平性

    介绍了一种名为 Welfare-Equalizing 的公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。

    May, 2019