Oct, 2023

表征准确性和公平性权衡帕累托边界的理论方法

PDF
TL;DR理论分析中，通过确定所有不可被其他分类器支配的最优 Pareto 分类器集合来确定准确性 - 公平性权衡帕累托前沿的形状，该研究旨在解决准确性 - 公平性权衡的长期挑战，并提供一个理论框架。
accuracy-fairness trade-offtheoretical analysespareto frontierreal-world scenariosfair machine-learning research
发现论文，激发创造
  • 公平性 - 准确性帕累托前沿

    本文提出使用 Pareto 前沿和 Chebyshev 标量化方案来解决算法公正中准确性和公正性的平衡问题，并证明 Chebyshev 标量化方案在恢复 Pareto 最优解方面比线性标量化方案具有更好的理论性能和计算成本效益。

    Aug, 2020

  • 算法公平性 - 准确性边界的推断

    通过提供一致的估计器和推理方法，本文研究了决策过程中算法的公平性和准确性之间的权衡，还提出了是否排除算法训练中的某些协变量以及是否存在非歧视性替代算法等方面的假设。

    Feb, 2024

  • 机器学习的准确性和公平性权衡：基于随机多目标方法的研究

    本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

    Aug, 2020

  • 学习公平表达的固有折衷

    本文研究了分类问题中的公平性和准确性之间的权衡，并提供了任何公平分类器群体误差和任何（近似）公平分类器的联合误差的下限，从公平表示学习角度推广这个结果。

    Jun, 2019

  • 多任务学习中公平性和准确性权衡的理解和改进

    本文讨论了多任务学习中组公平性对于准确性的影响，提出了一种新的测量多维 Pareto 前沿的公平性 - 准确性权衡的方法，并提出了一种多任务感知公平性（MTA-F）方法来改善多任务学习中的公平性。实验结果表明，该方法的有效性。

    Jun, 2021

  • 数据受限二元分类中平衡公平性与准确性

    在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

    Mar, 2024

  • 分类中公平的代价

    本文研究学习分类器的公平性约束问题并提出了三种解决方案，分别是将两个现有的公平性度量关联到成本敏感风险，显示了对于成本敏感分类和公平性度量的最优分类器是类概率函数的实例相关阈值，并展示了准确性和公平性之间的权衡是通过目标和敏感特征的类概率之间的一致性来确定的。支撑我们分析的是一个通用框架，将具有公平要求的学习问题建模为两种统计风险差异的最小化问题。

    May, 2017

  • 公平性 - 准确性权衡：因果视角

    机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

    May, 2024

  • 算法公平度 - 准确性权衡研究中的突发不公

    该文探讨了机器学习中的公平性与准确性的权衡以及该领域中存在的数学假设，认为这些假设可能导致不一致的结论和潜在的不公平性，并提出了解决方案。

    Feb, 2021

  • 学习公正性，走向公平、隐私和效用的帕累托前沿

    采用中立性原则，提出一个用于机器学习的管道的设计，在优化准确度的同时，不会偏向公平性或隐私，使用方法 FairDP-SGD 和 FairPATE 得到真正的 Pareto 前沿线。

    Feb, 2023