Feb, 2022

级联去偏：研究多项增进公平的干预的累积效应

PDF
TL;DR本研究着重探索不同阶段的机器学习管道中多个公正增强干预措施的累积效应对公正的影响，发现通过应用多个干预措施可提高公正性并降低效用度，但是增加更多的干预措施并不总是带来更好的公正性或更差的效用度，并提出了在不同公正和效用度指标下执行最佳干预组合以帮助设计公正的机器学习管道的清单。
fairnessmachine learninginterventionsmetricspopulation groups
发现论文，激发创造
  • 机器学习中促进公平的干预措施比较研究

    本篇研究通过开发公开基准来对不同的公平性增强算法进行比较，并发现许多公平性措施之间具有强烈的相关性，但这些措施也对数据集构成的波动敏感，这表明公平干预可能比以前认为的更脆弱。

    Feb, 2018

  • 机器学习分类器偏见缓解方法的全面实证研究

    该研究对机器学习分类器的 17 种生动代表性偏差缓解方法进行了综合性的实证研究，在 8 种广泛采用的软件决策任务中应用了 11 种 ML 性能度量（例如，准确性）、4 种公平度量以及 20 种公平 - 性能权衡评估。在分析过程中，作者发现，无法在所有情境下达到最佳公平 - 性能平衡。

    Jul, 2022

  • 一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

    本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

    May, 2020

  • 关于提高深度学习模型公正性的大规模经验研究

    本论文开展了第一次大规模实证研究，全面比较了现有最先进的公平性改进技术的性能，结果显示不同方法在不同数据集和敏感属性上表现存在较大差异，且不同的公平评估指标产生显著不同的评估结果，其中预处理方法和内处理方法优于后处理方法，预处理方法表现最佳，本研究为深度学习模型公平性提供了全面的建议。

    Jan, 2024

  • 超越准确性和公平性：不再仅基于群组间指标对偏见缓解方法进行评估

    人工智能（AI）在各领域广泛应用，引发对公平性的关注。然而，现行的讨论往往强调基于结果的度量，而对亚组内不同影响缺乏细致考虑。偏见缓解技术不仅影响敏感组之间实例的排名，而且通常也显著影响这些组内实例的排名。这种变化很难解释，并引发对干预有效性的担忧。然而，当前通常使用的准确性公平评估框架很少注意到这些效应。本文挑战用于评估偏见缓解技术的现行指标，认为它们不考虑组内变化，导致预测标签无法反映真实场景。我们提出一个范式转变：首先，我们应该专注于为每个亚组生成最准确的排名。然后，根据这些排名选取个体以满足公平标准和实际考量。

    Jan, 2024

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023

  • 算法公平性的因果特征选择

    本文介绍了一种使用因果干预公平性范例，通过在数据管理的集成组件中考虑公平性来识别特征以提高预测质量而不添加偏差的方法，提出了一种使用条件独立性检测的方法来确定确保干预公平的特征子集，并通过现实世界的数据集进行了详细的实证评估，证明了方法的有效性和效率。

    Jun, 2020

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • 任意性超越公平 - 准确度前沿线

    机器学习中的公平干预可能会加剧预测复杂性，而提出了一种可应用于任何公平干预的集成算法来解决挑战并确保更一致的预测。

    Jun, 2023

  • 公平机器学习的延迟影响

    本研究研究了在机器学习中关于公平性的概念，发现公平标准在不同的时间指标下可能会对个体产生不同的影响，同时量化误差也会影响其效果评估。

    Mar, 2018