Sep, 2023

朝着实现以管道为导向的机器学习公平性：开发实用准则和工具的研究议程

PDF
TL;DR通过调查公平机器学习文献并收集先前工作，本研究为机器学习研究者、从业者和学生绘制了探索、设计和测试面向算法公平性的管道导向方法的更全面资源集。
发现论文，激发创造
  • 将公平原则付诸实践：挑战、度量和改进

    本文研究算法公平性在机器学习中的应用，并提出了衡量和解决算法公平性问题的新方法，包括公平性指标和模型训练优化。

    Jan, 2019

  • 机器学习系统公平性的提升：业界从业者需求如何？

    本文通过 35 个半结构化面谈和 267 个机器学习从业者的匿名调查，系统研究了商业产品团队开发公平的机器学习系统所面临的挑战和需求，发现了业界从业者面临的挑战及公平机器学习的研究文献中提出的解决方案之间的一些不协调之处，并提出了未来机器学习与人机交互研究的方向，以更好地满足产业从业者的需求。

    Dec, 2018

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020

  • 反思公平：对霸权机器学习公平方法批评的跨学科调查

    本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。

    May, 2022

  • 商业分析中的算法公正性：研究与实践方向

    该论文提供了针对算法公平性的业务分析的前瞻性评论，首先审查了偏差的来源和度量标准以及偏差缓解算法的最新研究进展，然后详细讨论了效用公平关系，并最终确定了业务学者可以解决和解决的关键挑战，这些挑战对 BA 的有效和负责任的部署至关重要。

    Jul, 2022

  • 公平流水线

    本研究旨在通过将公平考虑因素分离出来，促进机器学习的公平性，特别研究了公平如何通过复合决策流程（我们称之为流水线）传播，算法公平性之前的工作仅关注于一个决策方面的公平性，然而许多决策过程需要超过一个决策。

    Jul, 2017

  • 机器学习中交叉公平性综述：概念、缓解和挑战

    在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

    May, 2023

  • 机器学习开发中的公平性：从伦理原则到与利益相关者的持续协商实践

    本文阐述了机器学习中为何无法完全消除偏见，并提出一种端到端的方法论，将道德原则转化为机器学习开发实践，并支持团队逐步处理机器学习系统中的偏见，以及指南如何向用户解释这种不完美的权衡。

    Mar, 2023

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 探讨机器学习从业者如何使用公正工具包

    本文通过深入实证探究了行业从业者如何学习、使用公平性工具集，提出了公平性工具集需要更好地满足从业者的需求并支持其更有效和负责任地使用工具集的几个机会和启示。

    May, 2022