修正公平性时要考虑准确性：使用 AutoML 进行性能感知的公平性修复

Jun, 2023

修正公平性时要考虑准确性：使用 AutoML 进行性能感知的公平性修复

Fix Fairness, Don't Ruin Accuracy: Performance Aware Fairness Repair using AutoML

Giang Nguyen, Sumon Biswas, Hridesh Rajan

TL;DR本研究提出了一种新颖的方法来使用自动机器学习技术来减轻偏见，并通过改进 AutoML 的默认优化函数和将公平目标纳入其中来实现这一目标，使偏见得到很好的缓解而几乎不会带来精度损失，同时还提出了一种公平感知的搜索空间修剪方法，以减少计算成本和修复时间。通过在四个公平问题和 16 个不同的机器学习模型上进行评估，发现本研究的方法在修复成败中有着显著的改进，成功地修复了 60 个错误案例，而现有的偏差减轻技术只修复了 44 个错误案例。

Abstract

machine learning (ML) is increasingly being used in critical decision-making software, but incidents have raised questions about the fairness of ML predictions. To address this issue, new tools and methods are needed to mitigate bias in ML-based software. Previous studies have proposed

machine learning bias mitigation automated machine learning optimization function fairness-aware search space

发现论文，激发创造

自动化公平性是否可行？面向公平意识的自动机器学习的指南和机会

自动机器学习是一项加速机器学习系统开发过程的技术，但考虑了公平性后，公平性优化不应被简单地视为一项技术问题，自动机器学习应成为机器学习从业者工具箱中为公平性研究服务的重要角色。

Mar, 2023

一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

May, 2020

迈向公平机器学习软件：通过反事实推理理解和解决模型偏见

本研究通过反事实思考，提出一种针对 ML 软件中偏见根源的创新对策，并将优化性能和公平性模型相结合，成功提高了 ML 软件的公平性并保持了高竞争力性能

Feb, 2023

机器学习分类器偏见缓解方法的全面实证研究

该研究对机器学习分类器的 17 种生动代表性偏差缓解方法进行了综合性的实证研究，在 8 种广泛采用的软件决策任务中应用了 11 种 ML 性能度量（例如，准确性）、4 种公平度量以及 20 种公平 - 性能权衡评估。在分析过程中，作者发现，无法在所有情境下达到最佳公平 - 性能平衡。

Jul, 2022

机器学习中的公平性：一项调查

这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

Oct, 2020

谨慎民主化：针对用户界面的开源自动机器学习工具中的公平特性需求

人工智能在企业和组织中的作用越来越大，对人类用户的结果和利益产生了影响。自动化机器学习（AutoML）通过自动化重复性任务和基于数据的决策，简化了机器学习模型开发过程，使非专家也能够高效地构建高质量模型。然而，AutoML 工具在处理数据、模型选择和优化方法方面可能存在偏见。我们对用户界面的开源 AutoML 工具进行了实验研究（DataRobot、H2O Studio、Dataiku 和 Rapidminer Studio），以检查它们是否具备辅助用户开发公平感知机器学习模型的功能。实验涵盖了以下特征的评估考虑：了解用例上下文、数据表示、特征相关性和敏感性、数据偏差和预处理技术、数据处理能力、训练测试分离、超参数处理和约束、面向公平性的模型开发、解释性以及用户下载和编辑模型的能力。结果显示了特征在支持公平感知模型开发方面的不足。此外，结果还强调了在 AutoML 工具中确立某些促进公平性的基本特征的需要。

Dec, 2023

FairLay-ML: 数据驱动型社会关键算法中不公平现象的直观解决方案

本文介绍了 FairLay-ML，一种结合了已有研究工具的图形用户界面，能够提供机器学习模型中不公平逻辑的直观解释，具有易于安装、提供实时黑盒解释和可执行的解决方案等特点。

Jul, 2023

机器学习软件中的偏见：为什么？怎样？该怎么办？

本研究拟定了 Fair-SMOTE 算法以解决自主决策中可能存在的偏见以及带来的问题，通过消除偏见标签、平衡内部分布使得基于敏感属性的示例在正负两类中均等地分布，从而提高了性能表现，并被证实是一种成功的偏差缓解方法。

May, 2021

公平信貸評分的算法決策方法

本研究探讨了 12 种顶级的偏差缓解方法，讨论其性能，基于 5 种不同的公平度量标准、实现的准确性和金融机构的潜在利润。我们的研究结果表明，在保留准确性和利润的前提下实现公平存在困难，同时突出了一些最佳和最差的表现，并有助于实验机器学习和其工业应用之间的联系。

Sep, 2022

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020