本研究提出了一种新颖的方法来使用自动机器学习技术来减轻偏见，并通过改进 AutoML 的默认优化函数和将公平目标纳入其中来实现这一目标，使偏见得到很好的缓解而几乎不会带来精度损失，同时还提出了一种公平感知的搜索空间修剪方法，以减少计算成本和修复时间。通过在四个公平问题和 16 个不同的机器学习模型上进行评估，发现本研究的方法在修复成败中有着显著的改进，成功地修复了 60 个错误案例，而现有的偏差减轻技术只修复了 44 个错误案例。

Jun, 2023

人工智能在企业和组织中的作用越来越大，对人类用户的结果和利益产生了影响。自动化机器学习（AutoML）通过自动化重复性任务和基于数据的决策，简化了机器学习模型开发过程，使非专家也能够高效地构建高质量模型。然而，AutoML 工具在处理数据、模型选择和优化方法方面可能存在偏见。我们对用户界面的开源 AutoML 工具进行了实验研究（DataRobot、H2O Studio、Dataiku 和 Rapidminer Studio），以检查它们是否具备辅助用户开发公平感知机器学习模型的功能。实验涵盖了以下特征的评估考虑：了解用例上下文、数据表示、特征相关性和敏感性、数据偏差和预处理技术、数据处理能力、训练测试分离、超参数处理和约束、面向公平性的模型开发、解释性以及用户下载和编辑模型的能力。结果显示了特征在支持公平感知模型开发方面的不足。此外，结果还强调了在 AutoML 工具中确立某些促进公平性的基本特征的需要。

Dec, 2023

本文旨在通过形式化一致的公平概念，将哲学讨论转化为 ADM 系统中 ML 模型培训和评估的一种正式框架，并提出了一般算法，以实现 fairML 的更高语言清晰度和实际应用。

May, 2022

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

Oct, 2020

本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

Sep, 2022

调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

Aug, 2019

提出了针对自动决策系统的公平需求的知觉差异，指出了社会必须解决的基本模糊性和关注点列表，并为自动决策系统中对公平的增加需求赋予了具体含义。

Nov, 2023

该论文探讨了当前机器学习产品中的伦理问题，认为在实现一定程度上的公平性方面取得进展，即使这些进展并不能完全实现 “完全” 的公平或完全符合我们个人对公平度量的信念，也是一个应该受到欢迎的改进。这篇论文进一步阐述了这一观点及其重要性。

Jun, 2018

AEQUITAS 是一种自动化技术，可以发现系统内机器学习模型对待敏感输入的不公平性，使用概率搜索和测试用例生成等策略，生成能够检测不公平性的测试用例，并使用这些测试用例来提高模型的公平性，AEQUITAS 技术的实验表明，最多可提高 94% 的公平性。

Jul, 2018