FairCompass：机器学习中的公平操作

Dec, 2023

FairCompass：机器学习中的公平操作

FairCompass: Operationalising Fairness in Machine Learning

Jessica Liu, Huaming Chen, Jun Shen, Kim-Kwang Raymond Choo

TL;DR提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

Abstract

As artificial intelligence (AI) increasingly becomes an integral part of our societal and individual activities, there is a growing imperative to develop responsible AI solutions. Despite a diverse assortment of machine learning fairness solutions is proposed in the literature, there i

artificial intelligence machine learning fairness human-in-the-loop approach fairness auditing visual analytics

发现论文，激发创造

在交互式人机协同 AI 公平性中促进最终用户的参与

我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

Apr, 2022

机器学习中的公平性：一项调查

这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

Oct, 2020

AI 中正确的公平性探讨

正义是公平的概念。在没有统一接受的公平概念的情况下，如何为特定应用程序选择最适当的公平度量标准是实现可持续公正的关键问题。为了提供更多实用指导，作者提出了 “公平度量罗盘”，这是一个工具，可以形式化选择过程，并简化选择特定系统的最适当的公平定义。同时还可以解释和证明所采取公平措施的理由。

Feb, 2021

机器学习中的偏差与公正调查

调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

Aug, 2019

超人公平性

将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

Jan, 2023

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

公平是什么？对公平机器学习的哲学思考及其含义

本文旨在通过形式化一致的公平概念，将哲学讨论转化为 ADM 系统中 ML 模型培训和评估的一种正式框架，并提出了一般算法，以实现 fairML 的更高语言清晰度和实际应用。

May, 2022

针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

Nov, 2022

应用公平性如何？

该论文探讨了当前机器学习产品中的伦理问题，认为在实现一定程度上的公平性方面取得进展，即使这些进展并不能完全实现 “完全” 的公平或完全符合我们个人对公平度量的信念，也是一个应该受到欢迎的改进。这篇论文进一步阐述了这一观点及其重要性。

Jun, 2018

自动化公平性是否可行？面向公平意识的自动机器学习的指南和机会

自动机器学习是一项加速机器学习系统开发过程的技术，但考虑了公平性后，公平性优化不应被简单地视为一项技术问题，自动机器学习应成为机器学习从业者工具箱中为公平性研究服务的重要角色。

Mar, 2023