非 IID 图数据中的公平性：现状与未来方向

Feb, 2022

非 IID 图数据中的公平性：现状与未来方向

Fairness Amidst Non-IID Graph Data: Current Achievements and Future Directions

Wenbin Zhang, Shimei Pan, Shuigeng Zhou, Toby Walsh, Jeremy C. Weiss

TL;DR研究机器学习中的算法偏差和公平性的重要性已经导致公平性研究的增加，这通常假定底层数据是独立且分布相同的，但实际上，数据通常用非 IID 图结构表示，在非 IID 图数据中进行公平性研究对于弥合传统的 IID 数据所设计的公平性文献和现有工作的局限性，并有前途的研究方向非常重要。

Abstract

The importance of understanding and correcting algorithmic bias in machine learning (ML) has led to an increase in research on fairness in ML, which typically assumes that the underlying data is independent and identically distributed (IID). However, in reality, data is often represent

algorithmic bias fairness in machine learning non-iid graph data evaluation metrics future directions

发现论文，激发创造

图挖掘中的公平性：一项调查

本文介绍了公平图挖掘领域中现有文献的全面和最新研究进展，提出了基于图的公平法则的新分类方法，并提出了促进公平性的现有技术的有组织的总结。还总结了该领域中广泛使用的数据集，并提供了对当前研究挑战和开放问题的见解，以鼓励跨越交流思想和进一步发展。

Apr, 2022

关于公平感知机器学习数据集的调查

本文概述了应用于公平感知机器学习中的真实世界数据集，并使用贝叶斯网络分析数据特征之间的关系，进一步进行了探索性分析。

Oct, 2021

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

公平感知的图神经网络：一份调查

通过对图神经网络的公平性技术进行分类和研究，本文介绍了改善图神经网络公平性的先前工作，包括预处理步骤、训练过程和后处理阶段，同时提出了公平性评价指标的直观分类，并对用于基准测试的图数据集进行了总结，还针对未解决的关键问题和挑战进行了讨论。

Jul, 2023

缩小公平鸿沟：在图神经网络中实现群体和个体公平

在图学习的背景下，我们提出了一个名为 Fairness for Group and Individual (FairGI) 的新概念，该概念考虑了组公平性和组内个体公平性，并通过个体之间的相似度矩阵实现了组内个体公平性，同时利用对抗学习来解决组公平性，包括平等机会和统计平衡。实验结果表明，我们的方法在组公平性、组内个体公平性和总体个体公平性方面均优于其他最先进的模型，并且在预测准确性上保持可比较的性能。

Apr, 2024

公平感知的最优图滤波器设计

从图信号处理的角度，我们借鉴了先设计好的图滤波在机器学习管道中，以降低敏感属性与潜在图连接性之间的相关性，从而解决图机器学习中的偏见问题。通过最优的图滤波设计，我们在公平性和实用性方面取得了较好的平衡。

Oct, 2023

机器学习中交叉公平性综述：概念、缓解和挑战

在一个综述中，作者回顾了交叉公平的最新进展并提供了分类法和矫正算法以缓解交叉偏差，最后指出研究者未来的研究方向和挑战。

May, 2023

iFair: 学习个体公平数据表示方法用于算法决策

本文提出了一种基于概率映射用户记录的方法，用于实现算法决策应用的个体公平性和真实应用环境下的分类器和排名等工具的效用性，并通过应用于现实世界数据集的分类和学习排序任务的实验表明了其比之前最佳方法有显著改善。

Jun, 2018

公平性对于最优传输的边缘预测

本文主要研究了图中预测任务的算法公正问题，提出了一种嵌入不可知的修复过程以实现组内和个体的公正权衡，并在实验中验证了该方法对不同公正概念和预测准确性的显式控制能力。

Oct, 2020

分布变化下的图公平学习

图神经网络（GNNs）在图结构化数据上取得了显著的性能。然而，GNNs 可能从训练数据中继承偏见，并根据敏感属性（如性别和种族）做出具有歧视性的预测。最近，对于 GNNs 的公平性保证引起了越来越多的关注，但是所有这些研究都基于一个假设，即训练和测试数据来自同一个分布，即训练数据和测试数据来自同一张图。分布变化会导致图公平性性能降低吗？分布变化如何影响图公平性学习？从理论角度上来说，这些开放性的问题在很大程度上是未经探索的。为了回答这些问题，我们首先从理论上确定了决定图偏见的因素。随后，我们探索了影响测试图上公平性的因素，其中一个值得注意的因素是训练图和生成图之间某些群体的表示距离。在我们的理论分析的启发下，我们提出了我们的框架 FatraGNN。具体而言，为了保证在未知的测试图上的公平性表现，我们提出了一个图生成器，可以产生具有显著偏见和不同分布的多个图。然后，我们在训练图和生成图之间最小化每个特定群体的表示距离。这使得我们的模型能够在具有显著偏见的生成图上实现高分类和公平性性能，从而有效处理未知的测试图。在真实世界和半合成数据集上的实验证明了我们模型在准确性和公平性方面的有效性。

Jan, 2024