拒絕歧視：在有限敏感屬性信息下學習公正的圖神經網絡

Sep, 2020

拒絕歧視：在有限敏感屬性信息下學習公正的圖神經網絡

Say No to the Discrimination: Learning Fair Graph Neural Networks with Limited Sensitive Attribute Information

Enyan Dai, Suhang Wang

TL;DR本文提出了一种名为 FairGNN 的算法，通过利用图结构和有限的敏感信息来消除 GNN 中的偏见，从而实现公平分类。在真实世界数据集上的实验结果表明，FairGNN 在去偏差和保持高准确率方面具有有效性。

Abstract

graph neural networks (GNNs) have shown great power in modeling graph structured data. However, similar to other machine learning models, GNNs may make predictions biased on protected sensitive attributes, e.g., skin color and gender. Because machine learning algorithms including GNNs

graph neural networks fair classification discrimination limited sensitive attribute information debiasing

发现论文，激发创造

一尺之法：面向多种敏感属性的公正图神经网络学习

最近的研究强调了图神经网络（GNN）中的公平性问题，即 GNN 针对被敏感属性（如种族和年龄）分类的特定保护群体产生了歧视性预测。针对这个问题的不同努力取得了显著进展，但往往专门针对特定的敏感属性，因此需要从头开始对模型进行重新训练以满足敏感属性需求的变化，导致高计算成本。为了更深入地了解这个问题，我们从因果建模的视角来考虑图公平性问题，认为敏感属性引起的混淆效应是其根本原因。出于这一观察的动机，我们从不变学习的角度来公式化图公平性问题，旨在学习跨环境的不变表示。因此，我们提出了一个基于不变学习的图公平性框架，名为 FairINV，它能够在单个训练会话中训练公平的 GNN 模型以适应多种敏感属性。具体而言，FairINV 通过将敏感属性进行划分，并消除标签与各种敏感属性之间的虚假相关性来训练公平的 GNN 模型。在几个真实数据集上的实验证明，FairINV 在公平性方面明显优于最先进的方法，突出了其有效性。我们的代码可通过此 https://URL 获得。

Jun, 2024

通过减少敏感属性泄漏，提高图神经网络的公平性

通过考虑特征传播和相关性变化等因素来减轻歧视，设计了两种特征蒙版策略；提出 FairVGNN 用于生成功能的公正视图，实验结果证明其在模型效用和公正性之间具有更好的权衡。

Jun, 2022

公平图表示学习通过敏感属性解耦

通过敏感属性解耦来改善图神经网络的公平性，提出了一个名为 FairSAD 的公平 GNN 框架，通过通道屏蔽机制自适应地识别相关敏感属性的组件并消除其相关性，从而最小化敏感属性对 GNN 结果的影响，同时保留与敏感属性相关的任务信息，并在几个真实世界数据集上的实验表明，FairSAD 在公平性和效用性能方面明显优于其他最先进的方法。

May, 2024

通过敏感信息中和实现图神经网络中的公平性

通过将公平性便利特性（F3）纳入节点特征或表示中，该研究提出了一种名为 FairSIN 的创新中立化范式，从而在保持高预测准确性的同时显著提高公平性指标。

Mar, 2024

有限敏感信息泄露下为公平节点分类的去偏置图神经网络映射

提出了一种名为 MAPPING 的新型模型无关的去偏框架，用于公平节点分类，其中采用了基于距离协方差 $dCov$ 的公平约束，同时减小了任意维度中的特征和拓扑偏差，并结合对抗去偏以限制属性推断攻击的风险。在不同的 GNN 变体的真实数据集上进行实验，证明了 MAPPING 的有效性和灵活性，结果显示 MAPPING 能够在效用与公平之间取得更好的权衡，并减轻敏感信息泄露的隐私风险。

Jan, 2024

公平 GNN 的人口迁移

提出了一种名为 FairMigration 的新型框架，它可以动态迁移人口群体，解决在训练 Fair GNNs 时存在的个人敏感信息偏见问题，该框架分为两个学习阶段，第一个阶段进行个人化自监督学习并动态调整人口群体，第二个阶段在新的人口群体约束和对抗训练下进行的监督学习，实验表明该框架能很好地平衡模型性能和公平性。

Jun, 2023

数据中的魔鬼：通过部分知识蒸馏学习公平的图神经网络

通过知识蒸馏的方式，我们提出了一种无需个人信息的人口属性不可知方法 FairGKD 来学习公平的图神经网络 (GNNs)，在性能和效益之间取得了平衡，并在多个基准数据集上验证了该方法的有效性。

Nov, 2023

公平感知的图神经网络：一份调查

通过对图神经网络的公平性技术进行分类和研究，本文介绍了改善图神经网络公平性的先前工作，包括预处理步骤、训练过程和后处理阶段，同时提出了公平性评价指标的直观分类，并对用于基准测试的图数据集进行了总结，还针对未解决的关键问题和挑战进行了讨论。

Jul, 2023

公平抽样：高效训练公平准确的图卷积神经网络

本文主要研究了图卷积神经网络（GCNs）中的公平性问题，以及如何训练公平且准确的 GCNs。研究着重分析了图结构偏差、节点属性偏差和模型参数对 GCNs 中的人口平等性的影响，提出了一个名为 FairSample 的框架来共同解决这些偏差，其中采用了注入边缘和使用增强学习的可学习邻居采样策略来改善图结构和保证模型的公平性和质量，同时还采用了正则化目标来优化公平性。

Jan, 2024

关于以大部分为私有敏感属性的公平分类

本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

Jul, 2022