WWWJan, 2024

分布变化下的图公平学习

PDF
TL;DR图神经网络（GNNs）在图结构化数据上取得了显著的性能。然而，GNNs 可能从训练数据中继承偏见，并根据敏感属性（如性别和种族）做出具有歧视性的预测。最近，对于 GNNs 的公平性保证引起了越来越多的关注，但是所有这些研究都基于一个假设，即训练和测试数据来自同一个分布，即训练数据和测试数据来自同一张图。分布变化会导致图公平性性能降低吗？分布变化如何影响图公平性学习？从理论角度上来说，这些开放性的问题在很大程度上是未经探索的。为了回答这些问题，我们首先从理论上确定了决定图偏见的因素。随后，我们探索了影响测试图上公平性的因素，其中一个值得注意的因素是训练图和生成图之间某些群体的表示距离。在我们的理论分析的启发下，我们提出了我们的框架 FatraGNN。具体而言，为了保证在未知的测试图上的公平性表现，我们提出了一个图生成器，可以产生具有显著偏见和不同分布的多个图。然后，我们在训练图和生成图之间最小化每个特定群体的表示距离。这使得我们的模型能够在具有显著偏见的生成图上实现高分类和公平性性能，从而有效处理未知的测试图。在真实世界和半合成数据集上的实验证明了我们模型在准确性和公平性方面的有效性。
graph neural networksfairnessdistribution shiftsrepresentation distancesunknown testing graphs
发现论文，激发创造
  • 公平感知的图神经网络：一份调查

    通过对图神经网络的公平性技术进行分类和研究，本文介绍了改善图神经网络公平性的先前工作，包括预处理步骤、训练过程和后处理阶段，同时提出了公平性评价指标的直观分类，并对用于基准测试的图数据集进行了总结，还针对未解决的关键问题和挑战进行了讨论。

    Jul, 2023

  • 一尺之法：面向多种敏感属性的公正图神经网络学习

    最近的研究强调了图神经网络（GNN）中的公平性问题，即 GNN 针对被敏感属性（如种族和年龄）分类的特定保护群体产生了歧视性预测。针对这个问题的不同努力取得了显著进展，但往往专门针对特定的敏感属性，因此需要从头开始对模型进行重新训练以满足敏感属性需求的变化，导致高计算成本。为了更深入地了解这个问题，我们从因果建模的视角来考虑图公平性问题，认为敏感属性引起的混淆效应是其根本原因。出于这一观察的动机，我们从不变学习的角度来公式化图公平性问题，旨在学习跨环境的不变表示。因此，我们提出了一个基于不变学习的图公平性框架，名为 FairINV，它能够在单个训练会话中训练公平的 GNN 模型以适应多种敏感属性。具体而言，FairINV 通过将敏感属性进行划分，并消除标签与各种敏感属性之间的虚假相关性来训练公平的 GNN 模型。在几个真实数据集上的实验证明，FairINV 在公平性方面明显优于最先进的方法，突出了其有效性。我们的代码可通过此 https://URL 获得。

    Jun, 2024

  • 数据中的魔鬼：通过部分知识蒸馏学习公平的图神经网络

    通过知识蒸馏的方式，我们提出了一种无需个人信息的人口属性不可知方法 FairGKD 来学习公平的图神经网络 (GNNs)，在性能和效益之间取得了平衡，并在多个基准数据集上验证了该方法的有效性。

    Nov, 2023

  • 公平抽样：高效训练公平准确的图卷积神经网络

    本文主要研究了图卷积神经网络（GCNs）中的公平性问题，以及如何训练公平且准确的 GCNs。研究着重分析了图结构偏差、节点属性偏差和模型参数对 GCNs 中的人口平等性的影响，提出了一个名为 FairSample 的框架来共同解决这些偏差，其中采用了注入边缘和使用增强学习的可学习邻居采样策略来改善图结构和保证模型的公平性和质量，同时还采用了正则化目标来优化公平性。

    Jan, 2024

  • 透过自适应数据增强实现公平节点表示学习

    本研究通过理论分析揭示了 Node representation learning 中源自于 nodal features 和 graph structure 的偏见，并提出了针对其固有偏见的公平感知数据增强框架，可广泛用于增强各种基于 GNN 的学习机制的公平性。

    Jan, 2022

  • 解释和适应图形条件平移

    本文研究了图神经网络易受分布变化影响的原因，提出了一种基于条件转移的无监督领域自适应方法，并在合成及实际数据实验中表现出鲁棒性。

    Jun, 2023

  • 测试时间具备性能保证的分布偏移缓解

    本研究提出了一种名为 FR-GNN 的通用框架，用于进行特征重构，并在测试时间内将这些重构特征整合到 GNN 的消息传递机制中，从而有效降低分布转移并提高测试性能。

    Aug, 2023

  • 缩小公平鸿沟：在图神经网络中实现群体和个体公平

    在图学习的背景下，我们提出了一个名为 Fairness for Group and Individual (FairGI) 的新概念，该概念考虑了组公平性和组内个体公平性，并通过个体之间的相似度矩阵实现了组内个体公平性，同时利用对抗学习来解决组公平性，包括平等机会和统计平衡。实验结果表明，我们的方法在组公平性、组内个体公平性和总体个体公平性方面均优于其他最先进的模型，并且在预测准确性上保持可比较的性能。

    Apr, 2024

  • 公平 GNN 的人口迁移

    提出了一种名为 FairMigration 的新型框架，它可以动态迁移人口群体，解决在训练 Fair GNNs 时存在的个人敏感信息偏见问题，该框架分为两个学习阶段，第一个阶段进行个人化自监督学习并动态调整人口群体，第二个阶段在新的人口群体约束和对抗训练下进行的监督学习，实验表明该框架能很好地平衡模型性能和公平性。

    Jun, 2023

  • 拒絕歧視：在有限敏感屬性信息下學習公正的圖神經網絡

    本文提出了一种名为 FairGNN 的算法，通过利用图结构和有限的敏感信息来消除 GNN 中的偏见，从而实现公平分类。在真实世界数据集上的实验结果表明，FairGNN 在去偏差和保持高准确率方面具有有效性。

    Sep, 2020