Aug, 2023

图神经网络中的差异、不平等和准确性权衡：节点分类

PDF
TL;DR图神经网络（GNNs）在预测属性图中节点标签的关键人类应用中越来越常见。然而，GNNs 聚合邻居节点的特征以提高分类准确性的能力也可能加剧数据中现有的偏见或向保护性人口群体引入新的偏见。因此，必须量化 GNNs 的偏见程度以及减轻其有害效应的程度。为此，我们提出了两种新的与 GNN 无关的干预方法，即 PFR-AX 和 PostProcess，分别通过减少受保护群体和非受保护群体之间的可分性以及基于黑盒策略更新模型预测来最小化人口群体之间的误差率差异。通过对四个数据集进行大量实验，我们通过算法公平准确性权衡的角度来衡量我们方法及三种变体的效果，并与三个先进的 GNN 模型的三种强基准干预进行对比。我们的结果表明，没有一个单一的干预能够提供普遍最佳的权衡，但 PFR-AX 和 PostProcess 提供了细粒度的控制，并在正确预测受保护群体节点的正向结果时提高了模型的置信度。
graph neural networksgnnsalgorithmic fairnessdemographic groupsmodel predictions
发现论文，激发创造
  • 通过节点归因解释图神经网络中的不公正性

    本文提出了一种新的策略 PDD，它可以衡量 GNN 中表现出的偏见，并开发了一种算法来有效地估计每个训练节点对此偏见的影响力。在真实世界的数据集上进行实验验证了 PDD 的有效性和影响力估计的有效性，并演示了如何使用该框架进行 GNN 去偏见化。

    Nov, 2022

  • 公平感知的图神经网络：一份调查

    通过对图神经网络的公平性技术进行分类和研究，本文介绍了改善图神经网络公平性的先前工作，包括预处理步骤、训练过程和后处理阶段，同时提出了公平性评价指标的直观分类，并对用于基准测试的图数据集进行了总结，还针对未解决的关键问题和挑战进行了讨论。

    Jul, 2023

  • 追求图中的公平性：基于 GNN 架构的视角

    通过提出一种新的图神经网络架构，即 FMP，该研究旨在通过在模型架构层面实现公平性，解决 GNN 在公平性性能方面相对较差的问题。实验表明，所提出的 FMP 在三个真实世界的数据集上，在公平性和准确性方面优于几种基准方法。

    Dec, 2023

  • 有限敏感信息泄露下为公平节点分类的去偏置图神经网络映射

    提出了一种名为 MAPPING 的新型模型无关的去偏框架，用于公平节点分类，其中采用了基于距离协方差 $dCov$ 的公平约束，同时减小了任意维度中的特征和拓扑偏差，并结合对抗去偏以限制属性推断攻击的风险。在不同的 GNN 变体的真实数据集上进行实验，证明了 MAPPING 的有效性和灵活性，结果显示 MAPPING 能够在效用与公平之间取得更好的权衡，并减轻敏感信息泄露的隐私风险。

    Jan, 2024

  • 拒絕歧視：在有限敏感屬性信息下學習公正的圖神經網絡

    本文提出了一种名为 FairGNN 的算法，通过利用图结构和有限的敏感信息来消除 GNN 中的偏见，从而实现公平分类。在真实世界数据集上的实验结果表明，FairGNN 在去偏差和保持高准确率方面具有有效性。

    Sep, 2020

  • 透过自适应数据增强实现公平节点表示学习

    本研究通过理论分析揭示了 Node representation learning 中源自于 nodal features 和 graph structure 的偏见，并提出了针对其固有偏见的公平感知数据增强框架，可广泛用于增强各种基于 GNN 的学习机制的公平性。

    Jan, 2022

  • 公平抽样：高效训练公平准确的图卷积神经网络

    本文主要研究了图卷积神经网络（GCNs）中的公平性问题，以及如何训练公平且准确的 GCNs。研究着重分析了图结构偏差、节点属性偏差和模型参数对 GCNs 中的人口平等性的影响，提出了一个名为 FairSample 的框架来共同解决这些偏差，其中采用了注入边缘和使用增强学习的可学习邻居采样策略来改善图结构和保证模型的公平性和质量，同时还采用了正则化目标来优化公平性。

    Jan, 2024

  • 图神经网络中广义程度公平性的研究

    本文针对传统图神经网络中存在的公平性问题，提出了一种新的 GNN 框架，使用可学习的去偏函数来消除不同节点间的度数差异所导致的偏差，以解决节点分类问题中存在的偏差。

    Feb, 2023

  • 通过减少敏感属性泄漏，提高图神经网络的公平性

    通过考虑特征传播和相关性变化等因素来减轻歧视，设计了两种特征蒙版策略；提出 FairVGNN 用于生成功能的公正视图，实验结果证明其在模型效用和公正性之间具有更好的权衡。

    Jun, 2022

  • 图神经网络的子群泛化和公平性

    本论文通过 PAC-Bayesian 分析来研究非 IID 半监督学习设置下的图神经网络（GNNs）的广义化性能，并分析了不同子组的未标记节点的广义化表现，以从理论角度进一步研究 GNNs 的准确性 -(不) 平等式（不）公平性。实验证实了我们的理论结果。

    Jun, 2021