Feb, 2024

公平可信绘图：公平图生成

PDF
TL;DR机器学习与图形处理近年来受到越来越多的关注，因其能够分析和学习关键的互连系统内的复杂关系。然而，这些算法中使用的有偏图结构带来的不平等影响引发了在实际决策系统中部署的重要关注。此外，尽管合成图形生成对于隐私和可扩展性考虑至关重要，但生成式学习算法对结构偏差的影响尚未得到研究。基于这一动机，本研究侧重于实际和合成图形的结构偏差分析和缓解。具体而言，我们首先理论分析导致对二元关系预测不平等的结构偏差的来源。为了减轻已确定的偏见因素，我们设计了一种新颖的公平正则化器，具有多种用途。针对本研究揭示的图形生成模型中的偏见放大问题，我们进一步提出了一个公平图形生成框架 FairWire，通过在生成模型中利用我们的公平正则化器设计。对真实世界网络的实验结果验证了本文提出的工具在实际和合成图形的结构偏差缓解中的有效性。
machine learninggraphsstructural biasfairness regularizergraph generation
发现论文，激发创造
  • 公平合成数据生成

    本研究提出一种通过预处理算法识别和删除偏差样本以生成更公平的合成数据的管道，可以有效地克服许多挑战，并在某些情况下提高性能。

    Oct, 2022

  • 分布变化下的图公平学习

    图神经网络（GNNs）在图结构化数据上取得了显著的性能。然而，GNNs 可能从训练数据中继承偏见，并根据敏感属性（如性别和种族）做出具有歧视性的预测。最近，对于 GNNs 的公平性保证引起了越来越多的关注，但是所有这些研究都基于一个假设，即训练和测试数据来自同一个分布，即训练数据和测试数据来自同一张图。分布变化会导致图公平性性能降低吗？分布变化如何影响图公平性学习？从理论角度上来说，这些开放性的问题在很大程度上是未经探索的。为了回答这些问题，我们首先从理论上确定了决定图偏见的因素。随后，我们探索了影响测试图上公平性的因素，其中一个值得注意的因素是训练图和生成图之间某些群体的表示距离。在我们的理论分析的启发下，我们提出了我们的框架 FatraGNN。具体而言，为了保证在未知的测试图上的公平性表现，我们提出了一个图生成器，可以产生具有显著偏见和不同分布的多个图。然后，我们在训练图和生成图之间最小化每个特定群体的表示距离。这使得我们的模型能够在具有显著偏见的生成图上实现高分类和公平性性能，从而有效处理未知的测试图。在真实世界和半合成数据集上的实验证明了我们模型在准确性和公平性方面的有效性。

    Jan, 2024

  • 解决公平图学习数据集的不足：走向新的基准

    公平图学习方法的评估常常依赖于构造不完善的半合成数据集或次标准的真实世界数据集。本研究针对这些问题，通过开发和引入一系列合成、半合成和真实世界数据集，旨在为公平模型的评估提供有意义的图结构和关键偏见信息。经过对提出的数据集的系统评估，为公平图学习模型建立了一种统一的评估方法。我们在数据集上对公平图学习方法进行了广泛的实验，证明了这些方法在性能评估方面的有效性。

    Mar, 2024

  • 带有监督对比正则化的公平图神经网络

    我们提出了一种用于训练关注公平性的图神经网络的新模型，该模型通过整合监督对比损失和环境损失来提高准确性和公平性，实验证明该模型在三个真实数据集上优于其他现有的基于图的学习方法以及之前的模型。

    Apr, 2024

  • 公平感知的最优图滤波器设计

    从图信号处理的角度，我们借鉴了先设计好的图滤波在机器学习管道中，以降低敏感属性与潜在图连接性之间的相关性，从而解决图机器学习中的偏见问题。通过最优的图滤波设计，我们在公平性和实用性方面取得了较好的平衡。

    Oct, 2023

  • 从真实数据到合成数据的转换：量化模型中的偏差

    本研究旨在建立使用合成数据训练的模型在偏见和公平之间的权衡，并研究了合成数据生成技术的变体，包括差分隐私生成方案，通过实验表明，合成数据训练的模型存在不同程度的偏差影响，且生成的特征不相关的技术表现良好。该研究有助于数据科学实践者理解合成数据的使用中的偏见。

    May, 2021

  • 公平抽样：高效训练公平准确的图卷积神经网络

    本文主要研究了图卷积神经网络（GCNs）中的公平性问题，以及如何训练公平且准确的 GCNs。研究着重分析了图结构偏差、节点属性偏差和模型参数对 GCNs 中的人口平等性的影响，提出了一个名为 FairSample 的框架来共同解决这些偏差，其中采用了注入边缘和使用增强学习的可学习邻居采样策略来改善图结构和保证模型的公平性和质量，同时还采用了正则化目标来优化公平性。

    Jan, 2024

  • 透过自适应数据增强实现公平节点表示学习

    本研究通过理论分析揭示了 Node representation learning 中源自于 nodal features 和 graph structure 的偏见，并提出了针对其固有偏见的公平感知数据增强框架，可广泛用于增强各种基于 GNN 的学习机制的公平性。

    Jan, 2022

  • 使用合成数据生成器研究偏见：实证证据与哲学解释

    本文提出了一种框架来生成具有特定类型偏差和它们的组合的合成数据，以分析在机器学习模型中存在的各种偏差，讨论它们与道德和正义框架的关系，并利用我们提出的合成数据发生器在不同场景中（包括存在不同偏差组合的场景）进行实验，因此分析了偏差对未减轻和减轻的机器学习模型的性能和公平度指标的影响。

    Sep, 2022

  • 公平感知生成对抗网络

    本文提出了一种名为 FairGAN 的公平性生成对抗网络，旨在生成既不带偏见又具有较好数据实用性的数据。与基本的公平数据生成模型相比，FairGAN 还确保了对生成数据进行分类的分类器可以在真实数据上实现公平分类。

    May, 2018