WSDMJan, 2024

基于分布一致性的稀疏标签图神经网络自训练

PDF
TL;DR提出了一种新颖的分布一致图自训练（DC-GST）框架，通过显式地解决自训练过程中扩展训练集与测试集之间的分布差异，识别既具有信息量又能弥补分布差异的伪标记节点，并通过可微分的优化任务进行建模。采用了考虑分布差异的边预测器来增强图，提高模型在分配伪标签上的泛化能力。在四个公开基准数据集上进行了评估，并广泛实验证明，该框架始终优于最先进的基线模型。
few-shot node classificationgraph neural networksself-trainingdistribution shiftpseudo-labeling
发现论文，激发创造
  • 置信度可能欺骗：在分布偏移情况下对图神经网络进行自我训练

    该论文提出了一种新的自我训练方法 (DR-GST)，通过 dropout 变分推理和 dropedge 变分推理来恢复标注数据集的分布，并利用 loss 校正方法来提高伪标签的质量，在五个基准数据集上都取得了良好的效果。

    Jan, 2022

  • 通过贝叶斯自监督方法保护图卷积神经网络免受动态图扰动的影响

    该研究提出并应用了一种新的基于贝叶斯自监督学习的模型 (GraphSS)，能有效抵御动态图中的对抗攻击以及恢复节点分类器的预测结果。

    Mar, 2022

  • 基于标签一致性的图神经网络用于半监督节点分类

    本文提出了基于标签一致性的图神经网络（LC-GNN），扩大了 GNN 中的节点感受野，利用未连接但标签相同的节点对。在基准数据集上的实验证明，LC-GNN 在图形半监督节点分类方面优于传统的 GNN，在只有少数标记节点的稀疏场景中也表现出优越性。

    Jul, 2020

  • 少量标签图神经网络的信息伪标记

    本研究提出了一种新的信息伪标签框架（InfoGNN），以最大化互信息为基础，通过伪标签化最具信息代表性的节点来促进使用极少数标记的 GNN 的学习。同时，也提出了一个广义交叉熵损失函数，并使用类平衡正则化来解决潜在的标签噪音和类不平衡问题。实验证明，该方法在六个真实图数据集上显著优于基线和强自监督方法。

    Jan, 2022

  • Shift-Robust GNNs: 克服局部图训练数据的局限性

    本文提出一种称为 Shift-Robust GNN（SR-GNN）的方法，用于解决在真实世界场景下，由于数据获取昂贵和天生偏见而导致的数据采样不均衡问题，SR-GNN 可以适应节点标签采集偏差和数据分布转移等差异，从而实现半监督学习任务中的更好泛化效果。在多个实验中，SR-GNN 在常见 GNN 基准数据集上的表现优于其他 GNN 基线，并成功消除了偏差训练数据引入的至少～40% 的负面影响。

    Aug, 2021

  • 邻域正则化自训练在少标签学习中的应用

    本文提出了一种利用相似标签样本选择的自训练深度神经网络的方法，可有效降低错误伪标签产生的噪声影响，并均衡自训练过程性能提高和时间效率优化的关系。

    Jan, 2023

  • 解释和适应图形条件平移

    本文研究了图神经网络易受分布变化影响的原因，提出了一种基于条件转移的无监督领域自适应方法，并在合成及实际数据实验中表现出鲁棒性。

    Jun, 2023

  • 去偏自我训练用于半监督学习

    在半监督学习中，为了减少标记数据的需求，经常使用自我训练来分配伪标签。然而，由于自我训练中可能会出现错误的伪标签，从而导致训练不稳定，因此提出了一种去偏差的自我训练方法，它使用两个参数独立的分类器头来分离伪标签的生成和利用，并通过对抗优化表征来改善伪标签的质量，从而稳定训练并提高性能。

    Feb, 2022

  • 标签噪声下的图学习

    本文提出了一种名为 Consistent Graph Neural Network（CGNN）的新方法，它在图的标签噪声下仍然能够对节点进行分类，并通过基于同质性假设的样本选择技术来检测和纠正噪声标签。实验证明，与现有技术相比，CGNN 在三个基准数据集上具有更好的表现。

    Jun, 2023

  • 解决图神经网络中本地化训练数据的影响

    通过规范化方法，适应并改善模型在局部训练数据和整个图预测过程中的表现，提高图神经网络模型对非分布式数据的适应能力和泛化性能。

    Jul, 2023