置信度可能欺骗：在分布偏移情况下对图神经网络进行自我训练

WWWJan, 2022

置信度可能欺骗：在分布偏移情况下对图神经网络进行自我训练

Confidence May Cheat: Self-Training on Graph Neural Networks under Distribution Shift

Hongrui Liu, Binbin Hu, Xiao Wang, Chuan Shi, Zhiqiang Zhang...

TL;DR该论文提出了一种新的自我训练方法 (DR-GST)，通过 dropout 变分推理和 dropedge 变分推理来恢复标注数据集的分布，并利用 loss 校正方法来提高伪标签的质量，在五个基准数据集上都取得了良好的效果。

Abstract

graph convolutional networks (GCNs) have recently attracted vast interest and achieved state-of-the-art performance on graphs, but its success could typically hinge on careful training with amounts of expensive and time-consuming labeled data. To alleviate labeled data scarcity, self-t

graph convolutional networks self-training methods distribution recovered graph self-training framework dropout variational inference dropedge variational inference

发现论文，激发创造

基于分布一致性的稀疏标签图神经网络自训练

提出了一种新颖的分布一致图自训练（DC-GST）框架，通过显式地解决自训练过程中扩展训练集与测试集之间的分布差异，识别既具有信息量又能弥补分布差异的伪标记节点，并通过可微分的优化任务进行建模。采用了考虑分布差异的边预测器来增强图，提高模型在分配伪标签上的泛化能力。在四个公开基准数据集上进行了评估，并广泛实验证明，该框架始终优于最先进的基线模型。

Jan, 2024

通过贝叶斯自监督方法保护图卷积神经网络免受动态图扰动的影响

该研究提出并应用了一种新的基于贝叶斯自监督学习的模型 (GraphSS)，能有效抵御动态图中的对抗攻击以及恢复节点分类器的预测结果。

Mar, 2022

Shift-Robust GNNs: 克服局部图训练数据的局限性

本文提出一种称为 Shift-Robust GNN（SR-GNN）的方法，用于解决在真实世界场景下，由于数据获取昂贵和天生偏见而导致的数据采样不均衡问题，SR-GNN 可以适应节点标签采集偏差和数据分布转移等差异，从而实现半监督学习任务中的更好泛化效果。在多个实验中，SR-GNN 在常见 GNN 基准数据集上的表现优于其他 GNN 基线，并成功消除了偏差训练数据引入的至少～40% 的负面影响。

Aug, 2021

解释和适应图形条件平移

本文研究了图神经网络易受分布变化影响的原因，提出了一种基于条件转移的无监督领域自适应方法，并在合成及实际数据实验中表现出鲁棒性。

Jun, 2023

测试时间具备性能保证的分布偏移缓解

本研究提出了一种名为 FR-GNN 的通用框架，用于进行特征重构，并在测试时间内将这些重构特征整合到 GNN 的消息传递机制中，从而有效降低分布转移并提高测试性能。

Aug, 2023

重思面向图结构数据的独立交叉熵损失

本文提出了一种新的框架，称为联合簇监督学习，用于建模每个节点与其相应簇的联合分布，通过联合损失训练图神经网络，从而明确地增强目标节点的区分能力，并且有效地保护节点分类不受敌对攻击的影响。

May, 2024

基于置信度的图卷积网络用于半监督学习

本文提出了 ConfGCN，并使用其估计的置信度来在邻域聚合期间检测节点之间的相互影响，从而获得了各向异性的能力，从而在标准基准测试中超过了现有技术水平的基线，以解决基于 GCN 的设置下缺乏置信度评估的问题。

Jan, 2019

去偏自我训练用于半监督学习

在半监督学习中，为了减少标记数据的需求，经常使用自我训练来分配伪标签。然而，由于自我训练中可能会出现错误的伪标签，从而导致训练不稳定，因此提出了一种去偏差的自我训练方法，它使用两个参数独立的分类器头来分离伪标签的生成和利用，并通过对抗优化表征来改善伪标签的质量，从而稳定训练并提高性能。

Feb, 2022

使用子图近似进行图卷积网络的分布式训练

本文介绍了一种通过子图近似方案，在减小同步开销、降低内存占用的同时，解决分布式训练非独立同分布图形数据（如图卷积网络）中信息丢失与准确性问题的训练策略。

Dec, 2020

基于图的半监督学习的对比与生成图卷积网络

本文提出了一种新颖的基于图卷积网络的 SSL 算法，通过利用数据相似性和图结构来丰富监督信号，从而改善了现有方法的性能。该算法通过设计半监督对比损失和图生成损失提取潜在的关系，并在各种实际数据集上取得了显著的分类性能，与现有最先进的方法进行了比较。

Sep, 2020