重思面向图结构数据的独立交叉熵损失
本文提出了一种基于集体学习和自监督学习的蒙特卡洛采样框架,用于将当前的 GNN 模型进行增强以实现节点分类,实验结果表明,该方法在五个真实世界的网络数据集上都取得显著的性能提升。
Mar, 2020
该研究展示了在预测任务中,图神经网络(GNNs)利用关系信息作为归纳偏差以提高模型的准确性。通过学习图结构的方法来解决下游预测任务中未知的相关关系,同时证明了点预测损失函数(如平均绝对误差)的最小化并不能保证对潜在关系信息及其相关不确定性进行适当的学习。相反,合适的损失函数在随机模型输出上同时确保了(i)未知邻接矩阵潜在分布和(ii)在预测任务上的最佳性能。最后,我们提出了一种基于采样的方法来解决这一联合学习任务。实证结果验证了我们的理论观点,并证明了所提方法的有效性。
May, 2024
本文提出了一种基于课程学习的图神经网络框架(GNN-CL),包含两个模块:基于图的过采样和同时调整特征空间中少数类节点间距离的图分类损失和度量学习损失,通过动态调整这两个模块的权重实现更好的泛化和判别能力。该框架在多个广泛使用的图数据集上进行评估,结果表明我们的模型始终优于现有最先进的方法。
Feb, 2022
该论文提出了一种新的自我训练方法 (DR-GST),通过 dropout 变分推理和 dropedge 变分推理来恢复标注数据集的分布,并利用 loss 校正方法来提高伪标签的质量,在五个基准数据集上都取得了良好的效果。
Jan, 2022
提出一种基于结构熵的无监督鲁棒图神经网络,能够缓解图随机性带来的影响,且无需标签信息即可学习节点的适当表示;同时,该模型通过引入结构熵在目标函数中捕获一个具有相同嵌入的图,并在三个数据集上的聚类和链接预测任务中击败了基准模型,表现出更强的鲁棒性。
Feb, 2023
本文提出了使用 GNN 的多源不确定性框架,反映了深度学习和信念 / 证据理论领域中各种类型的预测不确定性,以进行节点分类预测。该框架通过从训练节点给定标签收集证据,设计了基于图的核狄利克雷分布估计 (GKDE) 方法,准确预测节点级狄利克雷分布,并检测超出分布的节点,该模型在六个真实网络数据集上表现优于现有模型,并提供了理论证明解释此结果背后的原因。
Oct, 2020
本论文介绍了一种将分布式图信号运用于图神经网络中、以提高 GNN 在半监督节点分类中性能的正则化方法。通过数值实验发现,该方法能够显著改善不同问题设置下大多数基本 GNN 模型的性能。
Apr, 2023
本文提出一种称为 Shift-Robust GNN(SR-GNN)的方法,用于解决在真实世界场景下,由于数据获取昂贵和天生偏见而导致的数据采样不均衡问题,SR-GNN 可以适应节点标签采集偏差和数据分布转移等差异,从而实现半监督学习任务中的更好泛化效果。在多个实验中,SR-GNN 在常见 GNN 基准数据集上的表现优于其他 GNN 基线,并成功消除了偏差训练数据引入的至少~40% 的负面影响。
Aug, 2021