Jul, 2019

DropEdge：面向节点分类的深度图卷积网络

HTML
PDF
TL;DR该论文提出了DropEdge技术来解决深层图卷积网络在节点分类中的过拟合和过度平滑问题。DropEdge技术通过随机在每个训练迭代中移除一定数量的边缘节点来进行数据扩充和信息传递减少，旨在提高广义化效果和模型收敛速度。该技术还可以与其他多个骨干模型一起使用，使得在各种浅层和深层图卷积网络中都能一致提高模型的性能表现。
发现论文，激发创造
  • 半监督学习中图卷积网络的深入洞察

    本文研究机器学习领域的图半监督学习，提出了基于图卷积网络的深度学习方法，解决了图卷积网络机制不清晰及需要大量标注数据的问题，并针对浅层结构的限制提出了弱监督训练的方法。经过广泛实验验证，研究结果具有实际应用价值。

    Jan, 2018

  • 简化图卷积网络

    通过消除GCN中的不必要的非线性和权重矩阵，我们提出了一种线性模型，它对应于一个固定的低通滤波器，然后是一个线性分类器。 在许多下游应用中，我们的实验评估表明这种简化并不会对精度产生负面影响。 此外，由于我们的模型简化减少了计算量，因此我们的模型在更大的数据集上具有可扩展性，并且具有更快的推理速度。

    Feb, 2019

  • 深度图卷积网络中过度平滑化的重新审视

    本论文提出了一种新的观点，即深度图卷积网络在训练过程中可以学习抗去平滑化的能力，并设计了一种简单却有效的技巧来改善GCN训练，同时在三个引用网络上验证了结论并提供了GCN邻域聚合方面的见解。

    Mar, 2020

  • 图卷积网络中性能退化的理解和解决

    本文研究了深度图卷积网络由于 TRANS 操作引起的性能下降问题，通过提出一种节点归一化技术（NodeNorm）有效地缓解了这一问题。

    Jun, 2020

  • 简单而深入的图卷积网络

    本研究提出了一种使用深度学习解决图像识别问题的方法——GCNII，并通过两种新技术—初始残差和身份映射—缓解了问题过度平滑的问题。实验结果表明深度GCNII模型在半监督和全监督任务中的性能优于现有方法。

    Jul, 2020

  • 针对通用图卷积网络的光滑问题解决

    本研究分析了GCN、GCN with bias、ResGCN和APPNP模型的节点特征收敛过程，并提出了DropEdge来缓解过平滑问题，其在模拟数据和多个真实基准测试上均表现出显著性能提升。

    Aug, 2020

  • 基于节点转移概率的消息传递和DropNode正则化的图卷积神经网络

    本文提出了一种改进的基于节点转移概率的消息传递过程和一种新的正则化方法 DropNode，以解决小型图形上的过拟合和过度平滑等问题，实验发现这种方法在节点和图分类任务中要优于现有的方法。

    Aug, 2020

  • 从优化角度重新审视半监督节点分类中的图卷积网络

    本文从优化的角度解释了当前的图卷积操作存在的过度平滑问题，并引入了两个衡量节点级任务上过度平滑的度量标准，提出了一种新的卷积核GCN+，并在真实的数据集上证明了其在节点分类任务上的优秀性能表现。

    Sep, 2020

  • 关于训练图卷积网络深度的可证明优势

    本文针对图卷积网络（GCNs）在层数增多时表现下降的问题进行了研究，发现合理训练后更深的模型具有极高的训练准确性，但泛化能力较差。通过分析GCNs的泛化能力，本文提出了一种解耦结构，使得GCNs既能保留表达能力，又能保证较好的泛化性能。各种合成和真实数据集的实证评估证实了这一理论。

    Oct, 2021

  • 面向深度图卷积网络的结构感知DropEdge

    通过实验研究，本文介绍并提出了一种名为DropEdge++的新颖技术，在多层图卷积网络中有效缓解过度平滑的问题，进而提升节点分类的性能。

    Jun, 2023