Jun, 2020

DeeperGCN：训练深度 GCN 所需的全部

PDF
TL;DR本文提出了一种名为 DeeperGCN 的新型 Graph Convolutional Networks，它有效地解决了深度较大的 GCNs 存在的梯度消失、过度平滑和过度拟合等问题，实现了对大规模图数据的成功且可靠的训练，并在 Open Graph Benchmark (OGB) 上进行的实验证明其在节点属性预测和图形属性预测的大规模图形学习任务中比现有技术有显著提高。
graph convolutional networksrepresentation learningvanishing gradientmessage aggregationlarge-scale graphs
发现论文，激发创造
  • DeepGCNs: GCN 能否像 CNN 一样深？

    本研究通过将 CNN 的残差连接和扩张卷积应用到 GCN 体系结构中，成功地解决了 GCN 中梯度消失的问题，构建了深层的 GCN，实现了更好的点云语义分割表现。

    Apr, 2019

  • DeepGCNs: 让 GCNs 达到与 CNNs 相同的深度

    本篇论文介绍了如何将残差 / 稠密连接和扩张卷积等深度卷积神经网络中的概念应用于图卷积网络中，从而成功地训练出多达 112 层的深度图卷积网络，该方法在多个数据集和任务中展示出了非常良好的表现。

    Oct, 2019

  • 关于训练图卷积网络深度的可证明优势

    本文针对图卷积网络（GCNs）在层数增多时表现下降的问题进行了研究，发现合理训练后更深的模型具有极高的训练准确性，但泛化能力较差。通过分析 GCNs 的泛化能力，本文提出了一种解耦结构，使得 GCNs 既能保留表达能力，又能保证较好的泛化性能。各种合成和真实数据集的实证评估证实了这一理论。

    Oct, 2021

  • 半监督学习中图卷积网络的深入洞察

    本文研究机器学习领域的图半监督学习，提出了基于图卷积网络的深度学习方法，解决了图卷积网络机制不清晰及需要大量标注数据的问题，并针对浅层结构的限制提出了弱监督训练的方法。经过广泛实验验证，研究结果具有实际应用价值。

    Jan, 2018

  • 简单而深入的图卷积网络

    本研究提出了一种使用深度学习解决图像识别问题的方法 ——GCNII，并通过两种新技术 — 初始残差和身份映射 — 缓解了问题过度平滑的问题。实验结果表明深度 GCNII 模型在半监督和全监督任务中的性能优于现有方法。

    Jul, 2020

  • 可变形图卷积网络

    本篇论文提出了一种新型的图卷积神经网络 Deformable GCNs，它可以在多个潜在空间适应性地执行卷积操作，并捕获节点之间的短 / 长距离依赖关系，从而处理异构性，并在六个异质性图数据集中实现节点分类任务的最佳性能。

    Dec, 2021

  • 深度图卷积网络中过度平滑化的重新审视

    本论文提出了一种新的观点，即深度图卷积网络在训练过程中可以学习抗去平滑化的能力，并设计了一种简单却有效的技巧来改善 GCN 训练，同时在三个引用网络上验证了结论并提供了 GCN 邻域聚合方面的见解。

    Mar, 2020

  • DeepHGCN：向更深的双曲图卷积网络迈进

    深度超几何图卷积网络（DeepHGCN）通过引入新的超 bolic 特征转换层和技术，极大地提高了计算效率并显著减轻了过平滑效应。与欧几里德和浅超 bolic GCN 变体相比，DeepHGCN 在链接预测和节点分类任务上取得了显著的改进。

    Oct, 2023

  • 简化图卷积网络

    通过消除 GCN 中的不必要的非线性和权重矩阵，我们提出了一种线性模型，它对应于一个固定的低通滤波器，然后是一个线性分类器。 在许多下游应用中，我们的实验评估表明这种简化并不会对精度产生负面影响。 此外，由于我们的模型简化减少了计算量，因此我们的模型在更大的数据集上具有可扩展性，并且具有更快的推理速度。

    Feb, 2019

  • 迈向更深的图神经网络

    本研究对图神经网络进行深入探究，提出了解决深度学习中过度平滑问题的新方法，并通过实验证明了其在引文、合著和共同购买等领域的卓越表现。

    Jul, 2020