针对图神经网络的限制进行解决
通过对节点进行度量和异质性分级,我们成功解释和预测了 GCNs 的过度平滑和异质性问题,并提出了结构和特征基础的边缘校正策略来处理这两个问题。
Feb, 2021
本研究探讨了图神经网络中的过度平滑问题,并通过使用高斯过程在无限多隐藏特征的极限中对图卷积网络中的过度平滑进行了研究。我们通过一种新的非过度平滑阶段,验证了该理论,并通过在有限大小的图卷积网络上进行训练线性分类器来测试我们的方法的预测结果,结果与有限大小的图卷积网络相吻合。
Jun, 2024
本研究提出了一种使用深度学习解决图像识别问题的方法 ——GCNII,并通过两种新技术 — 初始残差和身份映射 — 缓解了问题过度平滑的问题。实验结果表明深度 GCNII 模型在半监督和全监督任务中的性能优于现有方法。
Jul, 2020
本文研究机器学习领域的图半监督学习,提出了基于图卷积网络的深度学习方法,解决了图卷积网络机制不清晰及需要大量标注数据的问题,并针对浅层结构的限制提出了弱监督训练的方法。经过广泛实验验证,研究结果具有实际应用价值。
Jan, 2018
本文从优化的角度解释了当前的图卷积操作存在的过度平滑问题,并引入了两个衡量节点级任务上过度平滑的度量标准,提出了一种新的卷积核 GCN+,并在真实的数据集上证明了其在节点分类任务上的优秀性能表现。
Sep, 2020
本篇论文提出了一种新型的图卷积神经网络 Deformable GCNs,它可以在多个潜在空间适应性地执行卷积操作,并捕获节点之间的短 / 长距离依赖关系,从而处理异构性,并在六个异质性图数据集中实现节点分类任务的最佳性能。
Dec, 2021
本篇论文通过严密的数学分析,将注意力机制的图神经网络视为非线性时变动力系统,并将不均匀矩阵的乘积和联合谱半径的理论工具和技术纳入分析,证明了注意力机制无法避免过度平滑,并且会以指数方式失去表达能力
May, 2023
本论文提出了一种新的观点,即深度图卷积网络在训练过程中可以学习抗去平滑化的能力,并设计了一种简单却有效的技巧来改善 GCN 训练,同时在三个引用网络上验证了结论并提供了 GCN 邻域聚合方面的见解。
Mar, 2020
基于 Transfer Entropy 的策略可解决 Graph Convolutional Networks 中的过度平滑和节点关系属性的利用两个重要挑战,并通过使用异质性和度信息作为节点选择机制以及基于特征的 Transfer Entropy 计算来提高 GCN 模型的分类准确率,但需要考虑计算复杂度。
Jun, 2024
本研究分析图神经网络在层数增加时出现的过度平滑现象,通过使用增广归一化拉普拉斯矩阵的频谱确定权重矩阵的条件,来说明当嵌入的狄利克雷能量收敛于零时,图嵌入的区分能力会丧失。通过使用狄利克雷能量来衡量嵌入的表达能力,可以得到比已有研究更简单的证明,并可处理更多的非线性问题。
Jun, 2020