ICMLSep, 2020

GraphNorm：加速图神经网络训练的原则性方法

PDF
TL;DR本文研究了对图神经网络进行归一化的有效方法，将 InstanceNorm 与 BatchNorm 和 LayerNorm 进行比较，证明了 InstanceNorm 对 GNNs 的预处理效果最好。同时，我们也发现 InstanceNorm 的偏移操作可能会导致 GNNs 的表现能力下降，因此引入了可学习的 GraphNorm 对表现力下降的问题进行纠正，实验证明使用 GraphNorm 推出的 GNN 准确率得到了显著提升。
发现论文，激发创造
  • 图神经网络的图归一化学习

    本文提出了通过优化四个不同层面的加权组合来学习图归一化的方法，其中包括节点归一化、邻接归一化、图归一化和批归一化。在不同数据集和任务中，学到的权重可以选择最优的归一化技巧，实现竞争性结果。

    Sep, 2020

  • PairNorm：解决 GNN 中的过度平滑问题

    本文介绍了 PairNorm，一种新的归一化层，它可以使更深层的图神经网络更加健壮，并显著提高某些问题设置下的性能。

    Sep, 2019

  • GRANOLA: 图神经网络的自适应归一化

    提出了一种用于图神经网络层的新型图自适应归一化层 GRANOLA，利用随机节点特征在图中传播来产生明确的邻域结构表达，理论支持，并在各种图基准测试中证明了其优越性能。

    Apr, 2024

  • 探索图神经网络的泛化理解

    研究了图神经网络在泛化上的机制，建立了高概率边界和其对泛化差距和梯度的影响，得出结论和实验证据相符的新认识。

    May, 2023

  • 可微分分组归一化加深图神经网络

    通过引入两个过度平滑度衡量指标以及可微分的分组正规化技术（DGN），增加同一组内节点的平滑度，同时在不同组之间分离节点分布以显着减轻过度平滑的问题，使得 GNN 模型更加鲁棒，并实现更好的性能与更深层次的 GNN。

    Jun, 2020

  • 重正化图神经网络

    该论文提出了一种新的方法，即将重整化群理论应用于设计一种新颖的图重连策略，以提高图神经网络在图形相关任务上的性能，结果表明这种方法的有效性和其挖掘各种系统固有复杂性潜力的能力。

    Jun, 2023

  • 残差连接和归一化能够在图神经网络中可证明地防止过度平滑

    本文研究了图神经网络中残差连接和标准化层的作用，并提出了一种名为 GraphNormv2 的归一化层，以解决过度平滑问题。

    Jun, 2024

  • 深度学习中标准化方法的新诠释

    本文提出了一项引理来解释多种神经网络中的归一化方法，从而能够在统一的框架下解释归一化的概念。我们的结论是，这些归一化方法能够让权重的范数增大，可能会造成攻击性漏洞的风险，同时，证明这些归一化方法可以帮助稳定网络训练。

    Jun, 2020

  • 生成对抗网络的梯度归一化

    本文提出了一种新的归一化方法 —— 梯度归一化（GN），通过在鉴别器函数上施加硬 1-Lipschitz 约束，从而增加鉴别能力，解决了生成对抗网络中尖锐梯度空间引起的训练不稳定性问题，并在四个数据集上进行了广泛实验，证明了使用梯度归一化训练的 GAN 模型在 Frechet Inception Distance 和 Inception Score 方面优于现有方法。

    Sep, 2021

  • 规范化重要性：深度神经网络中高效准确的规范化方法

    本研究提出了一种新的对归一化方法和权值衰减的目的和功能的视角，并建议了几种常用 L2 批归一化的替代方案，包括 L1 和 L∞范数中的归一化，以提高计算和内存效率，并且在低精度实现中大幅提高了数值稳定性，并且还提出了一种改进重要性重归一化的方法，可以提高其在大规模任务上的性能。

    Mar, 2018