Oct, 2023

神经切向核激发带有交叉协方差图的图神经网络

PDF
TL;DR神经切向核、对齐、图神经网络、图移位算子和交叉协方差是本研究的关键词，该论文的主要内容是分析过度参数化神经网络的学习和泛化行为的理论机制，以及在图神经网络中优化对齐对图表示和图移位算子的重要性，并通过实验证明使用交叉协方差作为图移位算子的图神经网络在多变量时间序列预测任务中优于仅使用输入数据协方差矩阵的网络。
发现论文，激发创造
  • 图神经切向核：将图神经网络与图核融合

    本文介绍了一种新的图卷积核 (GNTKs) 可以更好地表达图的信息，并且在图分类数据集上表现出强大的性能。

    May, 2019

  • 基于克罗内克草图的快速图神经切向核

    本文介绍了用于图数据的新方法 - 图神经正切核 (GNTK)，并提出了第一种在 O（n ^ 2N ^ 3）运行时间内构造核矩阵的算法，以加快 GNTK 回归的端到端运行时间。

    Dec, 2021

  • 通过草图和随机特征扩展神经切向核规模

    该研究提出了一种近似算法，旨在加速使用神经切向核的大规模学习任务，并结合随机特征，通过谱逼近保证精度。实验结果表明，其线性回归器可在 CIFAR-10 数据集上达到与全精度模型相当的准确度，同时提高了 150 倍的速度。

    Jun, 2021

  • 解决图神经切向核是否等同于训练图神经网络？

    NTK 是理论深度学习领域的一个新兴趋势，通过 Neural Tangent Kernel（NTK）理解深度学习的工作原理。本文中，我们提供了三个新的理论结果，首先正式证明了基于图的回归问题中 GNTK 与无限宽度的多层图神经网络通过梯度下降训练是等效的；其次，我们提供了首个用于节点级回归问题的 GNTK 形式；最后，我们证明了在节点级回归问题中 GNTK 的等效性。

    Sep, 2023

  • 等变神经切向核

    本文首次将等变神经网络和神经切向核相结合，给出了群卷积神经网络的神经切向核的显式表达式，并在医学图像分类任务上通过数值实验证明了等变神经切向核的优越性能。

    Jun, 2024

  • 神经切向核方法的神经网络修正

    使用神经切比洛夫核方法，获得了网络训练误差上限、网络大小不变的泛化误差上限，以及一个简单且解析的核函数，能够优于相关网络，但需要注意网络缩放因子的问题。本文对原有方法进行修正，提出了更加严格的误差上限，解决了缩放问题。

    Jul, 2020

  • 神经频谱对齐：实证研究

    本文通过对神经网络优化过程中的经验性探索，发现神经切向核（NTK）在实际应用中会随着优化而发生重要的和有意义的变化，尤其是它的前几个特征向量会朝向神经网络所学习的目标函数，并成为神经网络输出的基础函数

    Oct, 2019

  • 神经正切核：神经网络的收敛性和泛化性

    本研究证明了在梯度下降算法中，人工神经网络的演化可以被表示为一种核函数，称为神经切向核。它在无限宽度下收敛于一个明确的极限核，并且在训练过程中保持不变，可以用函数空间而不是参数空间来研究人工神经网络的训练。我们关注最小二乘回归并表明，在无限宽度下，网络函数 $f_ heta$ 在训练期间遵循线性微分方程。最后，我们对神经切向核进行了数值研究，观察了其在宽网络中的行为，并将其与无限宽度的极限进行了比较。

    Jun, 2018

  • 线性宽度神经网络的共轭核和神经切向核的频谱

    研究神经网络中的共轭内核和神经切向内核的特征值分布，证明在随机初始化权重、具有近似成对正交性的输入样本和网络宽度与样本大小成线性增长的渐近情况下，CK 和 NTK 的特征值分布会收敛到确定性极限，并描述了 CK 和 NTK 的极限情况，其中 CK 的极限情况是通过在隐藏层之间迭代 Marcenko-Pastur 映射描述的。

    May, 2020

  • 循环神经切向核

    本文介绍并研究了循环神经切线核（RNTK）的性能，证明其能够比其他内核提供更好的性能表现，尤其在处理不同长度输入的情况下表现良好。

    Jun, 2020