可学习的和最优的多项式基础的图神经网络

Feb, 2023

可学习的和最优的多项式基础的图神经网络

Graph Neural Networks with Learnable and Optimal Polynomial Bases

Yuhe Guo, Zhewei Wei

TL;DR本文提出了两种新的谱图神经网络模型，一种是从所有可能规范正交基中学习多项式基的 FavardGNN 模型，另一种是针对给定的图结构和信号计算最优基的 OptBasisGNN 模型，并进行了大量实验以证明所提出模型的有效性。

Abstract

polynomial filters, a kind of graph neural networks, typically use a predetermined polynomial basis and learn the coefficients from the training data. It has been observed that the effectiveness of the model is h

polynomial filters graph neural networks spectral gnn models favard's theorem optimal polynomial basis

发现论文，激发创造

LONGNN：可学习正交基的谱图神经网络

本论文提出了一种基于 Jacobi 多项式的新型谱图神经网络，LON-GNN，采用可学习的正交归一基，证明了正则化系数等价于现在学习的过滤器函数的正则化，实验证明其拟合能力和泛化能力均优于现有模型。

Mar, 2023

一种适用于光谱图神经网络的有效的通用多项式基

通过结合异质性度和同质性度，我们提出了一种新的通用多项式滤波器 UniFilter，采用了自适应异质性基础 UniBasis，并证明了它在图分析中的优越性和广泛适用性。

Nov, 2023

如何通过通用多项式基加强光谱图神经网络：异质性、过度平滑和过度压缩

基于谱图神经网络和多项式滤波器，本研究提出了一种新颖的自适应异质基础，通过理论分析探索了期望多项式基与异质性程度之间的内在关联，并将其与同质性基础相结合，构建了一个多项式滤波器的图神经网络 UniFilter，成功优化了卷积和传播过程，在各种异质性程度的真实和合成数据集上进行的大量实验证明了 UniFilter 的优越性，同时突出了 UniBasis 在图解释方面的能力。

May, 2024

用于图神经网络的自动多项式滤波器学习

本文提出了一种新的自动多项式图滤波器学习框架 ——Auto-Polynomial，能够更高效地学习适应各种复杂图信号的滤波器，从而解决了多项式图滤波器学习中的过拟合问题，并在多个学习设置下，考虑各种标记比率，显著提高了同构和异构图的性能。

Jul, 2023

优化多项式图滤波器：一种新的自适应克莱洛夫子空间方法

该论文提出了一种新的自适应 Krylov 子空间方法，通过优化多项式基，在图谱上实现了对不同异质度的图进行自适应滤波，并利用扩展的 AdaptKry 捕捉图的复杂特征并提供对其内在复杂性的见解。

Mar, 2024

BernNet: 基于 Bernstein 逼近学习任意图的谱滤波器

提出 BernNet 作为一种新型图神经网络，它通过 Bernstein 多项式逼近设计和学习任意图谱滤波器，能够学习任意的谱滤波器而不仅仅是预定义的或无约束的，从而在现实世界的图形建模任务中取得了出色的性能表现。

Jun, 2021

通过正负耦合分析重新思考图多项式滤波器

最近，Spectral Graph Neural Networks (GNNs) 中多项式滤波器的优化成为一个突出的研究焦点。现有的 Spectral GNNs 主要强调滤波器设计中的多项式特性，引入了计算开销，并忽视了关键的图结构信息的整合。我们认为将图信息纳入基础构建可以增强对多项式基础的理解，并进一步促进简化的多项式滤波器设计。在此基础上，我们首先提出了一个正负耦合分析 (PNCA) 框架，其中定义了正激活和负激活的概念，并分析了它们各自和混合效应。然后，我们从消息传递的角度探索了 PNCA，揭示了激活过程中隐藏的微妙信息。随后，我们使用 PNCA 来分析主流的多项式滤波器，并设计了一种新颖的简单基础，使正激活和负激活解耦，并充分利用了图结构信息。最后，基于新基础，我们提出了一个简单的 GNN（称为 GSCNet）。节点分类的基准数据集上的实验结果验证了我们的 GSCNet 相对于现有最先进的 GNNs 来说在要求相对较少的计算时间内获得更好或可比的结果。

Apr, 2024

图神经网络的等变多项式

本研究介绍了一种基于图神经网络 (GNN) 计算等变多项式的表达能力层级方法，并提出了一种新的具有更具体指导意义的算法工具来评估 GNN 表达能力。同时，通过增加多项式特征或其他操作 / 聚合的方法，提高了 GNN 架构的表达能力，实现了在多个图形学习基准中的最新结果。

Feb, 2023

谱图神经网络的强大程度

本文研究了基于图信号滤波器的谱图神经网络的表达能力，证明了无需非线性函数就可产生任意图信号，并建立了表达能力与图同构测试之间的联系。提出了一种名为 JacobiConv 的新型谱图神经网络，该网络能在不使用非线性函数的情况下超越所有对比算法。

May, 2022

在 Kolmogorov-Arnold 网络中探索多项式基函数的潜力：不同多项式组的比较研究

该论文调查了 18 种不同的多项式以及它们在 Kolmogorov-Arnold 网络 (KAN) 模型中的潜在应用，作为传统样条方法的替代。这些多项式根据它们的数学特性进行分类，包括正交多项式、超几何多项式、q - 多项式、斐波那契相关多项式、组合多项式和数论多项式。研究目的是调查这些多项式作为 KAN 模型中的基函数在复杂任务（如 MNIST 数据集上的手写数字分类）中的适用性。评估并比较了 KAN 模型的性能指标，包括总体准确度、Kappa 系数和 F1 得分。Gottlieb-KAN 模型在所有指标上均取得了最高性能，表明其在给定任务中的潜力。然而，需要进一步分析和调整这些多项式在更复杂数据集上的表现，以充分了解它们在 KAN 模型中的能力。这些 KAN 模型的实现源代码可在该 https URL 上获得。

May, 2024