本文介绍了一种称为 Specformer 的基于自注意机制的可学习集合对集合谱滤波器，实现对图形代表的编码，在单个样本数据集上进行测试并比其他谱 GNN 表现更好。

Mar, 2023

本文提出了一种名为 Tokenized Graph Transformer（TokenGT）的新颖神经网络，它可以用于大规模图形学习，通过节点和边的独立表示进行转换，并且通过合适的 token 嵌入，TokenGT 可以在理论上至少与由等变线性层组成的不变图网络（2-IGN）一样有潜力进行表现，实践中，TokenGT 在大规模图形数据集（PCQM4Mv2）上的表现不仅优于基于消息传递的图神经网络（GNN）基线，而且与具有复杂图特定归纳偏差的变型 Transformer 相比也具有竞争力。

Jul, 2022

该研究提出了一种图形变换器结构的分类体系，展示了其在分子预测等方面的潜力，探究了其在处理异质性图形及防止过多压缩等方面的效果，并提供了未来研究的方向和挑战。

Feb, 2023

使用光谱特征的图神经网络（GNNs）已显示出有希望的结果，但由于特征向量的固有模棱两可性，这提出了一项基本挑战。已经提出了几种架构来解决这种模棱两可性，被称为光谱不变架构。其中几个著名的例子包括使用光谱距离、光谱投影矩阵或其他不变光谱特征的 GNNs 和图变换器。然而，这些光谱不变架构的潜在表达能力仍然不太清楚。本研究的目标是在使用光谱特征时获得深入的理论理解可获得的表达能力。我们首先介绍了一种用于设计光谱不变 GNNs 的统一传递信息框架，称为特征空间投影 GNN（EPNN）。全面的分析表明，EPNN 本质上统一了所有先前的光谱不变架构，因为它们要么严格不可表达，要么与 EPNN 等价。还建立了不同架构之间的细粒度表达层次结构。另一方面，我们证明了 EPNN 本身被一种最近提出的子图 GNNs 类所约束，这意味着所有这些光谱不变架构严格不可表达 3-WL。最后，我们讨论了结合更具表达能力的 GNNs 时是否可以通过使用光谱特征来获得额外的表达能力。

Jun, 2024

本文研究了基于图信号滤波器的谱图神经网络的表达能力，证明了无需非线性函数就可产生任意图信号，并建立了表达能力与图同构测试之间的联系。提出了一种名为 JacobiConv 的新型谱图神经网络，该网络能在不使用非线性函数的情况下超越所有对比算法。

May, 2022

本文介绍了新的图神经网络 $ extit {Spectral Attention Network}$ (SAN)，通过学习节点位置编码 (LPE) 来处理图结构数据，并采用全连接 Transformer 作为模型框架，有效地解决了信息瓶颈问题和节点位置定义问题，从而在 4 个标准元数据集上表现出超过同类模型的性能。

Jun, 2021

本文建立了一个理论框架，阐明了光谱 - 时域 GNN 表达能力的基础，结果表明线性光谱 - 时域 GNN 在温和假设下是通用的，基于我们的框架，我们提出了一个名为 TGC 的简单实例，在模型效率和准确性方面显著优于绝大部分现有模型。

May, 2023

本研究提出了一种名为 SpectralFormer 的新型网络，它采用了变形金刚模型，从时序的角度重新构思了超光谱图像分类问题，并在三个数据集上证明了其优越性。

Jul, 2021

从光谱角度处理图形生成问题，通过生成图形拉普拉斯光谱的主导部分并构建一个与它们匹配的图形来解决图形生成的问题。这种新的 GAN 模型 SPECTRE 不仅实现了比传统模型更高效的生成，还提高了模型建模的保真度，并避免了昂贵的序列生成和依赖于节点排序的问题。

Apr, 2022

本文提出了一种名为 “图变压器” 的模型，使用显式关系编码并允许两个远程节点之间的直接通信。与局部邻域信息交换的图神经网络不同，它提供了一种更有效的全局图结构建模方式，并在抽象意义表示文本生成和基于句法的神经机器翻译应用中表现出优异的性能。

Nov, 2019