Aug, 2023

拓扑图信号压缩

PDF
TL;DR提出了一种基于拓扑深度学习（TDL）的新方法，用于在图上压缩信号；该方法通过两个步骤实现，首先通过聚类将 N 个数据点划分为 K 个集合，然后通过拓扑启发的消息传递在这些多元素集合中获得信号的压缩表示；结果表明，该框架在压缩两个真实互联网服务提供商网络数据集中的时间链接信号方面比标准 GNN 和前馈架构的重建误差提高了 30％至 90％，表明它可以更好地捕捉和利用整个基于图的网络结构的时空相关性。
topological deep learninggraph neural networkscompressing signalshigher-order structurestemporal link-based signals
发现论文，激发创造
  • 拓扑深度学习架构：拓扑神经网络综述

    Topological Deep Learning 解决复杂系统数据处理与知识提取的框架，但目前 Topological Neural Network 研究缺乏统一的符号和语言。本文提供对 TDL 可访问的介绍，并使用统一数学和图形符号比较最近发表的 TNN。通过对 TDL 领域的直观和批判性评估，提取有价值的见解，为未来发展提供激动人心的机遇。

    Apr, 2023

  • 拓扑图神经网络

    TOGL 是一种新颖的层，它将一个图的全局拓扑信息与持久同调结合，可轻松集成到任何类型的 GNN 中，在合成和真实数据集上的分类任务中表现出更好的预测性能。

    Feb, 2021

  • 张量视图拓扑图神经网络

    图分类是一项重要的图结构数据学习任务，我们提出了一种新颖的 Tensor-view 拓扑图神经网络 (TTG-NN)，利用持久同调、图卷积和张量运算构建了一种简单而有效的拓扑深度学习方法，能够同时捕捉局部和全局层面上的张量表示和图结构信息。在实际数据实验中，TTG-NN 在各种图基准数据上表现优于其他 20 种最先进的方法。

    Jan, 2024

  • E (n) 等变拓扑神经网络

    图神经网络、拓扑深度学习、E（n）等变拓扑神经网络、几何特征和结构丰富数据的学习

    May, 2024

  • 利用拓扑特征的深度学习

    本文提出了一种新颖的输入层技术，可以输入拓扑特征的签名到深度神经网络，并在训练过程中学习任务最优的表示方法，分类实验结果表明此技术的多功能性和优越性。

    Jul, 2017

  • 几何知识蒸馏：图神经网络拓扑压缩

    本文探讨了一种新的知识传递范式，旨在通过从在完全图上训练的教师 GNN 模型到在更小或更稀疏的图上操作的学生 GNN 模型提炼知识来将图拓扑信息编码到图神经网络（GNNs）中。作者提出了神经热核（NHK）并得到了一种基于 NHKs 对齐的基础和原则性解决方案，称为几何知识蒸馏。我们开发了非参数化和参数化实例，并在不同类型的特权拓扑信息和师生方案的各种实验设置中证明了它们的效果。

    Oct, 2022

  • 拓扑深度学习的挑战与机遇

    拓扑深度学习是一个快速发展的领域，它使用拓扑特征来理解和设计深度学习模型。本文认为，通过整合拓扑概念，拓扑深度学习可以作为补充图表示学习和几何深度学习的自然选择，并且可以在各种机器学习场景中提供实用的益处和理论基础，并讨论了拓扑深度学习中的一些开放问题，包括潜在解决方案和未来的研究机会。同时，本文也邀请科学界积极参与拓扑深度学习研究，以发掘这个新兴领域的潜力。

    Feb, 2024

  • 拓扑神经网络：通过高阶交互缓解图神经网络的瓶颈问题

    图神经网络在图结构化数据的表示学习任务中具有捕捉局部和全局模式的能力，但是长程和高阶依赖性带来了挑战。为了解决此问题，该论文提出了拓扑神经网络，并引入了基于拓扑结构的消息传递机制和多元关系归纳偏置，以更好地捕捉依赖关系和设计各向异性聚合方法。此外，还介绍了增强型细胞同构网络，通过增加拓扑消息传递机制，使环形结构中的节点组之间能够直接进行交互。

    Feb, 2024

  • 利用多阶段图嵌入和强化学习的拓扑感知网络剪枝

    本篇文章提出了一种基于图神经网络和强化学习的多阶段图嵌入技术，用于识别 DNN 的拓扑结构和寻找合适的压缩策略，实现模型压缩并获得更高的压缩比和竞争性的性能。

    Feb, 2021

  • 图神经网络在表格数据学习中的应用：一项包含分类和发展方向的调查

    通过对实现图神经网络 (GNNs) 的 Tabular Data Learning (TDL) 方法进行系统回顾与详细调查，本文强调了潜在关联性以及特征间数值的不足在 TDL 中。同时，本文提供了 GNNs 在构建图结构和表示学习方面的综合分类，以及对辅助任务和实际应用领域的讨论，探讨了 GNNs 在 TDL 中的多样性和影响，并提出了未来研究方向，以推动 GNNs 在 TDL 中的创新。

    Jan, 2024