Apr, 2023

拓扑深度学习架构：拓扑神经网络综述

PDF
TL;DRTopological Deep Learning 解决复杂系统数据处理与知识提取的框架，但目前 Topological Neural Network 研究缺乏统一的符号和语言。本文提供对 TDL 可访问的介绍，并使用统一数学和图形符号比较最近发表的 TNN。通过对 TDL 领域的直观和批判性评估，提取有价值的见解，为未来发展提供激动人心的机遇。
发现论文，激发创造
  • 拓扑深度学习：新兴范式综述

    本文综述了拓扑深度学习领域，回顾了拓扑数据分析的核心概念，探讨了如何将 TDA 技术融入到不同方面的深度学习中，并讨论了拓扑深度学习的挑战和未来前景。

    Feb, 2023

  • 拓扑深度学习的挑战与机遇

    拓扑深度学习是一个快速发展的领域，它使用拓扑特征来理解和设计深度学习模型。本文认为，通过整合拓扑概念，拓扑深度学习可以作为补充图表示学习和几何深度学习的自然选择，并且可以在各种机器学习场景中提供实用的益处和理论基础，并讨论了拓扑深度学习中的一些开放问题，包括潜在解决方案和未来的研究机会。同时，本文也邀请科学界积极参与拓扑深度学习研究，以发掘这个新兴领域的潜力。

    Feb, 2024

  • 神经网络分析的拓扑数据分析综述

    该研究综述了拓扑数据分析（TDA）在神经网络分析中的应用，并通过使用 TDA 工具如持久性同调和 Mapper 来探究神经网络及其数据集的复杂结构和行为。研究讨论了从数据和神经网络中获取拓扑信息的不同策略，并回顾了拓扑信息如何被利用来分析神经网络的特性，如其泛化能力或表达能力。重点讨论了深度学习在对抗检测和模型选择等领域的实际应用。将研究工作分为四个广泛领域：1. 神经网络架构的特征化；2. 决策区域和边界的分析；3. 内部表示、激活和参数的研究；4. 训练动态和损失函数的探索。在每个类别中讨论了几篇文章，并提供背景信息，以帮助理解各种方法。最后，综合研究获得的关键见解，讨论了领域中的挑战和潜在进展。

    Dec, 2023

  • E (n) 等变拓扑神经网络

    图神经网络、拓扑深度学习、E（n）等变拓扑神经网络、几何特征和结构丰富数据的学习

    May, 2024

  • 拓扑图信号压缩

    提出了一种基于拓扑深度学习（TDL）的新方法，用于在图上压缩信号；该方法通过两个步骤实现，首先通过聚类将 N 个数据点划分为 K 个集合，然后通过拓扑启发的消息传递在这些多元素集合中获得信号的压缩表示；结果表明，该框架在压缩两个真实互联网服务提供商网络数据集中的时间链接信号方面比标准 GNN 和前馈架构的重建误差提高了 30％至 90％，表明它可以更好地捕捉和利用整个基于图的网络结构的时空相关性。

    Aug, 2023

  • 从流形学习的角度看深度神经网络架构

    本文旨在比较和描述神经网络结构在几何和拓扑方面的内部表示和层间数据流动的拓扑和几何动态变化，并使用拓扑数据分析和持久性同调分形维数的概念，通过不同层次的数据集以及卷积神经网络和转换网络在计算机视觉和自然语言处理任务中的各种配置的广泛实验，为可解释的和可解释的 AI 的发展做出了贡献。

    Jun, 2023

  • 卷积神经网络激活层拓扑结构实验观察

    本文应用拓扑数据分析的前沿技术，通过量化内部表示之间的差异和绘制网络层次结构图等方法，探索了用于图像分类的深度神经网络的可解释性，并提供了实验证据证明这些方法能够捕捉到有关模型过程的可贵结构信息。

    Dec, 2022

  • 图神经网络在表格数据学习中的应用：一项包含分类和发展方向的调查

    通过对实现图神经网络 (GNNs) 的 Tabular Data Learning (TDL) 方法进行系统回顾与详细调查，本文强调了潜在关联性以及特征间数值的不足在 TDL 中。同时，本文提供了 GNNs 在构建图结构和表示学习方面的综合分类，以及对辅助任务和实际应用领域的讨论，探讨了 GNNs 在 TDL 中的多样性和影响，并提出了未来研究方向，以推动 GNNs 在 TDL 中的创新。

    Jan, 2024

  • 深度学习的拓扑方法

    在卷积深度神经网络的内部状态上进行拓扑数据分析，以开发对其执行的计算的理解。应用此理解修 改计算以（a）加速计算和（b）改进从一组数字到另一组数字的泛化能力。分析的副产品之一是在图像数据集的新特征上产生几何体，并利用此观察结果开发出一种用于构建许多其他几何体的 CNN 模型的方法，包括由拓扑数据分析构建的图形结构。

    Nov, 2018

  • 深度图像理解的拓扑表示学习

    通过拓扑数据分析法，我们提出了一种新颖的深度学习框架，以更好地分割和不确定性评估复杂的细微结构，如生物医学应用中的神经元、组织和血管，为可扩展的标注提供了有力工具。

    Mar, 2024