ICLROct, 2021

图神经网络的图压缩算法

PDF
TL;DR本篇研究提出并研究了图卷积神经网络 (GNNs) 的图压缩问题，旨在将原始大图压缩成小型合成图以提高神经模型训练的时间性能，通过优化梯度匹配损失和设计一种策略同时压缩节点特征和结构信息，有效地将不同图数据集压缩成信息丰富的较小图并将其用于训练各种 GNN 体系结构，测试结果在 Reddit 上可达到 95.3％，在 Flickr 上可达到 99.8％，在 Citeseer 上可达到 99.0％，同时将其图的尺寸缩小了 99.9％以上。
发现论文，激发创造
  • 简洁图压缩

    通过简化图卷积网络在图浓缩过程中的度量对齐方法，提出了一种简化的图浓缩方法，该方法在性能表现上与现有方法相当，并且在速度上能够实现高达 10 倍的加速。

    Mar, 2024

  • 用于归纳节点表示学习的图压缩

    图神经网络 (GNNs) 在处理大规模图时遇到了显著的计算挑战，这严重限制了它们在各种应用中的效力。为了解决这个限制，图压缩成为一种有前景的技术，它构建一个小的合成图以有效地训练 GNNs 并保持性能。然而，由于节点之间的拓扑结构，图压缩仅限于压缩观测训练节点及其相应的结构，因此缺乏处理未见数据的能力。因此，在推理阶段仍需要原始大图进行信息传递，导致了大量的计算需求。为了解决这个问题，我们提出了映射感知的图压缩 (MCond)，明确学习原始节点到合成节点的一对多映射，以无缝地将新节点整合到合成图中进行归纳表示学习。这使得直接在合成图上进行信息传播比在原始大图上更高效。具体而言，MCond 采用了交替优化方案，具有来自传统的和归纳的角度的创新损失项，促进了图压缩和节点映射学习之间的相互促进。大量实验证明了我们方法在归纳推理中的有效性。在 Reddit 数据集上，与基于原始图的对照方法相比，MCond 在推理速度上实现了高达 121.5 倍的加速和 55.9 倍的存储需求降低。

    Jul, 2023

  • 通过自表达图结构重建实现图数据压缩

    通过解释性自表示图结构重构的方法，GCSR 在显式地融入原始图结构的过程中，通过重构可解释的自表示图结构，解决了在训练大规模图上的图神经网络时，节点特征优化、构建可解释图结构的问题。

    Mar, 2024

  • 图形压缩：一项调查

    对图形凝聚进行了全面而深入的研究，提出了 GC 的四个关键评估标准，并详细讨论了优化策略和凝聚图生成这两个关键组成部分，同时介绍了 GC 在各领域的应用和未来研究中的挑战与观点。

    Jan, 2024

  • 重新思考和加速图形精简：一种无需训练的带类别分割方法

    通过 Class-partitioned Graph Condensation (CGC) 方法，能够在更有效的压缩过程中实现最先进的性能。

    May, 2024

  • 信息瓶颈原理下的联邦图压缩

    我们提出并研究了图神经网络的联邦图压缩新问题，通过将图压缩的梯度匹配过程分解为客户端梯度计算和服务器端梯度匹配，大大减轻了客户端的计算成本，并结合信息瓶颈原理，在联邦图训练中实现了会员隐私的保护。

    May, 2024

  • 大规模图的解缩聚

    本论文提出了用于各种大小的大规模图的可扩展图压缩方法 DisCo，其中有两个互补的组件，即节点压缩模块和边压缩模块，实现了节点和边的分离压缩。通过在预训练节点分类模型中合并类别质心对齐和锚点附加正则化器，节点压缩模块可以生成类似于原始节点的特征分布的合成节点，并将原始图的连边预测模型转移到压缩的节点中，生成相应的压缩边。实验证明，DisCo 方法在五个常见数据集上的结果明显优于目前最先进的方法。

    Jan, 2024

  • GCondenser: 图谱压缩基准测试

    大规模图的压缩是一个重要的研究领域，本文提出了第一个大规模图压缩基准，名为 GCondenser，为综合评估和比较主流的 GC 方法提供了标准化的框架和评估程序，并展示了现有方法的有效性。

    May, 2024

  • RobGC：走向强大的图压缩

    图神经网络、图压缩、鲁棒图压缩、训练图、图结构噪声

    Jun, 2024

  • 通过一步梯度匹配压缩图

    本文提出了一种基于概率图模型和单步梯度匹配的高效数据集压缩方法，能够在保持性能的前提下将数据集大小缩减 90%。

    Jun, 2022