KDDJul, 2021

Local2Global: 通过本地培训对图上的全局表示学习进行扩展

PDF
TL;DR本文提出了去中心化的 “local2global” 图表示学习方法，首先将输入的图划分为重叠的子图（或 “补丁”，patches），并分别对每个 “补丁” 训练本地表示。然后通过组同步，利用 “补丁” 重叠处的信息来估计最佳对齐的刚性运动集，将局部表示组合成全局一致的表示。相对于现有工作，local2global 的一个关键区别是无需在分布式训练期间进行昂贵的参数同步，可以独立地训练各个 “补丁”。这使得 local2global 可以扩展到大规模工业应用程序，在这些应用中，输入图甚至可能无法适合内存，并以分布方式存储。目前中等规模数据集（高达 7K 个节点和 200K 个边缘）的初步结果是令人鼓舞的，local2global 的图重建性能与全局训练嵌入相当。对大规模数据的 local2global 进行全面评估以及在节点分类和链接预测等下游任务中的应用尚在进行中。
decentralizedgraph representation learninglocal2globalscalingpatch
发现论文，激发创造
  • L2G2G：基于图自编码器的可扩展的本地到全局网络嵌入

    通过动态同步潜在节点表征并利用局部嵌入所提出的 L2G2G 方法，提高了 GAE 的准确性并保持可扩展性，表现优于标准的 Local2Global 方法，并在大型数据集上实现高效可扩展性。

    Feb, 2024

  • 使用本地和全局结构进行自监督的图级表示学习

    该论文提出了一种统一框架，名为 GraphLoG，用于自监督整图表示学习，其除保留本地相似性外，还引入了分层原型来捕捉全局语义簇，进一步发展了一个高效的在线期望最大化算法来学习该模型，并在化学和生物基准数据集上进行了广泛实验，证明所提出的方法的有效性。

    Jun, 2021

  • 在图嵌入中平衡本地和全局结构（LGS）

    通过可调参数，在图嵌入中实现局部和全局结构之间的平衡，以便在二维图上有效地捕捉局部和全局信息。使用综合质量指标评估了该方法的性能，结果表明其与最先进的方法竞争力相当，包括应力、邻域保持等。引入了一种新的质量指标用于评估中间结构的保持，所有的源代码、数据集、实验和分析结果都可以在线获取。

    Aug, 2023

  • 高效可扩展的图生成通过迭代局部扩展

    通过逐步扩展单个节点生成目标图形的方法，避免建模所有节点对之间的联合分布，通过局部生成来实现较大的计算节省和高度表现力，实现了状态较好的性能，并具有更好的泛化能力。

    Dec, 2023

  • 基于全局和局部表示的多网络对比学习

    提出了基于全局和局部特征表示的多网络对比学习框架，通过多个网络引入自监督对比学习的全局和局部特征信息，并通过对比由多个网络生成的嵌入对来学习图像不同尺度上的特征信息，并扩展对比样本数，提高了模型的训练效率。在三个基准数据集上的线性评估结果表明，我们的方法优于几种现有的经典自监督学习方法。

    Jun, 2023

  • 通过全局上下文预测进行自监督图表示学习

    本文提出了一种自监督的图表征学习策略，需要使用全局上下文进行图表征学习，其中通过训练神经网络预测节点之间相对位置来学习节点表征，以提高节点分类、聚类和链接预测等下游任务的性能。

    Mar, 2020

  • 建模知识图谱中的全局和局部节点上下文以进行文本生成

    本研究提出了一种新型神经模型，将全局节点编码和局部节点编码相结合，以学习更好的上下文节点嵌入，实现了在两个图文转换数据集上明显的改进。

    Jan, 2020

  • 基于图的时空预测中的局部效应控制

    本文旨在理解全局性和局部性在基于图的时空预测中的相互作用，并同时提出了一种方法论框架来合理化在这些结构中包含可训练节点嵌入的实践，通过在多个实验中提供强有力的经验证据和指导，我们论证了如何将图形模型专业化以适应每个时间序列的规律，展示了这个方面在获得准确预测中的关键作用。

    Feb, 2023

  • graph2vec：学习图的分布式表示

    本研究提出了一种名为 Graph2vec 的神经嵌入框架，用于学习任意大小的图的数据驱动分布式表示。该模型可以应用于图分类、图聚类等下游任务，并取得了显著的性能提升。

    Jul, 2017

  • 从局部结构到尺度泛化的图神经网络

    本文针对图形分布中局部结构与图形大小相关的情况，探讨了图神经网络在不同大小的图上的泛化能力，发现了一些针对小图很好但对大图表现不佳的全局最小值，提出了两种改善图形大小泛化能力的方法，其中包括一个自我监督学习任务，该任务能够提供在大图中出现的局部结构的有意义表示，并在多个数据集上改善了分类准确度。

    Oct, 2020