Aug, 2022

使用哈希的嵌入压缩技术，用于大规模图表现学习的高效方法

PDF
TL;DR通过使用压缩方法，我们可以将节点嵌入用比浮点向量更紧凑的向量表示，从而实现在工业级规模的图形数据上快速训练图神经网络，同时达到更好的性能。
graph neural networksnode featuresnode embeddingsembedding compressionperformance
发现论文，激发创造
  • 使用图神经网络学习哈希用于推荐系统

    本文提出基于图神经网络的哈希学习方法，在连续编码和离散编码的联合特征表示空间中实现检索，并使用 STE 和导向策略进行离散优化，实验证明该模型在维持哈希编码相对顺序的同时运行速度较快且性能与其连续编码对应模型无明显差别。

    Mar, 2020

  • 使用精确压缩学习图神经网络

    本文研究采用精确压缩的方式，将图神经网络（GNNs）学习问题转化为等价的压缩 GNNs 学习问题，以减少在大型图上学习 GNNs 时 GPU 等内存有限设备的存储需求，实验表明可以在现实世界的图上获得可观的压缩比。

    Apr, 2023

  • 使用 Tensor-Train 分解提升 Nimble GNN 嵌入性能

    本文利用张量列车分解的方法，将图神经网络的嵌入表更紧凑地表示，从而降低了模型大小，实现了在大型公共基准数据集上节点嵌入向量大小的减小，且在多 GPU 系统上实现了相当或更好的准确性和显著的加速。本文还介绍了用于降低主机到 GPU 通信的方案。

    Jun, 2022

  • GraphViz2Vec：提升 GNNs 分类效果的结构感知特征生成模型

    本文提出了一种新的特征提取方法 GraphViz2Vec，可以捕捉节点的局部邻域的结构信息来创建有意义的 GNN 模型的初始嵌入，这些初始嵌入有助于现有模型在各种分类任务中实现最先进的结果。

    Jan, 2024

  • 一种基于图的性能分析新型表示学习技术

    将表格形式的性能数据转换为图形，利用图神经网络方法捕捉特征和样本之间复杂的关系，以提高回归任务的性能分析领域中的预测模型的性能。

    Jan, 2024

  • 内容增强图神经网络

    本文中，我们提出了在高级 GNN 层次中通过内容生成的嵌入来增强节点嵌入，实验证明我们的模型具有高准确性和性能。

    Nov, 2023

  • 通用图和节点分类的编码器嵌入

    将图编码嵌入方法扩展到包括加权图、距离矩阵和核矩阵等一般图模型，证明该方法满足大数定律和中心极限定理，能够在一定条件下实现渐近正态性，并通过一系列实验证实了这些理论发现。

    May, 2024

  • 二值化图神经网络

    本研究提出了一种基于二值网络参数的二值图神经网络模型，将其与现有的图嵌入方法相结合，可以提高模型效率和可扩展性，同时与当前最优性能相匹配。

    Apr, 2020

  • 学习压缩嵌入，为设备内推理提供支持

    提出一种新型的多嵌入压缩方法 MEmCom，利用哈希和可训练权重分别构建两个嵌入表来同时实现对嵌入表的压缩和各实体对应独特嵌入的映射，该方法在多个问题类别上超过现有技术，并在压缩嵌入大小的同时实现与非压缩嵌入相近的区分能力。

    Mar, 2022

  • 多任务设置下的图表示学习的元学习方法

    本文提出了一种新的元学习策略，能够生成可用于多个任务的多任务节点嵌入，并在多个任务上表现出比传统模型更高甚至可比的性能。该方法可以避免同时执行多个任务时出现的困难，是模型不可知和任务不可知的，适用于各种多任务领域。

    Dec, 2020