Jun, 2023

向量量化图自编码器

PDF
TL;DR本文提出了一种基于图神经网络的离散自编码器，Vector-Quantized Graph Auto-Encoder (VQ-GAE)，用于模拟图的分布，通过利用图神经网络的等变性、局部结构和全局结构，以离散向量化的方式将图对象映射到潜在空间中捕捉整体结构，并在图形生成方面显示出优秀的性能。
vector-quantized graph auto-encoderdistribution modelinggraph neural networkslocal and global structuresautoregressive models
发现论文，激发创造
  • 变分图自编码器

    本文提出可变图自编码器 (VGAE) 框架，用于处理基于变分自编码器 (VAE) 的图结构数据无监督学习模型。该模型基于潜在变量，能够学习图的可解释的潜在表示。在引文网络的链接预测任务中，我们使用图卷积网络 (GCN) 编码器和内积解码器来展示该模型。与大多数现有的图结构数据和链接预测无监督学习模型相比，我们的模型可以自然地融入节点特征，从而在许多基准数据集上显著提高预测性能。

    Nov, 2016

  • 神经离散表征学习

    本文提出了一种简单而强大的生成模型，学习离散表示，可以生成高质量的图像、视频和语音，同时进行说话人转换和音素无监督学习。

    Nov, 2017

  • 向量量化自编码器的理论与实验

    该研究利用基于期望最大化算法的训练技术提高 VQ-VAE 模型在 CIFAR-10 数据集上的图像生成结果，并通过知识蒸馏技术，开发出一种非自回归机器翻译模型，其准确性几乎与强贪婪自回归基线变压器相当，但在推理速度上快 3.3 倍。

    May, 2018

  • VQGraph：用于连接 GNNs 和 MLPs 的图向量量化

    通过使用结构感知的图标记器和基于软标记分配的基于令牌的蒸馏目标函数，VQGraph 构建了一个功能强大的图表示空间，从而在 GNN 和 MLP 之间进行了知识传递，并在多个图数据集上实现了新的最好性能，分别提高了 828 倍的推理速度和 3.90% 和 28.05% 的准确率。

    Aug, 2023

  • 利用 VQ-VAE-2 生成多样高保真度图像

    本文探讨矢量量化变分自编码器模型 (VQ-VAE) 进行大规模图像生成的应用，采用自回归先验信息，结合简单前馈编码器和解码器网络，以压缩的潜变量空间进行自动回归模型采样，同时使用多尺度层级 VQ-VAE 进行生成，取得比 Generative Adversarial Networks 更加优秀的样本生成品质。

    Jun, 2019

  • 分层量化自编码器

    该研究使用层次 VQ-VAE 近似压缩图像，同时保持感知质量和抽象特征。在 CelebA 和 MNIST 数据集上进行了定性和定量评估。

    Feb, 2020

  • 基于一阶线性模型的简单高效图自编码器

    使用更简单的线性模型代替多层图卷积网络编码器学习节点的向量空间表示，在节点嵌入等任务上表现良好，提出对于复杂的图自编码器和变分自编码器反复使用这些基准数据集进行比较的问题。

    Jan, 2020

  • 保持简单：无需图卷积网络的图自编码器

    本文提出一种替代图卷积网络 (GCN) 编码器的简单线性模型来学习节点的向量表示，并通过实验证明在多个现实世界的图中，如 Cora、Citeseer 和 Pubmed 引文网络上，其表现与基于 GCN 的模型相当，这结果对于评估复杂图自动编码器和变分自动编码器的实际实用价值具有重要意义。

    Oct, 2019

  • 鲁棒量化向量变分自编码器

    本文提出了一种基于 VQ-VAE 的鲁棒生成模型（RVQ-VAE），使用两个分离的码本进行训练以处理数据集中可能的异常值，并采用加权欧几里得距离来量化数据点以确保正确的匹配，实验证明此模型能够在大量数据点受到污染时从内固定集合中生成例子。

    Feb, 2022

  • 利用解缠结构图自编码器学习网络表示

    我们介绍了 “解缠图自编码器” 和 “解缠变分图自编码器”（DGA 和 DVGA）的方法，其利用生成模型学习解缠表示，通过设计多通道信息传递层的解缠图卷积网络作为编码器，以及引入在不同潜在因素上的独立性约束，我们的方法在合成和真实数据集上实验表明其优越性。

    Feb, 2024