Nov, 2023

可微分的 VQ-VAE 用于稳健的白质纤维束编码

PDF
TL;DR本文提出了一种新颖的可微分量化变分自编码器，用于对整个束流进行降维编码和信任度分析，并与几种现有的自编码器进行了比较，展示了在编码和合成方面的卓越性能。
autoencoderswhite matter streamlinesdimension reductionencoder architectureslatent space
发现论文，激发创造
  • 向量量化自编码器的理论与实验

    该研究利用基于期望最大化算法的训练技术提高 VQ-VAE 模型在 CIFAR-10 数据集上的图像生成结果，并通过知识蒸馏技术，开发出一种非自回归机器翻译模型，其准确性几乎与强贪婪自回归基线变压器相当，但在推理速度上快 3.3 倍。

    May, 2018

  • 神经离散表征学习

    本文提出了一种简单而强大的生成模型，学习离散表示，可以生成高质量的图像、视频和语音，同时进行说话人转换和音素无监督学习。

    Nov, 2017

  • 利用 VQ-VAE-2 生成多样高保真度图像

    本文探讨矢量量化变分自编码器模型 (VQ-VAE) 进行大规模图像生成的应用，采用自回归先验信息，结合简单前馈编码器和解码器网络，以压缩的潜变量空间进行自动回归模型采样，同时使用多尺度层级 VQ-VAE 进行生成，取得比 Generative Adversarial Networks 更加优秀的样本生成品质。

    Jun, 2019

  • 分层量化自编码器

    该研究使用层次 VQ-VAE 近似压缩图像，同时保持感知质量和抽象特征。在 CelebA 和 MNIST 数据集上进行了定性和定量评估。

    Feb, 2020

  • LiteVAE：轻量高效的变分自编码器用于潜在扩散模型

    通过引入 LiteVAE，一种基于 2D 离散小波变换的自编码器家族，我们在维持输出质量的同时提高了可扩展性和计算效率，基本 LiteVAE 模型在高分辨率图像生成方面与现有的 VAEs 相当，但编码器参数减少了六倍，导致更快的训练速度和更低的 GPU 内存需求，而我们的较大模型在所有评估指标（rFID、LPIPS、PSNR 和 SSIM）上均优于复杂度相当的 VAEs。

    May, 2024

  • 鲁棒量化向量变分自编码器

    本文提出了一种基于 VQ-VAE 的鲁棒生成模型（RVQ-VAE），使用两个分离的码本进行训练以处理数据集中可能的异常值，并采用加权欧几里得距离来量化数据点以确保正确的匹配，实验证明此模型能够在大量数据点受到污染时从内固定集合中生成例子。

    Feb, 2022

  • 无线通信和传感器网络中多模态数据融合的优化

    本文提出了一种基于向量量化变分自编码器架构的多模态数据融合新方法，可以在 MNIST-SVHN 数据和 WiFi 光谱数据之间以及 5G 通信场景下实现卓越的重构性能，并通过端到端 CSI 反馈系统来压缩基站（eNodeB）和用户设备（UE）之间传输的数据，为各种类型的输入数据（CSI，光谱图，自然图像等）学习一个具有区分性的压缩特征空间，是针对计算资源有限的应用的一个合适的解决方案。

    Feb, 2023

  • 基于预测性变分自编码器的时间序列数据鲁棒表示学习

    利用预测时间下一节点以及基于时间平滑性的模型选择度量，我们提出了一种能够减轻 VAE 学习虚假特征，并能在合成数据集中准确恢复潜在因素的 VAE 架构。

    Dec, 2023

  • VTAE: 变分转换自编码器与流形学习

    提出了一种变分空间转换自编码器（VTAE），通过在 Riemann 流形上最小化测地线来改善表征学习，并提高计算机视觉任务的预测准确性和适用性，包括图像插值和重构。

    Apr, 2023

  • 动态变分自编码器：综述

    本文对可变自编码器 (VAE) 拓展至处理序列数据的方法进行了综述，提出并讨论了动态变分自编码器 (DVAEs) 这一类模型，详细介绍了七种 DVAE 模型，并通过语音分析 - 重构任务的实验基准进行了验证，最后探讨了 DVAE 模型的重要问题和未来的研究方向。

    Aug, 2020