Aug, 2023

通过量化和概率质量函数概念从自编码器的潜空间采样

PDF
TL;DR通过概率质量函数的概念，结合量化处理，我们引入了一种新颖的后训练采样算法，该算法可以从生成模型的潜在空间中取样，使得重建的样本更接近真实图像。我们的方法在速度上大大提高了运行效率，性能优于基于高斯混合模型的采样技术，并在一系列模型和数据集上展现了显著的改进。我们还证实了我们的方法在估算潜在空间分布方面的有效性，相比于高斯混合模型的采样技术，特别是通过 Wasserstein 距离的比较。
generative modelsautoencoderssampling algorithmlatent vectorsimage generation
发现论文，激发创造
  • Simplex 自编码器

    基于 Autoencoder 模型的 latent space，我们提出了一种新的方法，将其建模为一个 simplex，从而为确定混合模型中成分的数量提供了一种新颖的启发式方法。利用概率质量函数的抽样方法，我们在 MNIST、CIFAR-10 和 Celeba 数据集上验证了该方法的性能，取得了良好的成果和较低的图像评价指标 FID 值，并在 MNIST 数据集上达到了目前最佳的 GAN-held 记录。

    Jan, 2023

  • 利用向量量化变分自编码器恢复潜空间进行异常检测

    通过使用 VQ-VAEs 结合密度和基于恢复的方法，我们提出一种识别实现无监督异常检测的新方法，该方法通过对图像进行编码将概率分布建模，并将不常见的编码替换为从先验分布中采样的编码集合，通过对生成的恢复图像和原始图像之间的平均 L1 距离度量像素级的异常得分，我们对 MOOD 挑战数据集进行了测试，相比具有 VAEs 的标准重建方法，我们的方法具有更高的准确性。

    Dec, 2020

  • GAN 的最佳精度

    研究深度生成模型的潜在空间几何结构及优化条件，通过实验提出限制方法，提高生成对抗网络的性能。

    Jul, 2022

  • 高维非参数自适应重要性采样的加权样本变分自编码器

    使用加权样本进行概率密度函数估计是所有自适应重要性采样算法的主要基础。本文提出使用变分自编码器参数化的近似模型来解决传统非参数模型或参数模型在高维度和灵活性方面的问题，并结合重要性采样算法对目标分布进行采样。

    Oct, 2023

  • 复杂性的重要性：重新思考生成建模的潜空间

    本研究探讨了生成建模中潜在空间选择的最优解以及其确定过程，并提出了一种新的距离度量方法和具体的训练策略来优化潜在空间的选择，进而提高生成效果。

    Jul, 2023

  • 学习非参数高维生成模型：经验贝塔 - 科普拉自动编码器

    通过从自动编码器的潜空间进行采样并将样本解码到原始数据空间，可以将任何自动编码器简单地转变为生成模型。本研究旨在讨论、评估和比较可以用于捕捉潜空间的各种技术，以使自动编码器成为生成模型，同时追求简单性。其中，考虑了一种基于 copula 的新方法，即经验 Beta Copula 自动编码器。此外，我们还提供了关于这些方法进一步方面的见解，例如有针对性的采样或合成具有特定特征的新数据。

    Sep, 2023

  • 探索和利用中心性先验进行高质量的 GAN 潜空间抽样

    本文提出了一种基于 GAN 潜在空间中 hubness prior 的采样方法，并发现了 hub latents 的聚类效应，证明了该方法的优越性和基础性。

    Jun, 2022

  • 利用 VQ-VAE-2 生成多样高保真度图像

    本文探讨矢量量化变分自编码器模型 (VQ-VAE) 进行大规模图像生成的应用，采用自回归先验信息，结合简单前馈编码器和解码器网络，以压缩的潜变量空间进行自动回归模型采样，同时使用多尺度层级 VQ-VAE 进行生成，取得比 Generative Adversarial Networks 更加优秀的样本生成品质。

    Jun, 2019

  • 二元潜在扩散

    本文基于自动编码器训练了一个伯努利编码分布的二元潜空间模型，用于图像压缩和高分辨率图像生成。结果表明该方法无需使用多级层次结构即可大幅提高采样效率，生成的图像质量好且效果与现有先进方法相当。

    Apr, 2023

  • 使用稀疏表示生成图像

    本文提出一种基于分块离散余弦变换（DCT）块的生成模型，使用 Transformer-based 自回归模型对块进行预测，以生成高质量、多样化的图像，并展示了对于简单的改进，该方法在图像着色和高精度图像放大方面也具有有效性。

    Mar, 2021