重新审视结构化变分自编码器

May, 2023

Revisiting Structured Variational Autoencoders

Yixiu Zhao, Scott W. Linderman

TL;DR通过现代机器学习工具来实现硬件加速、并行化和自动微分的消息传递算法，探讨并展示了 SVAE 模型的优势，从而表明现在是重新审视结构化变分自编码器的时候了。

Abstract

structured variational autoencoders (SVAEs) combine probabilistic graphical model priors on latent variables, deep neural networks to link latent variables to observed data, and structure-exploiting algorithms for approximate posterior inference. These models are particularly appealing

structured variational autoencoders probabilistic graphical models machine learning posterior inference sequential data

发现论文，激发创造

具结构离散表示的深度生成模型的无偏学习

通过将图形模型与深度学习架构组合，我们学习具有两种框架优势的生成模型。我们提出了学习 SVAE 的新算法，并首次证明了 SVAE 处理丢失数据时处理多模态的能力。这些优化创新使 SVAE 能够通过梯度下降法进行学习。

Jun, 2023

高斯过程先验变分自编码器

本文研究了一种新的模型 Gaussian Process Prior Variational Autoencoder (GPPVAE)，结合了 VAEs 和具有 GP priors 关联特性的能力，解决了 VAEs 假设的潜在样本表示是独立并且同分布的假设不够强的问题，并利用协方差矩阵中的结构，介绍了一种新的随机反向传播策略，达到了分布式和低内存计算随机梯度的目的，实验证明该方法可以在两个图像数据应用程序中优于 conditional VAEs (CVAEs) 和标准 VAEs。

Oct, 2018

变分自编码器教程

介绍了变分自编码器（VAE）背后的直觉，解释了其背后的数学原理，并描述了它们的一些经验行为。

Jun, 2016

动态变分自编码器：综述

本文对可变自编码器 (VAE) 拓展至处理序列数据的方法进行了综述，提出并讨论了动态变分自编码器 (DVAEs) 这一类模型，详细介绍了七种 DVAE 模型，并通过语音分析 - 重构任务的实验基准进行了验证，最后探讨了 DVAE 模型的重要问题和未来的研究方向。

Aug, 2020

使用变分自编码器生成可解释的表示

本文提出了一个框架，利用结构化图形模型在变分自动编码器（VAEs）的编码器中导出可解释的表达，使得在给定图形模型的结构限制下执行推理，并使用深度生成模型处理高维度的杂乱领域变得更容易。同时在无监督和半监督的情况下，通过变分目标进行端对端的学习。

Nov, 2016