双保真变分自编码器用于不确定性量化
使用量子玻尔兹曼机实现的量子变分自编码器(QVAE)比仅涉及生成过程中的离散变量的相似方法在 MNIST 数据集上实现了最先进的性能。将 QBM 放置在 VAE 的潜在空间中将充分发挥当前和下一代量子计算机作为采样设备的潜力。
Feb, 2018
本文探讨矢量量化变分自编码器模型 (VQ-VAE) 进行大规模图像生成的应用,采用自回归先验信息,结合简单前馈编码器和解码器网络,以压缩的潜变量空间进行自动回归模型采样,同时使用多尺度层级 VQ-VAE 进行生成,取得比 Generative Adversarial Networks 更加优秀的样本生成品质。
Jun, 2019
本研究提出一种基于 VAE 的非线性概率模型,用于解决协作过滤问题,相对于现有的线性因子模型,具有更强的建模能力,并使用贝叶斯推断进行参数估计来得到更好的泛化性能。本方法在现有多个数据集上均取得了显著优异的性能表现,并对使用多项式分布作为似然函数进行了比较实验,分析了使用贝叶斯方法的优缺点及适用场景。
Feb, 2018
本研究针对变分自编码器(VAEs)的效率和各种假设,提出了新的 VAE 增强方案,该方案不需要任何超参数或敏感调整,并且与多种 GAN 模型竞争时,能产生清晰的样本和稳定的 FID 分数。
Mar, 2019
该研究利用基于期望最大化算法的训练技术提高 VQ-VAE 模型在 CIFAR-10 数据集上的图像生成结果,并通过知识蒸馏技术,开发出一种非自回归机器翻译模型,其准确性几乎与强贪婪自回归基线变压器相当,但在推理速度上快 3.3 倍。
May, 2018
深度学习方法在计算神经科学中作为建模工具变得越来越重要,本文系统地研究了变分自编码器的不确定性表示,提出了一种新的方法解释偏离变分自编码器 (EA-VAEs),并发现它在各种情况下能够产生有意义的不确定性报告,可在计算神经科学的感知模型和计算机视觉的推理工具中发挥作用。
Apr, 2024
该研究提出了一种将遗传算法和变分自编码器相结合的进化变分自编码器方法,通过动态生成和更新不确定性权衡学习,解决了现有方法中面临的问题,包括 KL 消失问题和基于深度学习中的早期收敛和随机搜索问题。实验结果表明,与竞争方法相比,eVAE 在文本生成、图像生成质量等方面均有显著改善。
Jan, 2023
利用 Hamiltonian Jacobian Estimation 实现了一个新的 Hamiltonian Variational Auto-Encoder(HVAE)模型,可以用于高效地进行变分自编码器模型训练,并构建目标受控的归一化流。
May, 2018
该研究探讨了使用无香精变换来改进变分自编码器生成模型的表现,使用更具信息量和低方差的后验表示来确保更高质量的重建,并使用 Wasserstein 分布度量来替换 KL 散度以允许更快的后验分布,最后得到了一种竞争力强的确定性采样 VAE,可在脚手架分数上提高性能,训练方差较低。
Jun, 2023
本研究构建了可以有效利用深层随机变量的 VAE 模型,并介绍了一种双向推理 VAE (BIVA) ,其具有一个跳跃连接的生成模型和一个由双向随机推理路径构成的推理网络,该模型达到了最先进的测试似然度,可用于异常检测,并扩展到半监督分类任务,表现良好。
Feb, 2019