该研究提出了一种将遗传算法和变分自编码器相结合的进化变分自编码器方法,通过动态生成和更新不确定性权衡学习,解决了现有方法中面临的问题,包括 KL 消失问题和基于深度学习中的早期收敛和随机搜索问题。实验结果表明,与竞争方法相比,eVAE 在文本生成、图像生成质量等方面均有显著改善。
Jan, 2023
通过在变分自编码器中添加缩小版本的图像随机变量,提高图像生成的质量表现,使该方法在负对数似然方面和 VAE 表现相当,同时在数据合成方面获得更好的 FID 得分。
Jun, 2020
本文研究了变分自编码器的训练问题,提出了一种二阶段的训练算法,证明了该算法可以在低维流形上训练,并且得到的生成器可以恰好支持原本的低维流形,且是由于训练算法的隐式偏差而非 VAE 损失本身的原因。
Dec, 2021
利用预测时间下一节点以及基于时间平滑性的模型选择度量,我们提出了一种能够减轻 VAE 学习虚假特征,并能在合成数据集中准确恢复潜在因素的 VAE 架构。
Dec, 2023
本文揭示了 Variational Autoencoders (VAEs) 的局限性,它们无法稳定地学习潜在空间和可见空间中的边缘分布,因为学习过程是通过匹配条件分布进行的。同时,文章通过大规模的评估 VAE-GAN 混合模型并分析类概率估计对分布学习的影响,得出 VAE-GAN 混合模型在可扩展性、评估和推理方面比 VAE 更加困难,无法提高 GAN 的生成质量。
Feb, 2018
本文探讨了如何使用变分贝叶斯和变分自编码器(VAEs)进行异常检测(AD)任务,提出了一个新的方法来处理具有层次结构的数据。该方法在经典机器学习基准测试和监测 CERN 大型强子对撞机(LHC)实验的触发系统等应用中表现出卓越的性能。
Oct, 2020
通过引入第二个参数化的编解码对和一个额外的固定编码器,我们发展了三种 VAE 的变种,并使用神经网络学习编码器 / 解码器的参数来比较这些变种与原始 VAE 的 ELBO 逼近。其中一种变化导致了一个 EUBO,可以与原始 ELBO 一起用于研究 VAE 的收敛性。
Dec, 2022
介绍了变分自编码器(VAE)背后的直觉,解释了其背后的数学原理,并描述了它们的一些经验行为。
Jun, 2016
本文对可变自编码器 (VAE) 拓展至处理序列数据的方法进行了综述,提出并讨论了动态变分自编码器 (DVAEs) 这一类模型,详细介绍了七种 DVAE 模型,并通过语音分析 - 重构任务的实验基准进行了验证,最后探讨了 DVAE 模型的重要问题和未来的研究方向。
Aug, 2020
本研究比较了多种方法来解决变分自编码器中随机因素无法学习和失活等问题,并提出了一种更有效的基于模型的方法,称为最佳变分自编码器,该方法有助于防止单元失活,并比 VAE 更好地使用了模型容量,产生更好的泛化性能。
Jun, 2017