优化用于视觉任务的变分自编码器潜在表示中的不确定性

Apr, 2024

优化用于视觉任务的变分自编码器潜在表示中的不确定性

Uncertainty in latent representations of variational autoencoders optimized for visual tasks

Josefina Catoni, Enzo Ferrante, Diego H. Milone, Rodrigo Echeveste

TL;DR深度学习方法在计算神经科学中作为建模工具变得越来越重要，本文系统地研究了变分自编码器的不确定性表示，提出了一种新的方法解释偏离变分自编码器 (EA-VAEs)，并发现它在各种情况下能够产生有意义的不确定性报告，可在计算神经科学的感知模型和计算机视觉的推理工具中发挥作用。

Abstract

deep learning methods are increasingly becoming instrumental as modeling tools in computational neuroscience, employing optimality principles to build bridges between neural responses and perception or behavior.

deep learning methods computational neuroscience uncertainty representations variational auto-encoders explaining-away variational auto-encoders

发现论文，激发创造

使用变分自编码器生成可解释的表示

本文提出了一个框架，利用结构化图形模型在变分自动编码器（VAEs）的编码器中导出可解释的表达，使得在给定图形模型的结构限制下执行推理，并使用深度生成模型处理高维度的杂乱领域变得更容易。同时在无监督和半监督的情况下，通过变分目标进行端对端的学习。

Nov, 2016

基于预测性变分自编码器的时间序列数据鲁棒表示学习

利用预测时间下一节点以及基于时间平滑性的模型选择度量，我们提出了一种能够减轻 VAE 学习虚假特征，并能在合成数据集中准确恢复潜在因素的 VAE 架构。

Dec, 2023

探索潜在路径：用变分自编码器提高自动驾驶的可解释性

自动驾驶中引入了一种基于生物启发的神经回路策略模型，整合了变分自编码器，提供了一种直接从输入摄像头图像生成转向命令的解决方案，并通过自动潜在扰动工具提高了系统的可解释性。该研究证明了变分自编码器 - 神经回路策略模型的解释能力，以及自动潜在扰动工具在提高自动驾驶系统内部工作透明度方面的实用性。

Apr, 2024

变分自编码器的三种变体

通过引入第二个参数化的编解码对和一个额外的固定编码器，我们发展了三种 VAE 的变种，并使用神经网络学习编码器 / 解码器的参数来比较这些变种与原始 VAE 的 ELBO 逼近。其中一种变化导致了一个 EUBO，可以与原始 ELBO 一起用于研究 VAE 的收敛性。

Dec, 2022

变分自编码器的一致性正则化

本文提出了一种正则化方法来强制 Variational Auto-Encoder 的一致性，通过最小化 Kullback-Leibler（KL）散度来实现；实验结果表明该方法可以改善学习表征的质量并提高其泛化能力。

May, 2021

基于变分自编码模型的深入理解

本文提出了一种新的变分自编码模型优化标准，推广了标准的证据下界，提供了它们恢复数据分布和学习潜在特征的条件，并在形式上证明了通常出现模糊样本和无信息潜在特征等常见问题的条件。基于这些新的见解，我们提出了一种新的序列化 VAE 模型，可以基于像素逐一重构损失在 LSUN 图像数据集上生成清晰的样本，并提出一种旨在鼓励无监督学习信息潜在特征的优化标准。

Feb, 2017

利用解码器不确定性提高 VAE 潜空间中的黑盒优化

使用表观不确定性来指导潜在空间内的优化过程，利用重要性采样估计表观不确定性来生成更真实且有效的高维离散对象，在数字生成、算术表达式逼近和药物设计的分子生成等多个实验中都表现出优异的性能。

Jun, 2021

关于文本深度潜变量建模的令人惊讶的有效修复方法

研究发现将先前仅仅被孤立考虑的两个经验法则相结合可以避免后验坍塌，提高了模型的性能表现。虽然该方法的 ELBO（证据下界）较差，但在保留隐变量的能力及对训练数据分布的建模方面表现更好，说明传统的 VAE 目标函数可能无法同时平衡表示学习和数据分布建模。

Sep, 2019

对抗变分贝叶斯：统一变分自编码器和生成对抗网络

介绍了 Adversarial Variational Bayes 技术，可以用于训练具有任意表达力的推理模型的变分自编码器，并将其与生成对抗网络建立起了原则上的联系。

Jan, 2017

变分自编码器教程

介绍了变分自编码器（VAE）背后的直觉，解释了其背后的数学原理，并描述了它们的一些经验行为。

Jun, 2016