Feb, 2018

利用深度潜变量模型的精确似然

PDF
TL;DR本文探讨了深度潜变量模型中精确似然的一般性质及其在实践中的应用，特别是关于参数估计和缺失数据插补。作者介绍了一种基于条件似然的算法，用于深度潜变量模型中的缺失数据插补，并在多个数据集中对比了该算法和通常用于 DLVMs 的插补方案，结果表明该算法显著优于传统方案。作者还探讨了无约束模型似然函数无界的问题及其在模式崩溃中的作用，并提出了确保最大似然估计存在的方法。
deep latent variable modelsvariational methodsmaximum likelihood estimationmissing data imputationmode collapse
发现论文，激发创造
  • 自然语言深度潜变量模型教程

    通过变分推断的视角深入探讨了深度潜变量模型的局限性，洞察了深度参数化条件概率的困难性以及潜变量目标在反向传播中的不可微性问题。

    Dec, 2018

  • 不是随机缺失数据下的深度生成建模

    提出了一种基于深度神经网络和重要性采样变分推理的方法，用于建立和拟合深度潜变量模型。该方法可以在处理缺失数据时，显式地建模缺失过程以及缺失数据本身之间的依赖关系，以期能更好地应用到实际问题。

    Jun, 2020

  • 高斯过程模型输入不确定性的变分推断

    本文提出了一种贝叶斯方法，通过非标准变分推理框架在 GP-LVM 中近似积分出潜在变量，从而通过最大化解析较低下界的确切边缘似然来训练 GP-LVM，在学习非线性动态系统方面具有鲁棒性和自动选择非线性潜在空间维数的能力。

    Sep, 2014

  • 文本生成的隐式深度潜变量模型

    本文提出了一种基于采样的变分分布表示方法，用于自然语言生成中 deep latent variable models，并通过最大化互信息的正则化来解决 posterior collapse 问题，进一步发展了 VAE，并在多个文本生成场景中证明了其有效性和通用性。

    Aug, 2019

  • 生成模型的自适应密度估计

    该论文研究了无监督学习中生成模型的训练方法，提出了一种在对抗网络与似然训练之间进行混合训练的方法，其中使用深度可逆变换来解决概率和逆变换之间的冲突，实现了更好的生成样本和更高的似然性评估。

    Jan, 2019

  • 深度潜变量模型因果估计的一项重要检验

    通过多个数据集的实验和分析，研究了深度潜变量模型在因果推断中的应用，发现需要注意确保其因果估计的正确性。

    Feb, 2021

  • 非对称变分自编码器

    提出一种利用辅助变量来拓展变分分布家族的框架，通过神经网络来构建复杂的概率混合分布模型，以增强变分推断模型的灵活性和效果，并在密度估计任务上进行了实证评估。

    Nov, 2017

  • 深度对比潜变量模型的动量匹配

    本文提出一种基于最大平均差异的对比 VAE 模型，用于隔离数据集中与任务有关的变异，提高对比分析性能。经过对三个具有挑战性的对比分析任务的定量与定性分析，本方法相较于之前的最新技术有更好的表现。

    Feb, 2022

  • 指数族潜变量模型中精确推理与学习的统一理论

    该论文研究了概率图模型中精确实现推断和学习的条件，并开发出相应的算法，通过展示各种示例模型的应用，最终展示了如何将这些模型组合成可处理的概率图模型。

    Apr, 2024

  • 概率展开优化：面向潜在高斯模型的可扩展、无需反演的最大似然估计

    本文提出了一种用概率展开和迭代线性求解器相结合的方法，以绕过矩阵求逆的问题来学习潜在高斯模型，在实验中发现，这种方法可以比传统梯度期望极大化算法快一个数量级地学习潜在高斯模型。

    Jun, 2023