Aug, 2024

马尔可夫随机场多模态变分自编码器

HTML
PDF
TL;DR本研究解决了现有多模态变分自编码器在建模复杂数据时未能有效捕捉模态间复杂动态的问题。通过将马尔可夫随机场纳入先验和后验分布，本论文提出了一种新颖的多模态变分自编码器，以更好地捕捉模态间的相互作用。实验结果表明，该模型在标准PolyMNIST数据集上表现出竞争力，并在处理复杂模态依赖关系时优于已有模型。
发现论文，激发创造
  • 深度生成模型的联合多模态学习

    本文介绍了一种基于深度生成模型的多模态交换方法，提出了条件独立的联合表示的概念，实现了对不同模态之间的高级概念进行双向交换，并通过对比实验表明该模型的有效性。

    Nov, 2016

  • 可扩展的弱监督学习的多模态生成模型

    本文介绍了一种基于变分自编码器的多模态学习方法，能够有效地用少量参数处理多模态输入数据的推断问题，提出的方法在一些数据集上表现出与最先进技术相匹配的性能。

    Feb, 2018

  • 多模式深度生成模型的变分混合专家自编码器

    本文阐述了成功学习多模态生成模型的四个判定标准，提出了一种混合专家多模态变分自编码器（MMVAE）来学习不同模态的生成模型，并展示了其在具有挑战性的图像-语言数据集上实现四个标准的能力，从质量和数量两方面进行了定性和定量。

    Nov, 2019

  • 多模态变分自编码器的局限性

    研究发现，多模态变分自编码器存在上界限制，导致其生成质量不如完全无监督的单模态自编码器，且当前的算法无法满足所有复杂数据集上的期望表现，限制了其在弱监督数据建模应用中的实际效果。

    Oct, 2021

  • 通过公正优化减轻多模态VAEs中的模态坍塌

    本文提出了一种训练框架，以确保不同模态之间的均衡优化，解决了多模态VAE模型在训练过程中出现的模态崩溃问题，提升了重建性能、条件生成和潜在空间的连贯性。

    Jun, 2022

  • 推广多模态变分方法到集合

    提出一种基于集合的多模态VAE方法，可以直接对联合模态后验分布进行建模，从而在处理缺失模态等方面具有优异性能，适用于无序跨模态生成任务。

    Dec, 2022

  • 通过标准化流和相关分析改进多模态联合变分自编码器

    本文介绍了一种新的多模态变分自编码器，它可以从联合分布中生成或有条件地生成任意数量的复杂模态。该方法使用深度典型相关性分析嵌入，条件化单模态后验分布，从而可以跨模态生成产生更一致性的结果。此外，本文使用正则化流准确表达单模态后验分布，实现更多样化的数据生成。最后，文章提出了一种基于Expert乘积的推断模式，使得模型可适用于任意数量的模态。在多个数据集上的实验表明，本文的方法可以提高生成数据的合理性和多样性，以及特定条件生成的连贯度量。

    May, 2023

  • 基于得分的多模态自编码器

    本研究提出一种新的方法，通过使用基于分数的模型（SBMs）共同建模单模VAEs的潜在空间，以增强多模态VAEs的生成性能。该模型利用SBM学习潜在变量之间的相关性来强制执行多模态一致性，从而将单模VAEs的优异生成质量与不同模态的协同集成相结合。

    May, 2023

  • 多模态VAEs中的统一多样性：改进的表示学习

    用于多模态数据的变分自编码器在数据分析中具有许多任务的潜力，如表示学习、条件生成和插补。我们通过用软约束替换这些硬约束，提出了一种新的专家混合先验方法，软指导每个模态的潜编码向共享的聚合后验靠近，从而得到一个更好的潜编码表示，并提高了对缺失数据模态的填充能力。在多个基准数据集和具有挑战性的现实神经科学数据集上进行了广泛实验证明，与现有方法相比，学到的潜编码表示和缺失数据模态的插补有所改进。

    Mar, 2024

  • 多模式变分自编码器中共享和私有潜在因素的解耦

    用于多模态数据的生成模型可用于识别与观察数据异质性重要决定因素相关的潜在因素。然而，存在一些变量是特定于单个模态的私有变量，而共享变量对解释多模态数据的变异性很重要。本研究探讨了多模态变分自编码器在可靠地实现这种解缠的能力方面，针对一种挑战性的问题设置，其中模态特定变异占主导地位，并提出了一种修改方法，使其对模态特定变异更加鲁棒。我们的发现得到了合成数据和多种真实世界多组学数据集的实验证实支持。

    Mar, 2024