ICLRFeb, 2021

构建基于群体的无监督表示解缠框架

PDF
TL;DR本文提出了一个理论框架和一个基于现有 VAE 方法的模型，以实现无监督的分离表示，通过引入群论的概念，以第 n 二面角群为灵感，证明了模型、群结构和数据三个充分条件，在五个数据集上的实验证明，在群化后的 VAE 上相对于原始 VAE 的性能更好。
disentangled representation learningunsupervised learningvae-based methodsgroup theorydihederal group
发现论文，激发创造
  • 线性解缠表示和无监督动作估计

    通过改变损失函数的设置，可以在 VAE 模型中诱导线性分离表示，这是一种理想的表示形式，符合经典分离指标，并提出了一种方法诱导不可约表示。

    Aug, 2020

  • 逐步学习和分离层次表示

    通过渐进式学习独立层级表示，本文提出了一种策略来提高 Deep Generative Models 如 Variational Auto-Encoder 的去纠缠性能，该模型从最抽象的表示开始学习，并逐渐增加网络结构以介绍不同层次的表示。在两个基准数据集上，本文通过三个去纠缠度量定量地证明了所提出模型相比于现有作品的改进，包括我们提出的补充相互信息差度量。我们提供了定性和定量的证据，论证了学习进程如何提高分解成层级表示的性能。本文通过同时利用层级表示学习和渐进式学习的优势，是我们目前发现的第一次尝试通过逐步增加 VAE 的能力来提高去纠缠性。

    Feb, 2020

  • 可交换李群变分自编码器用于分离学习

    通过将数据变化编码为 Lie 群的结构，我们提出了一种利用变换等变地表示变化的不受限制的、自适应优化的组结构，实现了无监督的解缠结学习，并在不增加额外约束的情况下取得了最先进的性能。

    Jun, 2021

  • 学习自然语言定义的解耦表示

    使用可表征语法和语义规律的定义句类别训练变分自编码器，并在多个测试中展现其成功解耦表示效果，以及在定义建模中得到的改善。

    Sep, 2022

  • 引导式变分自编码器用于分离式学习

    设计一种算法 Guided-VAE，通过提供信号来实现 VAE 的潜在编码 / 嵌入，以学习可控的生成模型，该算法在表示学习，合成 / 采样改进，分类中取得了更好的效果

    Apr, 2020

  • 多层变分自编码器：从分组观察中学习解耦表示

    提出了 Multi-Level Variational Autoencoder 用于学习语义上相关并解耦的潜变量表示，将工作集中在组别和个体水平上的同时保持高效的测试时推理，以便对相关变量进行无监督控制。

    May, 2017

  • 学习解缠离散表示

    通过将标准的高斯变分自编码器（VAE）替换为量身定制的分类变分自编码器，我们探究了离散潜变量空间与解耦表示之间的关系。我们展示了分类分布的基础网格结构可以减轻与多变量高斯分布相关的旋转不变性问题，并作为解耦表示的高效先验。我们提供了分析和经验证据表明，离散 VAE 在学习解耦表示方面的优势。此外，我们引入了第一个偏向于解耦表示的无监督模型选择策略。

    Jul, 2023

  • 基于分组学习的去耦合表示学习方法，具有对新领域具有良好的泛化能力

    本研究提出了一种基于组的变分自编码器模型，能够从多个数据集中无需标签的情况下，对数据进行解耦，并将其分为内容因素与变化因素，从而实现变换不变性和内容泛化能力。

    Sep, 2018

  • VAE 解缠结先决条件：感知重叠

    本文研究如何通过修改重建损失来实现 VAE 的去纠缠表征，并提出一种广义对抗训练的数据集来破解现有的去纠缠框架。

    Feb, 2022

  • 半监督深度生成模型学习分离表示

    该研究提出了一种使用图形模型和深度神经网络架构的变分自编码器，能够学习到不同的表示形式，进一步实现半监督学习，其生成的能力和区分能力也得到了充分验证。

    Jun, 2017