May, 2023

ProtoVAE: 无监督解缠的原型网络

PDF
TL;DR介绍了一种基于深度生成 VAE 模型和基于自我监督的深度度量学习 prototype 网络的方法，在无监督的情况下学习到可解释且区分的潜在因素表达式，实验结果表明了该方法在多个数据集上的表现优于现有方法。
generative modelingself-supervised learningunsupervised disentanglementdeep generative vae-based modelprototypical network
发现论文，激发创造
  • 使用无监督深度学习进行早期视觉概念学习

    本文提出了一种基于无监督学习、从神经科学中获得灵感的方法，利用变分自编码器对图像数据进行学习，从而获得解耦表示。该方法可以使神经科学的研究成果得以应用到实际中，同时还有零样本推理和直观理解的优点。

    Jun, 2016

  • 引导式变分自编码器用于分离式学习

    设计一种算法 Guided-VAE，通过提供信号来实现 VAE 的潜在编码 / 嵌入，以学习可控的生成模型，该算法在表示学习，合成 / 采样改进，分类中取得了更好的效果

    Apr, 2020

  • 半监督深度生成模型学习分离表示

    该研究提出了一种使用图形模型和深度神经网络架构的变分自编码器，能够学习到不同的表示形式，进一步实现半监督学习，其生成的能力和区分能力也得到了充分验证。

    Jun, 2017

  • 门控变分自编码器：融合弱监督以促进解缠

    本文讨论了利用弱监督方法进行可变自编码器（Variational AutoEncoders，VAEs）的训练过程，并提出了一种称为 Gated-VAE 的新模型来实现 VAEs 的解缠结性。该方法包括对表示嵌入进行划分和门控反向传播。实验结果表明，采用门控反向传播，比采用不带门控的 VAEs 模型在平均解缠结度、完整度和信息量方面都有所提高。

    Nov, 2019

  • 半监督学习的解缩变分自编码器

    本文提出了一种名为 SDVAE 的半监督变分自编码器，其将输入数据转化为可解释和不可解释的特征表示，使用分类信息来规范可解释的特征表示，并使用强化学习来增强特征学习能力，此框架适用于图像和文本数据。

    Sep, 2017

  • 超先验引导的无监督潜在表征分离

    本研究提出了一种在深度生成模型中实现无监督的解缠结潜在表示的方法，通过在 VAE 的潜在空间中引入反 Wishart 先验来实现潜变量之间的统计独立性，能够在多个数据集上优于 beta-VAE 和与最先进的 FactorVAE 相竞争。

    Sep, 2018

  • S3VAE：自监督序列 VAE 进行特征解缕和数据生成

    该论文提出了一种顺序变分自编码器，利用自监督方法，通过利用输入数据自身或外部模型提供的监督信号设计辅助任务，轻松将输入序列表示分解为静态因素和动态因素，并在视频和音频等领域的综合实验中证明其在表示分解和序列数据生成方面的有效性。

    May, 2020

  • 构建基于群体的无监督表示解缠框架

    本文提出了一个理论框架和一个基于现有 VAE 方法的模型，以实现无监督的分离表示，通过引入群论的概念，以第 n 二面角群为灵感，证明了模型、群结构和数据三个充分条件，在五个数据集上的实验证明，在群化后的 VAE 上相对于原始 VAE 的性能更好。

    Feb, 2021

  • 无自编码的无监督解缠的陷阱和未来方向

    本文研究基于对比学习的正则化方法来实现大规模数据集的非监督式解缠表示学习，并分析了不同正则化方法的利弊与下游任务性能表现。

    Aug, 2021

  • 逐步学习和分离层次表示

    通过渐进式学习独立层级表示，本文提出了一种策略来提高 Deep Generative Models 如 Variational Auto-Encoder 的去纠缠性能，该模型从最抽象的表示开始学习，并逐渐增加网络结构以介绍不同层次的表示。在两个基准数据集上，本文通过三个去纠缠度量定量地证明了所提出模型相比于现有作品的改进，包括我们提出的补充相互信息差度量。我们提供了定性和定量的证据，论证了学习进程如何提高分解成层级表示的性能。本文通过同时利用层级表示学习和渐进式学习的优势，是我们目前发现的第一次尝试通过逐步增加 VAE 的能力来提高去纠缠性。

    Feb, 2020