Feb, 2020

关系正则化的自动编码器学习

PDF
TL;DR提出了一种新的算法框架用于学习数据分布的自编码器，该框架最小化模型与目标分布的差异，通过对可学习潜在先验的关系正则化，惩罚潜在先验与其对应后验之间的融合 Gromov-Wasserstein（FGW）距离，从而允许灵活地学习与生成模型相关的结构化先验分布，帮助多个自编码器的联合训练，即使它们具有异构的体系结构和无法比较的潜在空间，通过两种可扩展的算法实现该框架，适用于概率和确定性自编码器，我们的关系正则化自编码器（RAE）在生成图像方面优于现有方法，例如变分自编码器，Wasserstein 自编码器及其变体，此外，我们的关系联合训练策略也取得了在合成和真实世界多视图学习任务中鼓舞人心的结果。
algorithmic frameworkautoencoderslatent priorgromov-wasserstein distanceco-training
发现论文，激发创造
  • Wasserstein 自编码器

    本文提出了 Wasserstein 自编码器（WAE）算法，通过最小化 Wasserstein 距离来构建数据分布的生成模型，并与其他技术进行比较，表明其是对抗自编码器（AAE）的推广，可用于生成更高质量的样本。

    Nov, 2017

  • Gromov-Wasserstein 自编码器

    本文提出了一种新的表征学习方法，Gromov-Wasserstein Autoencoders（GWAE），通过将 variational autoencoding scheme 与 Gromov-Wasserstein metric 相结合来直接匹配潜变量和数据分布，以实现在不改变其目标的情况下将 meta-priors 引入潜空间。

    Sep, 2022

  • 对抗逼近自编码器用于图像生成和操作

    本文提出了一种新方法，即采用对抗逼近自动编码器（AAAE）来研究具有对抗逼近的潜在代码，从而提高重建质量并学习具有流形结构的潜在空间，同时不需要对潜在代码进行正则化。

    Feb, 2019

  • 对抗性正则化自编码器

    本文提出了一种基于 Wasserstein 自动编码器（WAE）的灵活方法，用于训练离散结构的深度潜变量模型，该方法扩展了 WAE 框架以对离散序列进行建模，并进一步探索了不同的先验知识以获得可控表示，最后展示了 WAE 中的潜变量可以进行文本风格转换。

    Jun, 2017

  • 正则化线性自编码器的损失景观

    证明了 L2 正则化线性自编码器在所有临界点处均对称并学习到解码器的左奇异向量作为主方向，相关结果说明了主成分分析算法、计算神经科学和学习的代数拓扑性质。

    Jan, 2019

  • 基于密度间隙正则化的变分自编码器改进

    通过在概率密度差异方面引入新的正则化方法，有效解决了 Variational autoencoders 中的 LATENT REPRESENTATION LEARNING 方面出现的后验崩溃和空洞问题。

    Nov, 2022

  • 通过松弛可注入概率流实现规则化自编码器

    提出了一种基于概率流的生成模型，通过对模型进行规范化，得到能够提高样本质量的最终目标，进而改进了变分自编码器和自编码器的性能。

    Feb, 2020

  • 变分自编码器的一致性正则化

    本文提出了一种正则化方法来强制 Variational Auto-Encoder 的一致性，通过最小化 Kullback-Leibler（KL）散度来实现；实验结果表明该方法可以改善学习表征的质量并提高其泛化能力。

    May, 2021

  • RWR-GAE：图自编码器的随机游走正则化

    本文介绍了一种基于随机游走的方法来规范编码器学习到的表示，可以使图自编码器在节点聚类和链接预测任务中具有更好的性能表现。

    Aug, 2019

  • 正则化自编码器从数据生成分布中学习

    本文探讨了利用正则化重建误差最小化的方法来捕捉数据密度和得分匹配的思想，从而实现对自编码器对于数据生成分布的学习和采样。

    Nov, 2012