PCAAE：主成分分析自编码器用于生成网络的潜空间组织

Jun, 2020

PCAAE：主成分分析自编码器用于生成网络的潜空间组织

PCAAE: Principal Component Analysis Autoencoder for organising the latent space of generative networks

Chi-Hieu Pham, Saïd Ladjal, Alasdair Newson

TL;DR提出了一种新的自编码器（PCAAE），它能够无监督地将数据的内在属性分离成潜空间的不同组成部分，达到了解决深层生成模型中的潜变量空间问题的目的。与其他最先进的方法相比，PCAAE 的能力更好，在潜空间中解开属性的存在，实现了属性的分离。

Abstract

Autoencoders and generative models produce some of the most spectacular deep learning results to date. However, understanding and controlling the latent space of these models presents a considerable challenge. Drawing inspiration from principal component analysis and autoencoder, we pr

autoencoder generative model latent space statistically independent disentangle attributes

发现论文，激发创造

低数据情况下基于 PCA 增强的自编码器用于非线性降维

提出了一种利用 PCA 和参数化的 ReLU 激活函数进行自编码器训练的方法，以解决非线性数据降维问题，特别是对于数据稀缺及昂贵的纳米光子学元件设计和其他科学领域的任务。

May, 2022

感知生成自编码器

本文介绍了一种名为感知生成自编码器的新型生成模型。该模型通过将生成的和目标分布映射到一个潜空间中，并用具有理论依据的数据和潜空间重构损失同时在数据空间和隐空间中强制同步，从而能够在无限制的神经网络体系结构和任意数量的潜在维度上推广可逆生成模型的思想，并且在样本质量方面显著优于传统自编码器和其他基于自编码器的生成模型。

Jun, 2019

PCAE: 可控文本生成的插件条件自编码器框架

我们提出了一个灵活的半监督文本生成模型 Plug-in Conditional Auto-Encoder（PCAE），它可以通过全局潜在空间到指定的局部潜在空间，以高度可操纵、句法多样和时间高效的方式生成文本，使用最小标记样本。

Oct, 2022

变分自编码器无意中寻找主成分分析方向

该论文研究了变分自编码器（VAE）在学习可解释的表示和生成建模方面的出色表现，提供了对其良好性能的解释，阐明了该架构中解码器的局部正交性，从而促进重构和正交性之间的平衡。

Dec, 2018

利用线性自编码器从主子空间提取主成分

本文介绍了使用一种单隐层全连接自编码器进行特征提取可以有效地恢复主成分分析 (PCA) 的加载向量，且训练权重与 PCA 加载向量存在差异，从而优化特征提取的性能。

Apr, 2018

对抗自编码器

本文提出了 “对抗自编码器”(AAE)，它是一个概率自编码器，使用最近提出的生成对抗网络 (GAN) 通过匹配自编码器的隐藏代码向量的聚合后验分布与任意先验分布来执行变分推断。匹配聚合后验分布和先验保证从先验空间的任何部分生成都会产生有意义的样本。结果，对抗自编码器的解码器学习了一种深度生成模型，将所施加的先验映射到数据分布。我们展示了对抗自编码器如何在半监督分类，图像风格和内容分离，无监督聚类，降维和数据可视化等应用中使用。我们在 MNIST、Street View 房屋号码和 Toronto Face 数据集上进行了实验，并展示了对抗性自编码器在生成建模和半监督分类任务中取得了有竞争力的结果。

Nov, 2015

对抗逼近自编码器用于图像生成和操作

本文提出了一种新方法，即采用对抗逼近自动编码器（AAAE）来研究具有对抗逼近的潜在代码，从而提高重建质量并学习具有流形结构的潜在空间，同时不需要对潜在代码进行正则化。

Feb, 2019

监督自编码神经网络潜空间配置的泛化改进

本文研究了自编码器的潜在空间（LS）属性，并提出了两种获得期望拓扑结构的 LS 配置方法。研究表明，利用几何损失项直接作用于 LS 的损失配置方法可以可靠地获得期望的 LS 配置，从而可以在 LS 中定义相似性度量来预测标签或估计多个输入的相似性，而无需使用解码器或分类器。研究还证明，使用所提出的方法训练的有监督自编码器在纹理分类方面表现良好，并且可以在没有微调的情况下很好地泛化到来自 LIP、Market1501 和 WildTrack 数据集的未见数据，甚至可以用于评估未见类的相似性。此外，通过跨数据集搜索和基于文本查询进行文本搜索的实验证明了预配置的 LS 相似性估计的优势，而无需使用语言模型。

Feb, 2024

降秩自编码器 —— 增强非线性流形上的插值

我们介绍了 Rank Reduction Autoencoder (RRAE)，这是一个具有扩展的潜在空间的自编码器，通过约束具有小的预定主奇异值数量（即低秩）来实现。RRAE 的潜在空间足够大，可以实现准确的预测，并进行特征提取。

May, 2024

用简单的确定性自编码器学习低秩潜空间的理论与实证洞见

我们提出了一种名为低秩自动编码器（LoRAE）的新方法，它通过使用低秩正则化器自适应地重构一个低维潜在空间，同时保持自动编码器的基本目标，以便在嵌入数据于一个低维空间的同时保留重要信息。我们在理论上为模型建立了更严格的误差界限，而在实践中，我们的模型通过图像生成和下游分类等各种任务展示了其优越性，理论和实践结果都强调了获取低维嵌入的重要性。

Oct, 2023