我们提出了一种名为低秩自动编码器（LoRAE）的新方法，它通过使用低秩正则化器自适应地重构一个低维潜在空间，同时保持自动编码器的基本目标，以便在嵌入数据于一个低维空间的同时保留重要信息。我们在理论上为模型建立了更严格的误差界限，而在实践中，我们的模型通过图像生成和下游分类等各种任务展示了其优越性，理论和实践结果都强调了获取低维嵌入的重要性。

Oct, 2023

我们介绍了 Rank Reduction Autoencoder (RRAE)，这是一个具有扩展的潜在空间的自编码器，通过约束具有小的预定主奇异值数量（即低秩）来实现。RRAE 的潜在空间足够大，可以实现准确的预测，并进行特征提取。

May, 2024

本文中提出了一种新颖的自编码器深度表示学习方法，它将全局和局部内在维度约束的正则化引入数据表示的重构中，从而使学习到的低维特征更具判别性，从而提高下游算法的性能。

Apr, 2023

研究如何学习能保留数据中大部分信息且对于某些噪声或敏感变化因素具有不变性的表示形式，提出了一种基于变分自编码器的模型，包括鼓励灵敏因素和潜在因素独立的优先知识和基于 “最大均值差异”（MMD）的附加惩罚项，实验证明该方法比以前的工作更有效。

Nov, 2015

证明了 L2 正则化线性自编码器在所有临界点处均对称并学习到解码器的左奇异向量作为主方向，相关结果说明了主成分分析算法、计算神经科学和学习的代数拓扑性质。

Jan, 2019

该文探讨运用流形学习的方法和 Ky-Fan 范数约束来降低自编码器中隐藏空间的维度。

Jun, 2023

本文介绍了一个自编码器框架，结合隐式正则化和内部线性层，自动估计数据集的底层维度，生成正交流形坐标系，并提供周围空间和流形空间之间的映射函数，为拓展样本作出一定的贡献，展示了该框架在各种数据集中对流形维度的能够自动估计，分析了该架构的梯度下降动态，以及扩展到状态空间建模和预测的应用，并证明了该框架对超参数选择的鲁棒性。

May, 2023

该研究证明了通过压缩数据维度以实现数据表示和压缩的有效性，并提出了一种普遍适用于非凸问题的优化算法（BAE），使得压缩模型输入有利于模型性能，并提出了一种用于计算 BAE 的高效算法，测试表明 BAE 能够提高模型在各类数据中的性能，并提高模型的稳定性和鲁棒性。

Oct, 2022

本文针对降维问题提出并分析了一种由序列化偏差估计、线性趋势估计和非线性残差估计组成的增量自编码器。实验结果表明，仅通过浅层网络封装非线性行为的自编码器能够识别具有低自编码误差的数据集的内在维度。该研究进一步比较了深层和浅层网络结构及其训练方法，发现深层网络结构在识别内在维度时获得较低的自编码误差，但是与浅层网络相比，检测到的维度并没有变化。

Oct, 2022

本文介绍了一种名为 i-MAE 的简单而有效的可解释 MAE (Interpretable MAE) 框架，通过在 CIFAR-10/100，Tiny-ImageNet 和 ImageNet-1K 数据集上进行广泛实验，证明其是解释 MAE 框架行为的优秀设计，并提供了更好的表示能力。

Oct, 2022