关于自编码器的可解释性和适当的潜变分解
该论文利用高斯混合和狄利克雷潜空间从 (变分) 自编码器的潜空间中推导分类器以解决自编码器在 LHC 异常寻找中的单向处理问题，并提高了网络的性能和可解释性。
Apr, 2021
本文介绍了一个自编码器框架，结合隐式正则化和内部线性层，自动估计数据集的底层维度，生成正交流形坐标系，并提供周围空间和流形空间之间的映射函数，为拓展样本作出一定的贡献，展示了该框架在各种数据集中对流形维度的能够自动估计，分析了该架构的梯度下降动态，以及扩展到状态空间建模和预测的应用，并证明了该框架对超参数选择的鲁棒性。
May, 2023
我们提出了一种名为低秩自动编码器（LoRAE）的新方法，它通过使用低秩正则化器自适应地重构一个低维潜在空间，同时保持自动编码器的基本目标，以便在嵌入数据于一个低维空间的同时保留重要信息。我们在理论上为模型建立了更严格的误差界限，而在实践中，我们的模型通过图像生成和下游分类等各种任务展示了其优越性，理论和实践结果都强调了获取低维嵌入的重要性。
Oct, 2023
本研究探讨了生成建模中潜在空间选择的最优解以及其确定过程，并提出了一种新的距离度量方法和具体的训练策略来优化潜在空间的选择，进而提高生成效果。
Jul, 2023
基于数据驱动的潜空间动力学识别方法通过嵌入热力学的第一和第二原理，利用自编码器作为非线性降维模型学习潜变量，并通过基于神经网络模型构建潜变量的动力学，遵循广义热动力学原理，从而产生了一种新的损失公式。潜编码器和潜动力学均通过最小化新损失进行训练，其泛化能力强，即使在外推情况下也表现出鲁棒性。此外，实证观察到潜空间中熵产生速率与完全状态解的行为之间存在着有趣的相关性。
Mar, 2024
在该文中，我们重新审视了欠完备自动编码器的标准训练方法，通过修改潜在空间的形状而无需在损失函数中使用任何显式正则化项。我们迫使模型重构的不是相同的观测输入，而是从同一类分布中抽样得到的另一个观测值。我们还探讨了在重构来自整个数据集的随机样本时潜在空间的行为。
Sep, 2023
提出了一种方法，通过在一种框架内结合变分自动编码器和 (时空) 注意力机制，从高维经验数据中学习动力系统，以实现确定一定科学动力学不变的设计，这种方法允许在任何连续时刻有效推断系统行为，是从异构数据中高效学习动态模型的一种有前途的新框架。
Jun, 2023
本文使用生成流形模型改变自编码器的潜在空间，以适应数据中的低维流形结构并学习复杂系统的潜在动态，生成转换路径并对属于同一转换路径的样本进行分类。
Dec, 2019
最近开发的降阶建模技术旨在从数据中学习的低维流形上近似非线性动力系统。我们介绍了一种由约束的自动编码器神经网络描述的参数化非线性投影类，其中流形和投影纤维都是从数据中学习得到的。此外，我们还提出了一些新的动力学感知成本函数，以促进学习考虑快速动力学和非正常性的斜投影纤维。为了展示这些方法及其解决的特定挑战，我们提供了一个关于涡街现象的三状态模型的详细案例研究。同时，我们还提出了几种基于我们提出的非线性投影框架构建计算高效的降阶模型的技术。这包括一种用于避免计算 Grassmann 流形上有害的权重矩阵收缩的新型稀疏促进惩罚项的编码器。
Jul, 2023