本文提出了一种非线性函数对函数的降维方法，使用连续神经元的连续隐藏层来学习函数数据中固有的结构，通过降低函数特征数和观测时间点数来得到一个低维的潜在表征，从而在时间序列的维度缩减方面取得了比目前方法更好的效果。

Jan, 2023

利用平滑核积分变换的思想，我们提出了一种功能深度神经网络，其具有高效和完全依赖数据的降维方法。我们的功能网络的架构包括核嵌入步骤、投影步骤和表达深度 ReLU 神经网络，利用平滑核嵌入使其具有离散不变性、高效性和对噪声观测的鲁棒性，能够利用输入函数和响应数据的信息，对离散点数量的要求较低，具有良好的泛化性能。我们进行了理论分析和数值模拟来验证我们功能网络的这些优势。

Jan, 2024

本文针对降维问题提出并分析了一种由序列化偏差估计、线性趋势估计和非线性残差估计组成的增量自编码器。实验结果表明，仅通过浅层网络封装非线性行为的自编码器能够识别具有低自编码误差的数据集的内在维度。该研究进一步比较了深层和浅层网络结构及其训练方法，发现深层网络结构在识别内在维度时获得较低的自编码误差，但是与浅层网络相比，检测到的维度并没有变化。

Oct, 2022

本文介绍了一个自编码器框架，结合隐式正则化和内部线性层，自动估计数据集的底层维度，生成正交流形坐标系，并提供周围空间和流形空间之间的映射函数，为拓展样本作出一定的贡献，展示了该框架在各种数据集中对流形维度的能够自动估计，分析了该架构的梯度下降动态，以及扩展到状态空间建模和预测的应用，并证明了该框架对超参数选择的鲁棒性。

May, 2023

本研究提出一种基于深度学习的非线性模型降维策略，通过深度卷积自编码器和 LSTM 网络构建模块化模型，实现繁重计算任务中的模型降维，同时保持计算效率和系统稳定性。

Aug, 2018

本文提出了自动编码器机制的理论框架，研究了编码器的两个基本属性：双射映射和数据解缠，并给出了满足这两个属性中任意一个或同时具备的编码器的构造方法。基于该理论框架，我们解释了一些自动编码器的实验结果，证明自动编码器在降维和分类方面相较于 PCA 和决策树的优势，同时该理论框架还解释了卷积神经网络和随机加权神经网络。

Aug, 2022

本文介绍了使用一种单隐层全连接自编码器进行特征提取可以有效地恢复主成分分析 (PCA) 的加载向量，且训练权重与 PCA 加载向量存在差异，从而优化特征提取的性能。

Apr, 2018

最近开发的降阶建模技术旨在从数据中学习的低维流形上近似非线性动力系统。我们介绍了一种由约束的自动编码器神经网络描述的参数化非线性投影类，其中流形和投影纤维都是从数据中学习得到的。此外，我们还提出了一些新的动力学感知成本函数，以促进学习考虑快速动力学和非正常性的斜投影纤维。为了展示这些方法及其解决的特定挑战，我们提供了一个关于涡街现象的三状态模型的详细案例研究。同时，我们还提出了几种基于我们提出的非线性投影框架构建计算高效的降阶模型的技术。这包括一种用于避免计算 Grassmann 流形上有害的权重矩阵收缩的新型稀疏促进惩罚项的编码器。

Jul, 2023

深度神经网络自编码器常用于模型简化，在此研究中通过调整网络参数来最小化输入与重构输出之间的差异，以达到恢复输入数据的效果，并证明了该方法的有效性。

Oct, 2023

我们利用自动编码器神经网络 (AENet) 研究模型缩减中的低维非线性结构，通过先学习输入数据的潜在变量，然后学习这些潜在变量到相应输出数据的转换，成功地验证了 AENet 准确学习非线性偏微分方程解算符的能力，并建立了数学和统计估计理论来分析 AENet 的泛化误差。我们的理论框架表明训练 AENet 的样本复杂性与模拟过程的内在维度密切相关，同时也展示了 AENet 对噪声的显著鲁棒性。

Jan, 2024