May, 2022

低数据情况下基于 PCA 增强的自编码器用于非线性降维

PDF
TL;DR提出了一种利用 PCA 和参数化的 ReLU 激活函数进行自编码器训练的方法，以解决非线性数据降维问题，特别是对于数据稀缺及昂贵的纳米光子学元件设计和其他科学领域的任务。
autoencodersdimensionality reductionpcanonlinear datananophotonic component design
发现论文，激发创造
  • PCAAE：主成分分析自编码器用于生成网络的潜空间组织

    提出了一种新的自编码器（PCAAE），它能够无监督地将数据的内在属性分离成潜空间的不同组成部分，达到了解决深层生成模型中的潜变量空间问题的目的。与其他最先进的方法相比，PCAAE 的能力更好，在潜空间中解开属性的存在，实现了属性的分离。

    Jun, 2020

  • 基于自编码器的非线性模型降阶技术在算子学习中的泛化误差保证

    我们利用自动编码器神经网络 (AENet) 研究模型缩减中的低维非线性结构，通过先学习输入数据的潜在变量，然后学习这些潜在变量到相应输出数据的转换，成功地验证了 AENet 准确学习非线性偏微分方程解算符的能力，并建立了数学和统计估计理论来分析 AENet 的泛化误差。我们的理论框架表明训练 AENet 的样本复杂性与模拟过程的内在维度密切相关，同时也展示了 AENet 对噪声的显著鲁棒性。

    Jan, 2024

  • 降秩自编码器 —— 增强非线性流形上的插值

    我们介绍了 Rank Reduction Autoencoder (RRAE)，这是一个具有扩展的潜在空间的自编码器，通过约束具有小的预定主奇异值数量（即低秩）来实现。RRAE 的潜在空间足够大，可以实现准确的预测，并进行特征提取。

    May, 2024

  • GT-PCA：高效且可解释的降维方法 —— 具有一般转换不变性的主成分分析

    引入广义变换不变主成分分析（GT-PCA）作为主成分分析（PCA）和自编码器的一个有效而可解释的替代方法。通过提出的神经网络，高效地估计主成分，并提供了基于合成和真实数据的实验证明了 GT-PCA 明显优于其他方法。

    Jan, 2024

  • $σ$-PCA：线性和非线性主成分分析的统一神经模型

    线性主成分分析、非线性主成分分析、线性独立成分分析、子空间不确定性和神经模型

    Nov, 2023

  • 用主成分分析估计数据的内在维度

    本文介绍了一种基于 PCA 的新方法，用于估计具有非线性结构的数据的内在维数，该方法利用整个数据集估计其内在维数，并方便增量学习。该方法使用数据的最小覆盖来处理数据集的非线性结构，并通过检查所有小邻域区域的数据方差来确定估计结果。实验结果表明，该方法可以过滤数据中的噪声，并在邻域区域大小增加时收敛到稳定的估计值。

    Feb, 2010

  • 良性自编码器

    该研究证明了通过压缩数据维度以实现数据表示和压缩的有效性，并提出了一种普遍适用于非凸问题的优化算法（BAE），使得压缩模型输入有利于模型性能，并提出了一种用于计算 BAE 的高效算法，测试表明 BAE 能够提高模型在各类数据中的性能，并提高模型的稳定性和鲁棒性。

    Oct, 2022

  • 鲁棒、深度和归纳式异常检测

    本文介绍了一种基于深度神经网络的鲁棒自编码器模型，该模型可以对数据进行异常检测，并能够学习捕获大多数数据点的非线性子空间。

    Apr, 2017

  • 一种自编码器机制框架

    本文提出了自动编码器机制的理论框架，研究了编码器的两个基本属性：双射映射和数据解缠，并给出了满足这两个属性中任意一个或同时具备的编码器的构造方法。基于该理论框架，我们解释了一些自动编码器的实验结果，证明自动编码器在降维和分类方面相较于 PCA 和决策树的优势，同时该理论框架还解释了卷积神经网络和随机加权神经网络。

    Aug, 2022

  • 数据维度缩减提高机器学习算法效率

    本文提出数据维数减少的方法，其中应用了 PCA 和 Auto-encoders 算法，并结合监督学习和无监督学习算法来验证在预处理 DDR 方面的准确性和时间效果。实验证明，预处理不仅能提高算法精度，也能提高时间效率，从而实现大规模精度和时间节省的目标。

    Nov, 2022