Sep, 2023

在高斯 - 勒让德节点下，由于潜在空间正则化，确保自动编码器压缩时的拓扑数据结构保持

PDF
TL;DR我们提出了一种基于数据无关的潜在空间正则化约束，用于一对一重新嵌入初始数据流形到其潜在表示。通过神经网络的正则化，我们实现了拓扑保持，从 FashionMNIST 数据集到 MRI 脑部扫描等真实世界的编码问题，这种正则化技术可以提供可靠的复杂高维数据的低维表示。
unsupervised autoencoderslatent space regularisationtopological preservationmultilayer perceptron neural networkslow dimensional representations
发现论文，激发创造
  • 拓扑自编码器

    该研究提出一种新颖的方法，利用持久性同调技术，在自编码器的潜在表示中保留输入空间的拓扑结构，以保存多尺度的连接信息。实验表明这种方法在合成流形和现实世界图像数据集上表现出良好的潜在表示，并保留了低重构误差。

    Jun, 2019

  • 具有几何正则化的可扩展和可逆流形学习自编码器

    本文提出了一种基于自动编码器与流形学习结合的数据探索方法，利用几何正则化项鼓励学习得到的潜在表示沿着数据的内在几何结构发展，并与常规方法相比较，证明该方法在保留内在结构、扩展能力和数据重构方面具有优势

    Jul, 2020

  • 正则化线性自编码器的损失景观

    证明了 L2 正则化线性自编码器在所有临界点处均对称并学习到解码器的左奇异向量作为主方向，相关结果说明了主成分分析算法、计算神经科学和学习的代数拓扑性质。

    Jan, 2019

  • 通过建模和预测标签结构来规范深度网络

    该研究构建了自定义正则化函数用于深度神经网络的监督训练，利用自动编码器得到正则化器，实现分段模型标签的训练，并在语义分割中展示了正则化策略对提高准确率的实验结果。

    Apr, 2018

  • 正则化自编码器从数据生成分布中学习

    本文探讨了利用正则化重建误差最小化的方法来捕捉数据密度和得分匹配的思想，从而实现对自编码器对于数据生成分布的学习和采样。

    Nov, 2012

  • GLSR-VAE: 变分自编码器架构的测地潜空间正则化

    该论文介绍了 GLSR-VAE，一种 Geodesic Latent Space Regularization 方法，该方法可以在生成数据时对数据进行微调，并演示了在一个单声部音乐生成任务中生成音乐变化的有效性。

    Jul, 2017

  • 在编码神经网络潜空间中表示闭合变换路径

    本文使用生成流形模型改变自编码器的潜在空间，以适应数据中的低维流形结构并学习复杂系统的潜在动态，生成转换路径并对属于同一转换路径的样本进行分类。

    Dec, 2019

  • 广义去噪自编码器作为生成模型

    该研究提出了一种新的方法，能够在处理离散数据、任意形式的噪声和重构损失、同时去除偏差等方面更好地连接正则化自编码器的训练过程和对潜在生成分布的隐式估计。

    May, 2013

  • 通过最小体积压缩潜空间

    该论文介绍了一种名为最小体积的简单而有效的正则化方法，它可以减少自动编码器所需的潜在维度数量，而无需任何关于数据集固有维度的先验知识。通过证明解码器的 Lipschitz 连续性是其有效性的关键，论文揭示了 PCA 仅是其线性特例的证明，并表明在应用于非线性模型时具有类似于 PCA 的重要性排序效果。作者通过在一些教学玩具问题上演示正则化的直观理解，并在包括 MNIST、CIFAR-10 和 CelebA 在内的几个基准问题上展示了其有效性。

    Apr, 2024

  • 复杂性的重要性：重新思考生成建模的潜空间

    本研究探讨了生成建模中潜在空间选择的最优解以及其确定过程，并提出了一种新的距离度量方法和具体的训练策略来优化潜在空间的选择，进而提高生成效果。

    Jul, 2023