Nov, 2012

正则化自编码器从数据生成分布中学习

PDF
TL;DR本文探讨了利用正则化重建误差最小化的方法来捕捉数据密度和得分匹配的思想，从而实现对自编码器对于数据生成分布的学习和采样。
auto-encoderreconstruction errordata densityscore matchingmcmc
发现论文，激发创造
  • 广义去噪自编码器作为生成模型

    该研究提出了一种新的方法，能够在处理离散数据、任意形式的噪声和重构损失、同时去除偏差等方面更好地连接正则化自编码器的训练过程和对潜在生成分布的隐式估计。

    May, 2013

  • 深层有向生成自编码器

    该论文探讨了用离散函数 $f (⋅)$ 作为编码器，深度神经网络作为编码器和解码器的模型，以及通过预训练和逐步转换数据分布来优化模型性能的方法。

    Oct, 2014

  • 去噪对抗自编码器

    该研究论文介绍了一种结合去噪和正则化的对抗性自编码器方法，用于学习用于推理的有用表示，并通过实验验证其对于分类性能和样本合成的贡献。

    Mar, 2017

  • 正则化线性自编码器的损失景观

    证明了 L2 正则化线性自编码器在所有临界点处均对称并学习到解码器的左奇异向量作为主方向，相关结果说明了主成分分析算法、计算神经科学和学习的代数拓扑性质。

    Jan, 2019

  • 具有几何正则化的可扩展和可逆流形学习自编码器

    本文提出了一种基于自动编码器与流形学习结合的数据探索方法，利用几何正则化项鼓励学习得到的潜在表示沿着数据的内在几何结构发展，并与常规方法相比较，证明该方法在保留内在结构、扩展能力和数据重构方面具有优势

    Jul, 2020

  • 通过对抗正则化器理解和改善自编码器中的插值

    本文提出了一个鼓励自编码器进行中间值重构的惯化机制，并通过一个简单的基准测试任务和经验证明，表明我们的惯化机制极大地改善了在这种情况下的插值能力，并产生对下游任务更有效的潜在代码。

    Jul, 2018

  • 对抗逼近自编码器用于图像生成和操作

    本文提出了一种新方法，即采用对抗逼近自动编码器（AAAE）来研究具有对抗逼近的潜在代码，从而提高重建质量并学习具有流形结构的潜在空间，同时不需要对潜在代码进行正则化。

    Feb, 2019

  • 用于发现复杂动力系统数据中 Manifold 的维度和坐标的自编码器

    本文介绍了一个自编码器框架，结合隐式正则化和内部线性层，自动估计数据集的底层维度，生成正交流形坐标系，并提供周围空间和流形空间之间的映射函数，为拓展样本作出一定的贡献，展示了该框架在各种数据集中对流形维度的能够自动估计，分析了该架构的梯度下降动态，以及扩展到状态空间建模和预测的应用，并证明了该框架对超参数选择的鲁棒性。

    May, 2023

  • 在高斯 - 勒让德节点下，由于潜在空间正则化，确保自动编码器压缩时的拓扑数据结构保持

    我们提出了一种基于数据无关的潜在空间正则化约束，用于一对一重新嵌入初始数据流形到其潜在表示。通过神经网络的正则化，我们实现了拓扑保持，从 FashionMNIST 数据集到 MRI 脑部扫描等真实世界的编码问题，这种正则化技术可以提供可靠的复杂高维数据的低维表示。

    Sep, 2023

  • 基于能量的迭代投影在正常数据流形上用于异常定位

    本文提出了一种新的方法，通过使用梯度下降法来将异常数据映射到自编码器学习的正常数据流形上，以解决自编码器重建在本地缺陷存在时的分割问题，并通过正则化项在能量函数中引入先验知识来优化投影结果，该方法比传统重建方法在多个异常检测数据集上均取得了最优结果。

    Feb, 2020