线性降噪自编码器的动态学习
本文研究了对输入和隐层同时进行噪声注入的变分自编码器,提出了一种改进的目标函数。当输入数据有噪声时,传统的变分自编码器的训练方法不可行,这里提出了一种可行的训练方法。实验结果表明,在 MNIST 和 Frey Face 数据集上,提出的去噪变分自编码器(DVAE)的平均对数似然比 VAE 和重要性加权自编码器更好。
Nov, 2015
自动编码器是无监督学习内部表示的有用框架,本研究将现有的去噪自动编码器扩展到在非线性函数和隐藏单元激活之前注入噪音,提供一种统一的策略来通过设计注入噪声的性质来开发新的内部表示,并表明通过罕见的、去相关、和信息分散的噪声,在深度网络中改善性能。与其他单层技术竞争 MNIST 和 CIFAR-10。
Jun, 2014
本文介绍了一种通过利用生成自编码器的潜在句子表示来实现可控制文本生成的方法。作者提出了一种改进自动编码器的方法,被称为 DAAE,该方法可以在维持生成质量的同时,提高模型中的潜在空间几何性,从而实现了通过简单潜在向量算术进行全零文本风格转换。
May, 2019
本文理论证明了用 BCE 训练的 DAE 能够在数据空间中向高概率区域梯度下降,进而在实验中通过噪声数据生成和对初始数据的迭代应用 DAE 进行数据向高概率区域的改进。
Aug, 2017
该论文提出了一种可以在数据流分析中自适应构建去噪自编码器 DEVDAN,并以单次学习为基础的方法,通过网络重要性估计来自动添加或修剪输入特征,从而提高分类精度并适应不断变化的环境。
Sep, 2018
建筑能源建模中经常观察到的缺失数据需要用先进的数据驱动解决方案来反映这些异常的非线性行为。本文提出了在商业建筑中使用基于物理信息的去噪自编码器 (PI-DAE) 进行缺失数据填补的方法,并通过引入物理知识到网络中实现了更可解释的预测,从而促进了该方法的实际应用。
Nov, 2023
研究表明,编码器和解码器之间的适当侧向连接可以使去噪自编码器(dAE)的更高层专注于不变表示。添加被允许调制侧向连接的不变特征可以将抽象不变特征翻译为详细的重构,并支持形成不同的不变池。通过在真实世界图像上进行实验,发现添加调制的侧向连接到模型中可以提高模型对输入的概率模型准确性,产生的表示不变度在更高层次上增加得更快,并支持形成多样的不变池塘。
Dec, 2014
本文通过将特征映射视为运输映射,研究了深度学习的基本案例 - 去噪自编码器(DAE)的运输动态,并揭示了无限深的 DAE 如何将 mass 输送出去以减少数据分布的某种数量,即熵,这些结果虽然在数学上很简单,但是启示我们深度神经网络和 Wasserstein 梯度流之间的对应关系。
Dec, 2017
提出一种基于正则化的确定性编码器和解码器的生成模型框架,替换 VAEs 中的随机性来达到优化潜在空间的目的,并通过引入后验密度估计步骤来生成具有相当或更好质量的样本。
Mar, 2019