Sep, 2023

使用确定性投影信念网络改进的自编码

PDF
TL;DR本文研究了一种基于确定性投影信念网络 (D-PBN) 的自动编码器，并利用可训练的复合激活函数 (TCAs) 的独特性质进行优化，实现更好的数据分析和重构性能，超过了标准自动编码器和变分自动编码器。
deterministic projected belief networktrainable compound activation functionsauto-encoderbacking upvariational auto-encoders
发现论文，激发创造
  • 训练去噪自编码器以最小化二进制交叉熵

    本文理论证明了用 BCE 训练的 DAE 能够在数据空间中向高概率区域梯度下降，进而在实验中通过噪声数据生成和对初始数据的迭代应用 DAE 进行数据向高概率区域的改进。

    Aug, 2017

  • PCAE: 可控文本生成的插件条件自编码器框架

    我们提出了一个灵活的半监督文本生成模型 Plug-in Conditional Auto-Encoder（PCAE），它可以通过全局潜在空间到指定的局部潜在空间，以高度可操纵、句法多样和时间高效的方式生成文本，使用最小标记样本。

    Oct, 2022

  • 基于链的判别自编码器用于语音识别

    该论文提出了一种基于自编码器的语音识别方法，使用分类交叉熵和互信息作为目标函数，有效提高音频降噪和增强的效果。

    Mar, 2022

  • 贝叶斯网络的倒置

    本篇论文研究了识别网络模型的 “必要和充分” 属性，使其能够精确地模拟真实的后验分布，结果发现对于局部条件来说， 完美性质 (即对于每个节点，所有的父节点都相连) 发挥了重要作用。

    Dec, 2022

  • ENN：一种带有 DCT 自适应激活函数的神经网络

    该研究提出了一种新的神经网络架构 - Expressive Neural Network (ENN)，其中非线性激活函数使用离散余弦变换 (DCT) 建模，并在训练过程中使用反向传播进行自适应，实现了较高的灵活性和表现力，同时可以适应不同的学习任务。经过大量实验证明，ENN 的性能超过当前的最先进技术，并在某些场景下提供高达 40％的准确性差距。

    Jul, 2023

  • 基于鉴别对齐的投影信念网络用于声学事件分类：与最先进的 CNNs 相媲美

    通过投影信念网络（PBN）和生成随机网络进行判别式对齐从而提高分类性能，并将隐马尔可夫模型与 PBN 结合，结果显示与先进的卷积神经网络相比，PBN-DA-HMM 能够获得可比或更好的性能，并且当与卷积神经网络结合时错误率降低了一倍。

    Jan, 2024

  • 预训练扩散概率模型中的无监督表征学习

    本文提出了一种基于现有预训练 DPM 模型的图像重建通用方法 PDAE，实现了比 Diff-AE 更好的训练效率和性能，并通过对分类器引导采样的机制填补信息缺失的空隙，使编码器对图像进行更好的重建，表现出了较高的有效性、效率和灵活性。

    Dec, 2022

  • 贝叶斯关注信念网络

    本文提出贝叶斯关注置信网络并将其应用于多种任务中，相较于确定性和其他基于 stochastic attention 的模型，其在准确性、不确定性估计等指标上均更优。同时，这种方法还可用于调整其他基于 deterministic attention 的预训练模型，展现了广泛的应用潜力。

    Jun, 2021

  • 基于新型扩展 Garson 算法的可解释深度置信网络自编码器

    本文提出了一种扩展 Garson 算法的算法，用于解释基于自编码器的深度置信网络，并在文献中选取的分类和回归数据集上测试了该方法的有效性。

    Jul, 2022

  • 未知环境下的稳定预测

    本文提出了一种新型的 Deep Global Balancing Regression（DGBR）算法，该算法可以同时优化深度自编码模型和全局平衡模型，以实现特征选择和稳定预测。通过实证实验，该算法表现出比现有最先进的方法更好的表现。

    Jun, 2018