NIPSSep, 2015

深度时间 Sigmoid 信念网络用于序列建模

PDF
TL;DR通过构建时序 Sigmoid 置信网络的层次结构，设计深动态生成模型，引入识别模型从变分后验中快速采样，提出的方法在多种序列数据上取得最先进的预测性能，能够合成各种序列。
deep dynamic generative modelstemporal sigmoid belief networksscalable learningfast samplingpredictive performance
发现论文，激发创造
  • 基于分解的时间 sigmoid 置信网络于序列学习的应用

    本文提出了一种基于深度条件生成模型（DCGM）的通用框架，能够同时学习多个序列之间的时序依赖关系，并通过引入三维权重张量来捕捉附加信息和序列之间的乘法交互作用。当没有侧信息时，该模型可用于半监督学习，实现鲁棒的序列分类。实验结果表明该方法在序列数据的预测和分类性能方面取得了最先进的成果，并且具有控制风格转换和融合的能力。

    May, 2016

  • 使用 DBN-BLSTM 学习数据中的时序依赖关系

    我们设计了一种新的深度学习网络架构 DBN-BLSTM，该网络结合了深度信号表示和时间信息，加强了序列数据的建模，在音乐生成任务中表现出最优性能。

    Dec, 2014

  • 信念网络中的神经变分推断和学习

    我们提出了一种快速的非迭代近似推理方法，通过前馈网络实现从变分后验进行有效精确抽样，该方法通过应用几种直观的模型独立方差减少技术，优于 MNIST 和 Reuters RCV1 文件数据集上的唤醒 - 睡眠算法，并取得了最新成果。

    Jan, 2014

  • 使用 RNN-DBN 模型建模时间依赖关系的复调音乐生成

    该论文提出了一种泛用的技术，将递归神经网络和深度置信网络相结合，用于建模时间依赖性和序列生成，特别适用于多声部音乐生成任务。

    Dec, 2014

  • 建模高维序列中的时间依赖关系：应用于复调音乐生成和转录

    研究利用基于分布估计器的递归神经网络的概率模型来建模多声部音乐的问题，可以提高多声部转录的准确性。

    Jun, 2012

  • 使用时间段模型的预测与控制

    介绍了一种基于深度生成模型的学习方法，能对非线性系统的动态进行变化预测，针对碰撞、感官噪声和动作延迟进行了建模，并用于基于模型的策略优化。

    Mar, 2017

  • 使用线性置信网络预测分布

    该论文介绍了一种新的网络类型 —— 线性化置信网（LBN）—— 它是实值条件分布的普遍逼近器，并且能够有效地训练，在图像去噪和面部表情生成等任务中取得了最先进的结果。

    Nov, 2015

  • GDBN：一种动态贝叶斯网络的图神经网络方法

    本文提出了一种基于得分的图神经网络方法，旨在学习离散时间时间图中捕捉因果依赖的稀疏 DAG，结果表明该方法较其他现有方法如动态贝叶斯网络推断等表现更好，得到的结构因果模型也比诸如 Notears 等方法发现的线性 SCM 更准确。

    Jan, 2023

  • 使用 Tsetlin 机从数据中生成贝叶斯网络模型

    本文提出了一种初步的探索网络结构的方法，该方法利用了 Tsetlin Machines 进行 Bayesian Networks 建模并处理相关性和因果关系。

    May, 2023

  • 反向随机微分方程结合的深度生成建模

    该论文提出了一种新颖的深度生成模型 BSDE-Gen，将 BSDE 的灵活性与深度神经网络的高能力相结合，特别适用于高维复杂目标数据的生成，特别是在图像生成领域。该模型将随机性和不确定性纳入生成建模过程，使 BSDE-Gen 成为生成高维数据的有效和自然方法。论文提供了 BSDE-Gen 的理论框架，描述了其模型架构，介绍了用于训练的最大均值差异（MMD）损失函数，并报告了实验结果。

    Apr, 2023