RNADE: 基于神经网络的实数值自回归密度估计器
本文介绍一种新的方法,即同时为每个变量的可能排序训练 NADE 模型,共享跨所有模型的参数。这种方法既可以为不同推理任务使用最方便的模型,又可以马上使用具有不同排序的模型集成。此外,我们的训练方法可以扩展到深度模型,实验证明深度 NADE 模型的集合可以获得最先进的密度估计性能。
Oct, 2013
本研究提出了使用神经网络模型通过权值共享和概率乘积规则实现无监督分布和密度估计的新方法,并探讨了如何构建深度神经网络在建模二进制和实值观察方面具有竞争力的性能以及如何利用深度卷积神经网络来处理图片中的拓扑结构。
May, 2016
该论文提出了一种新的无监督深度学习模型 NADE-k,该模型结合了 NADE 和多预测训练的优点,可用于密度估计。其测试似然可以进行解析计算,而且易于生成独立样本,并使用 Boltzmann 机器的变分推断。在两个测试数据集上,NADE-k 的表现与现有最先进技术相当。
Jun, 2014
本文提出非线性连续加权有限状态机(NCWFAs)和 RNADE-NCWFA 模型来处理连续随机变量序列的概率密度函数估计问题,并且我们的模型优于传统基线方法以及高斯 HMM 模型。
Jun, 2022
本研究提出了一种新的采样过程(退火 GSN 采样),用于从已训练的 Orderless NADE 模型中采样,以便在节省时间的同时保持样品质量,同时该过程建立了 NADE 模型的马尔可夫链并证明了该模型与 GSNS 的训练标准之间的联系
Sep, 2014
本文旨在系统地表征密度估计方法,提出多种新方法,在真实数据和合成数据上进行全面研究,结果表明变量转换和自回归条件模型相结合可以显著提高性能,并将模型用于异常检测和图像建模,最后介绍了一种用于学习分布族的新的数据驱动框架。
Jan, 2018
本文介绍了一种可以对序列数据进行 OADE 任务的神经架构,并证明可以在完全无需修改的情况下应用到 OADE 任务中。我们称之为 DEformer,并展示了 DEformer 相对于固定顺序的自回归分布估计算法和流式神经网络在对 MNIST 数据集进行建模时表现更加优异的证据。
Jun, 2021
该论文提出了一种名为 Neural Eigen 随机微分方程的算法,通过在患者设定的超参数上运行超网络来提供个性化建模、扩展到新的治疗政策、根据噪声水平进行可调表现,以及快速、连续和闭合的预测,以模拟医学健身房环境中的真实医疗问题。
Jun, 2023
本研究介绍了一种名为 Spatio-Temporal Graph Neural Rough Differential Equation (STG-NRDE) 的方法,该方法将神经网络粗糙微分方程(NRDE)和图卷积网络结合起来,通过时间和空间数据进行交互,以预测交通流量,并在 6 个基准数据集和 21 个基线模型中实现了最佳准确性。
Mar, 2023