使用 Transformer 神经自回归流(T-NAFs)通过注意力掩码将每个随机变量的维度视为单独的输入令牌,取得了 UCI 基准数据集上与 NAFs 和 B-NAFs 相媲美甚至更好的实验结果,同时使用数量级较少的参数而无需合成多个流。
Jan, 2024
本文介绍了一种新型的神经网络模型叫 Block neural autoregressive flow(B-NAF),通过使用单个前馈网络直接模拟双密度函数的变换关系实现了紧凑型的通用密度函数的拟合。同时,本文还比较了 B-NAF 和其他流行的自动编码器,发现 B-NAF 在保证了准确性的同时,使用的参数数量比这些流行的自动编码器更少。
Apr, 2019
本文提出了一种新型正则化流架构 —— 逆自回归流,它是一种基于自回归神经网络的可逆转换链。实验结果表明,逆自回归流显著改善了高维空间中对角高斯近似后验的变分推断,同时也证明了,结合逆自回归流的新型变分自编码器,在自然图像的对数似然度方面,与神经自回归模型相当,同时合成速度显著更快。
Jun, 2016
使用 Masked Autoregressive Flow 构建自回归模型栈,提高神经密度估计的灵活性,达到最先进的性能表现。
May, 2017
本论文介绍了一种名为 “超条件神经自回归流”(HCNAF) 的通用机器学习模型,它可以对任意复杂的条件概率密度函数进行建模。作者对该模型进行了密度估计实验,并在公共的自动驾驶数据集上进行了试验,结果表明该模型表现优异。
Dec, 2019
本文介绍了自回归归一化流和可辨识因果模型之间的内在对应关系,证明归一化流模型适用于执行多种因果推理任务,从因果发现到进行干预和反事实预测。作者通过一系列实验验证了所提出的方法优于当前的因果发现方法,并可以精确地进行干预和反事实预测。
Nov, 2020
通过在流式生成模型的潜在空间中引入多尺度自回归先验 (mAR),我们提高了流式模型的表征能力,使得其在密度估计和图像生成方面都获得了新的最好结果。
Apr, 2020
本文介绍基于单调分段函数有理二次样条的神经模型流,在保持解析可逆性的同时提高了耦合和自回归变换的灵活性,并展示了神经样条流在密度估计、变分推断和图像生成建模中的相对表现优良。
Jun, 2019
提出了一种不需要自回归或逆自回归的神经源 - 滤波器 (NSF) 波形建模框架,该框架比 WaveNet 等传统自回归模型具有更快的波形生成速度,并且所生成的合成语音质量至少与 WaveNet 相当。
本研究提出了一种基于 Haar 小波变换的分块自回归模型,利用分块耦合法,通过对粗糙轨迹条件,精确地对不同时空分辨率下的轨迹进行建模并预测,以提高自主智能体的运行效果。在 Stanford Drone 和 Intersection Drone 两个真实数据集上进行测试,结果表明此模型的生成轨迹精准度和可变性均优于其他条件生成模型。
Sep, 2020