本文探讨了 normalizing flows 模型在离散分布上的应用，提出了可以推广到离散事件的离散流模型。其中考虑了离散自回归流和离散二部流模型， 并应用于语言模型中。实验证明于离散分布上离散自回归流优于自回归基线模型，在字符级别的语言建模上离散二部流可以与自回归基线模型竞争。

May, 2019

提出了定义置换等变性转化的替代方法以解决连续归一化流族的重要问题，将点过程和一般集合建模示例应用于该方法中，以此来改进投向方案的性能和最终表现。

Oct, 2020

本研究提出了离散去噪流模型（Discrete Denoising Flows, DDFs），用于建模离散的随机变量，并证明在对数似然度量中，在建模玩具示例，二进制 MNIST 和 Cityscapes 分割地图方面，DDFs 优于 Discrete Flows。

Jul, 2021

本文研究和改进针对无损压缩的整数离散流。我们通过探究离散随机变量的可逆流是否比连续随机变量的更为灵活来开始分析，并通过证明发现此理论不适用于整数离散流。此外，我们研究了整数离散流中的梯度偏差效应，并通过实验证明其对模型的性能影响高度依赖于架构选择并不像先前想象的那样突出。最后，我们展示了不同架构修改如何改进该模型类别的性能并使其更加高效：我们发现具有一半数量流层的模型性能不亚于或者比原始整数离散流模型更好。

Jun, 2020

该研究的主要目的是通过使用学习的动态潜在地形建模潜在空间，以及受物理学和神经科学启发的偏微分方程，实现语义上有意义的潜在遍历，同时在模型训练中通过作为正则化项的方式，提高模型推断的准确性和结构化表示的学习。

Apr, 2023

研究了梯度下降法与梯度流动在深度学习中的关系，发现深度神经网络上的梯度流动轨迹存在良好曲率，能够很好地近似梯度下降法。理论和实验结果表明，梯度下降法具有较高的计算效率和全局最小解收敛保证。

Jul, 2021

本文旨在建立离散扩散模型的概率流动基本理论，从而定义符合最优运输原理的离散概率流动，并提出一种超越以往的离散扩散模型的新型采样方法。通过在合成玩具数据集和 CIFAR-10 数据集上的广泛实验证实了所提出的离散概率流动的有效性。

Nov, 2023

本文介绍了连续时间流（CTF）的概念，这是一种能够渐进地接近目标分布的基于扩散的方法。相对于常规的 normalizing flows 和 GANs 模型，CTFs 能够在一个框架中实现高效率的推理和基于大量未标记数据的密度估计，并且可以在其中采用一种新的分布匹配技术。实验结果表明，所提出的 CTF 框架较之相关技术具有更良好的性能。

Sep, 2017

开发了一种不需要连续嵌入的离散分布的变分流，称为 MAD Mix，通过测量保持和离散可逆映射来生成离散目标的可靠逼近，并且比连续嵌入的流训练速度显著更快。

Aug, 2023

本文提出了一种基于层次分类和数量相关的反向传播算法的树形深度神经网络（TSDNN），以解决不平衡数据学习的问题，并在实验中表明其优于现有方法，可用于实时检测和深度学习在网络安全中的普适性能力。

Feb, 2018