ICMLOct, 2020

正则化流中深度和条件化的表征特征

PDF
TL;DR本文研究了对于对数几率模型的归一化流表示，主要关注模型深度和分区选择实现上的困难。结果表明，每个分区仅需 Theta (1) 个仿射耦合层就足以精确表示排列或者 1*1 的卷积，同时也被证明具有较好的普适性。同时我们也展示了对于少量神经元元素和有限 Lipschitz 常数的流构架的深度下限。
normalizing flowsgenerative modelinglikelihood evaluationaffine couplingsdepth
发现论文，激发创造
  • 密集连接归一化流

    该文研究了通过交叉单元耦合和密集连接等方法增强正常化流模型表达能力并提高密度估计精度的问题。

    Jun, 2021

  • 维度通用的正则化流

    本研究介绍了一种名为 NIF 的流行有噪声映射模型，可以通过注入变换学习数据流形的降维表示，有效提高了样品质量和数据嵌入的可分性。

    Jun, 2020

  • 从有条件的归一化流中提取知识

    本研究通过提出一种简单的蒸馏方法，证明了在图像超分辨率和语音合成领域，可以将基于流的模型提炼为更高效的替代模型。

    Jun, 2021

  • 图形正态流

    本文提出了一种基于贝叶斯网络和图结构的图归一化流模型，在保留贝叶斯网络的可解释性和图归一化流的表示能力的同时，为将领域知识注入图归一化流提供了一个有前途的方法。

    Jun, 2020

  • 关于用归一化流求解成像问题的鲁棒性

    本文提出了一种通过使用经过改进的有理二次样条耦合层替代条件仿射耦合层的方法，以解决条件归一化流在生成图像样本时出现严重伪影的问题。通过实证和理论分析发现，这些问题是由于条件仿射耦合层中的 “爆炸反演” 导致的，同时提出了一种基于马氏距离的 OOD 得分计算方法用于判断这种情况的出现概率。最终的实验表明，所提出的方法可以有效减少伪影的出现，并提高生成的图像样本的健壮性。

    Dec, 2022

  • 自由形式流动：使任何架构成为标准化流量

    我们通过使用梯度的有效估计器来克服了正规化流设计受到解析可逆性需求的约束，并实现了任意保持维度的神经网络作为最大似然训练的生成模型，在分子生成基准测试中取得了出色的结果，同时采用现成的 ResNet 架构在一个反问题基准测试中具有竞争力。

    Oct, 2023

  • 等变有限规范化流

    通过使用离散层构建等变归一化流，我们引入了三种新的等变流：$G$-Residual Flows，$G$-Coupling Flows 和 $G$-Inverse Autoregressive Flows，除了理论研究外，还在像 CIFAR-10 这样的图像数据集上进行了实证实验来证明其效果。

    Oct, 2021

  • 自归一化流

    本研究提出了自正则化流的概念，通过使用每一层中的学习近似反演，将昂贵的项替换为其梯度的自我正则化流，实现了流架构的培训，同时提供了高效的采样方法。实验表明，这些模型具有显著的稳定性，并优于在计算中限制函数的模型。

    Nov, 2020

  • 利用正则化流进行低光照图像增强

    本文提出利用正则流模型建立低光图像与正常曝光图像之间的一对多映射关系，通过一个可逆网络，将低光图像 / 特征作为条件，学习将正常曝光图像的分布映射到高斯分布，从而得以更好地建模正常曝光图像的条件分布，在提高图像亮度、减少噪声和伪影、增强色彩方面表现出更好的定量和定性结果。

    Sep, 2021

  • 可扩展的置换不变密度归一化流

    提出了定义置换等变性转化的替代方法以解决连续归一化流族的重要问题，将点过程和一般集合建模示例应用于该方法中，以此来改进投向方案的性能和最终表现。

    Oct, 2020