Jul, 2023

核化归一化流

PDF
TL;DR本研究提出了 Ferumal 流，一种新型的基于核的归一化流范式，将核函数与框架结合。结果表明，与基于神经网络的流相比，基于核的流可以在保持参数效率的同时产生竞争性或更好的结果。基于核的流在数据稀缺情况下表现出色，可在应用中进行灵活的非参数密度估计。
normalising flowsinvertible architectureexpressive designskernelised flowparameter efficiency
发现论文，激发创造
  • 自由形式流动：使任何架构成为标准化流量

    我们通过使用梯度的有效估计器来克服了正规化流设计受到解析可逆性需求的约束，并实现了任意保持维度的神经网络作为最大似然训练的生成模型，在分子生成基准测试中取得了出色的结果，同时采用现成的 ResNet 架构在一个反问题基准测试中具有竞争力。

    Oct, 2023

  • 从有条件的归一化流中提取知识

    本研究通过提出一种简单的蒸馏方法，证明了在图像超分辨率和语音合成领域，可以将基于流的模型提炼为更高效的替代模型。

    Jun, 2021

  • 正规流：当前方法的介绍与评述

    本文综述了 Normalizing Flows 在分布学习中的构建和使用，旨在提供模型的背景和解释，回顾现有的最新文献，并确定未来可行的有前途的方向和未解决的问题。

    Aug, 2019

  • 图形规范化流

    本文提出了一种新型、基于图的生成模型 —— 图可逆正则流，并尝试将其应用于监督学习和非监督学习任务中，与其他自回归模型相比表现良好且更适合于并行计算架构。

    May, 2019

  • 使用归一化流进行半监督学习

    FlowGMM 是一种基于正则化流的端到端方法，用于生成半监督学习，具有可解释性，适用于广泛的数据类型，包括文本数据、表格数据和半监督图像分类，并能够发现可解释的结构、提供实时的无优化特征可视化等。

    Dec, 2019

  • 维度通用的正则化流

    本研究介绍了一种名为 NIF 的流行有噪声映射模型，可以通过注入变换学习数据流形的降维表示，有效提高了样品质量和数据嵌入的可分性。

    Jun, 2020

  • 概率建模与推理的正则化流

    本文综述了正则流动的研究现状，通过概率建模和推断的视角，分析了其表达能力、计算权衡等基础原理，并将其与更一般的概率转换联系起来，总结了其在生成建模、近似推断和监督学习等任务中的应用。

    Dec, 2019

  • 归一化流的变体和放宽

    通过结合其他生成模型类别的方面，如 VAEs 和基于分数的扩散，放宽了 NFs 的严格双射约束，从而实现了表达能力、训练速度、样本效率和似然可追踪性的平衡。

    Sep, 2023

  • 张量化流：一种变分推断工具

    本文提出了一种引入张量网络构造的参考分布的扩展归一化流模型，将其应用于困难的变分推断任务中，显示出优于单独使用流或张量网络的结果。

    May, 2023

  • 黎曼连续归一化流

    本文提出 Riemannian 连续正规化流模型，通过设置连续性流作为常微分方程的解来定义流，其可以对光滑流形上的灵活概率测度进行有效参数化，在合成和现实数据方面与标准流或先前介绍的预测流相比可以显著提高表现。

    Jun, 2020