- AE-Flow:自动编码器归一化流
我们引入一种新的训练范式:自编码器归一化流(AE-Flow),它通过添加重构损失,使模型使用条件信息重构音频样本,结果表明该方法在正常化流的训练中系统地提高了说话者相似性和自然度。
- 准确的随机微分方程建模的时间变化归一化流
本论文介绍了一种新变种的动态归一化流模型(TCNF),基于布朗运动的时间变形,能够有效地建模一些随机微分方程,包括标准的奥恩斯坦 - 乌伦贝克过程,并且提供更好的推断和预测能力。
- 利用正规化流生成新的语音
通过归一化流(normalizing flows)实现从训练时未见过的声音身份合成逼真、自然的合成语音的研究中,我们创建了一种文本转语音(TTS)和语音转换(VC)的方法,并使用客观和主观指标来评估技术在零样本和新声音语音合成任务中的性能, - InvertibleNetworks.jl:可扩展的标准化流的 Julia 软件包
InvertibleNetworks.jl 是一个 Julia 软件包,专为实现在高维分布中进行密度估计和抽样的可扩展的可逆流方法而设计。该软件包通过利用可逆流的固有可逆性,在反向传播期间显著降低了内存需求,相较于依赖于自动微分框架的现有的 - 拓扑障碍及其规避方法
通过将几何归纳偏差引入模型可以提高其解释性和泛化性,但由于拓扑约束的存在,将其编码到特定的几何结构中可能很具有挑战性。本文从理论和实证研究角度对训练编码器时遇到的几何潜空间障碍进行了特征化。我们展示了由于奇异性(例如自交)或不正确的度数或缠 - 大规模和快速基于仿真的推论的一致性模型
基于模拟的推断(SBI)不断寻找更具表现力的算法,以准确地从嘈杂的数据中推断出复杂模型的参数。我们提出了神经后验估计的一致性模型(CMPE),这是一种用于可扩展、快速和分摊的 SBI 的新型无限制条件采样器,具有生成式神经网络。CMPE 将 - PDF 投影与正规流和 SurVAE 的比较
Normalizing flows (NF) and Surjection VAE (SurVAE) are approaches that extend generative networks with exact likelihood - 使用规范化流生成提前一天电力价格的多变量情境
使用全数据驱动的深度生成模型 —— 正规流模型,在电力市场的实现和预测不确定性方面进行电力价格的概率预测。研究表明,正规流模型生成高质量的场景,能够复现真实价格分布并提供高度准确的预测结果;同时,该模型在适应不断变化的市场条件方面的改进,使 - 机器人学习中用于外部分布检测的拓扑匹配归一化流
为了在现实世界中实现可靠的自主机器人部署,对 Out-of-Distribution (OOD) 检测能力的需求很高。基于密度估计和归一化流的 OOD 检测是一种有效方法,但之前的工作尝试使用简单的基础分布拓扑地匹配复杂的目标分布,导致了不 - 线性控制神经 ODE 中将正规化流视为最优传输映射的近似
通过深度神经网络构建概率测度之间的可逆传输映射,本文考虑了恢复绝对连续测度之间 $W_2$- 最优传输映射作为线性控制神经 ODE 流的问题,并提出了一种基于离散最优耦合的离散控制问题,以近似求解最优传输映射。最后,通过 Pontryagi - 利用规范流和高效训练提升摘要生成
本研究提出了 FlowSUM,一种基于正则化流的变分编码器 - 解码器框架,用于 Transformer-based 摘要。我们的方法解决了变分摘要中两个主要挑战:潜在表示中的语义信息不足和训练期间的后验崩溃。为了解决这些挑战,我们采用正则 - 通过归一化流进行稀有事件概率学习
NOFIS 使用正态化流辅助重要性抽样,通过学习一系列建议分布并结合重要性抽样,精确地估计罕见事件的概率,通过定性和定量实验证实 NOFIS 方法的优越性。
- 自由形式流动:使任何架构成为标准化流量
我们通过使用梯度的有效估计器来克服了正规化流设计受到解析可逆性需求的约束,并实现了任意保持维度的神经网络作为最大似然训练的生成模型,在分子生成基准测试中取得了出色的结果,同时采用现成的 ResNet 架构在一个反问题基准测试中具有竞争力。
- ICMLSimBIG:基于场的仿真推断星系聚类
我们首次提出了基于模拟的宇宙学参数的推导方法,通过对星系聚类的场级分析。使用正常化流的模型以及卷积神经网络进行了星系场数据的大量压缩,我们得到了对宇宙学参数的约束,包括了非高斯信息。这项工作不仅提供了强有力的宇宙学约束,还介绍了未来星系调查 - 基于条件正规化流的 IceCube 事件重建
南極冰中的 IceCube 中微子觀測站使用條件式正規化流对于電子和微子相互作用進行方向和能量推断。正規化流正确地考虑了南極冰的光學特性以及其与嵌入式探測器的關係,显示出潜在的方向異向性。这能對於銀河平面的漫射中微子發射的研究有重要意義。
- NFLikelihood:基于归一化流的无监督 DNNLikelihood
我们提出了 NFLikelihood,这是一种基于 Normalizing Flows 的无监督版本的 DNNLikelihood,通过现实例子展示了基于仿射和有理二次样条双射的自回归流如何学习出现在高能物理分析中的复杂高维似然。我们聚焦于 - 双正则流:灵活的贝叶斯高斯过程 ODE 学习
高斯过程在连续动力系统的向量场建模中已被广泛使用,本研究将归一化流引入常微分方程向量场,提高了贝叶斯高斯过程常微分方程的准确性和不确定性估计能力。
- 从一个数据集到另一个数据集的流动:最大似然估计的变形
利用正则化流模型,在没有明确知道数据集概率密度的情况下,通过最大似然估计训练正则化流,实现从一个数据集到另一个数据集的变形策略,并研究数据点的移动程度以统计匹配两个数据集,同时以特定特征为条件来生成变形函数。
- 归一化流的变体和放宽
通过结合其他生成模型类别的方面,如 VAEs 和基于分数的扩散,放宽了 NFs 的严格双射约束,从而实现了表达能力、训练速度、样本效率和似然可追踪性的平衡。
- 具有确定性归一化流先验的扩散模型
通过使用正则化流和扩散模型,我们提出了 DiNof 技术,以实现更快的采样和更高的样本质量。我们利用正则化流对扩散过程中任意步骤的嘈杂数据进行参数化,并将其用作逆向扩散过程的先验。通过减少总扩散步骤的数量,我们能够加快正向和反向过程,并通过