通过归一化流进行稀有事件概率学习
使用 Normalizing Flow 生成模型进行条件概率抽样配合 Coupling Flows 和 Importance Sampling,可以在高维及罕见事件的环境下实现高效的采样和估计。
May, 2023
本研究旨在提出适用于顺序决策系统的两种自适应重要性采样算法,以高效地评估罕见事件的概率。该方法基于状态依赖的提议分布与目标分布之间的 Kullback-Leibler 散度最小化,用于减少精度方面的误差和处理多峰性提议分布的问题,并将多重重要性采样应用于多种基线以显示准确性改进。
Nov, 2022
我们提出了 Liouville Flow Importance Sampler (LFIS),这是一种创新的基于流的模型,用于从非归一化密度函数生成样本。通过将样本从简单的初始分布确定性地传送到复杂的目标分布,LFIS 学习一种时间依赖的速度场,以预设的退火分布路径为指导。LFIS 的训练采用了一种独特的方法,它将导数偏微分方程的结构强加于模拟速度场的神经网络。通过将神经速度场视为重要抽样器,可以通过沿着神经速度场驱动的样本轨迹累积误差来计算样本权重,确保对统计量进行无偏且一致的估计。通过在一系列基准问题上应用 LFIS,我们展示了其有效性,其中 LFIS 在许多问题上都取得了最先进的性能。
May, 2024
我们提出了一种基于归一化流的新方法 (floZ),用于从一组从非归一化后验分布中抽取的样本中估计贝叶斯证据 (及其数值不确定性)。通过在已知解析证据的分布上进行验证,最多可达到 15 个参数空间维度,并与两种先进的技术进行比较,这两种技术均用于估计证据:嵌套采样 (将证据作为其主要目标进行计算) 和通过后验样本产生证据估计的 k 最近邻技术。如果有来自目标后验的代表样本可用,我们的方法对于具有尖锐特征的后验分布具有更好的鲁棒性,特别是在较高维度上。它具有广泛的适用性,例如用于估计变分推断、Markov 链蒙特卡洛样本或从非归一化后验密度中提供样本的任何其他方法。
Apr, 2024
通过连续归一化流(CNFs)和线性插值,我们研究了采用匹配流目标函数学习概率分布的 CNFs 在从有限随机样本中学习概率分布方面的理论属性,并建立了基于 Wasserstein-2 距离的分布估计器的非渐进误差界。
Mar, 2024
本文提出了一种新的马尔可夫蒙特卡罗算法来应对标准归一化流在复杂分布上可能出现的病态问题,并将其与传统方法进行了比较,结果表明该方法不需要专门的训练,并且可以简单地与任何预先经过训练的 NF 网络结构一起使用。
May, 2023