Nov, 2023

一种高效的基于顺序神经后验估计的无似然贝叶斯推断方法

PDF
TL;DRSNPE-B 是一种用于模拟为基础模型的顺序神经后验估计技术，本文提出了改进的方法，包括使用自适应校准核的集中损失函数和方差降低技术，以提高数据效率并加快学习过程。实验结果表明，我们的方法在某些任务上表现优于原始方法和其他竞争方法。
sequential neural posterior estimationsnpe-bsimulation-based modelsparameter updatesvariance reduction techniques
发现论文，激发创造
  • 利用预调权神经后验估计进行无似然推断

    模拟推理方法及其神经网络算法在处理具有数值模拟可行性但似然函数难以计算的问题中涉及到的后验分布估计。尽管现有方法在处理低维问题时表现出色，但本文提出的先决条件神经后验估计方法通过结合近似贝叶斯计算方法有效地改善了对大参数空间下的模型的后验分布训练精度。

    Apr, 2024

  • 利用嵌套 MLMC 进行具有难解似然函数的顺序神经后验估计

    本文提出了一种基于嵌套 APT 方法的序贯神经后验估计方法，利用无偏的多层次 Monte Carlo 估计器对偏差和方差进行校正，以近似具有中等维度的多模态复杂后验分布。

    Jan, 2024

  • 高效、准确、轻量级的基于高斯局部线性映射的连续仿真推理

    使用结构化概率分布的混合模型，提供了逼真的后验推断，相较于基于神经网络的仿真推断方法，在计算上具有更小的足迹，对于具有复杂模型和难以计算的似然函数的贝叶斯推断提供了一个可行的选择。

    Mar, 2024

  • 顺序神经似然性：利用自回归流进行快速无似然推断

    本研究提出了顺序神经可能性方法（SNL），这是一种用于贝叶斯推断的新方法，适用于具有难以计算可能性的模拟器模型，其中可以从模型中模拟数据。SNL 在模拟数据上训练自回归流，以学习高后验密度区域可能性的模型。该论文表明，相对于相关的基于神经网络方法，SNL 更加健壮，更准确并且需要较少的调整，并且讨论了用于评估校准，收敛和拟合优度的诊断方法。

    May, 2018

  • 伪似然推断

    通过将神经近似引入 ABC 中，我们提出了伪似然推理 (Pseudo-Likelihood Inference, PLI) 方法，使其在具有挑战性的贝叶斯系统识别任务中具有竞争力，并且相比于 SNPE，在更多数据可用时表现出更好的性能。

    Nov, 2023

  • 自动后验转换用于无似然推断

    提出了一种新的基于神经网络的自适应后验变换方法，APT 可以用任意动态更新的提议来修改后验估计，采用流形密度估计器，具有更高的灵活性、可伸缩性和效率，并能直接处理高维时间序列和图像数据，并可开展无似然推断。

    May, 2019

  • 基于模拟推理的循序神经似然估计方法

    通过 Surjective Sequential Neural Likelihood（SSNL）估计，我们提出了一种新的方法，用于在评估似然函数不可行且仅可使用生成合成数据的模拟器的模型中进行基于模拟的推断。SSNL 采用一个降维的满射标准化流模型并将其用作替代似然函数，通过嵌入数据在低维空间中，解决了先前基于似然函数的方法在应用于高维数据集时遇到的问题。我们评估了 SSNL 在各种实验中的表现，并表明它通常优于在基于模拟的推断中使用的现代方法，比如在一个来自天体物理学的挑战性实际例子中，该例子使用太阳动力学模型来建模太阳的磁场强度。

    Aug, 2023

  • 基于分位数回归的模拟推断

    我们提出了基于神经量位估计（NQE）的一种新型基于模拟的推断（SBI）方法，它基于条件分位数回归。NQE 通过对数据和先前后验维度进行条件分位数自回归学习，为每个后验维度单独学习一维分位数。使用单调立方 Hermite 样条通过插值预测的分位数，获得后验样本，对尾部行为和多峰分布有特别处理。我们引入了基于局部累积密度函数（CDF）的贝叶斯置信区间的替代定义，相对于传统的最高后验密度区域（HPDR）提供了大大更快的评估速度。在受限的模拟预算和 / 或已知的模型误设情况下，可以将后处理扩大步骤集成到 NQE 中，以确保后验估计的无偏性，并且附加的计算成本可以忽略不计。我们证明了所提出的 NQE 方法在各种基准问题上实现了最先进的性能。

    Jan, 2024

  • 基于模型错误假定的仿真推断鲁棒统计学习

    提出了一种通过惩罚那些增加数据和模型之间不匹配度的统计量的正则化损失函数作为一般性方法来处理模型错误规范问题，从而在 SBI 过程中获取稳健的推断结果。

    May, 2023

  • 大规模和快速基于仿真的推论的一致性模型

    基于模拟的推断（SBI）不断寻找更具表现力的算法，以准确地从嘈杂的数据中推断出复杂模型的参数。我们提出了神经后验估计的一致性模型（CMPE），这是一种用于可扩展、快速和分摊的 SBI 的新型无限制条件采样器，具有生成式神经网络。CMPE 将正态流和流匹配方法的优点融合到一个单一的生成式架构中：它本质上提炼出一个连续概率流，并能够通过一个未受限制的架构进行快速的少样本推断，以适应估计问题的结构。我们的实证评估证明，CMPE 不仅在三个困难的低维问题上优于当前最先进的算法，而且在高维贝叶斯去噪实验和对计算要求严格的肿瘤球体生长的多尺度模型估计中也取得了竞争性的性能。

    Dec, 2023