Dec, 2023

大规模和快速基于仿真的推论的一致性模型

PDF
TL;DR基于模拟的推断（SBI）不断寻找更具表现力的算法，以准确地从嘈杂的数据中推断出复杂模型的参数。我们提出了神经后验估计的一致性模型（CMPE），这是一种用于可扩展、快速和分摊的 SBI 的新型无限制条件采样器，具有生成式神经网络。CMPE 将正态流和流匹配方法的优点融合到一个单一的生成式架构中：它本质上提炼出一个连续概率流，并能够通过一个未受限制的架构进行快速的少样本推断，以适应估计问题的结构。我们的实证评估证明，CMPE 不仅在三个困难的低维问题上优于当前最先进的算法，而且在高维贝叶斯去噪实验和对计算要求严格的肿瘤球体生长的多尺度模型估计中也取得了竞争性的性能。
simulation-based inferenceneural posterior estimationgenerative neural networksnormalizing flowsflow matching methods
发现论文，激发创造
  • 可扩展仿真推断的流匹配

    提出了流匹配后验概率估计（FMPE）方法，使用连续正则化流实现了基于模拟的推断任务，较于离散流，在保持精度的情况下，提供了更高的灵活性和可伸缩性。在模拟数据集上取得了有竞争力的性能，而在重力波推断任务中，FMPE 方法的训练速度比离散流方法快 30％，且准确度得到了大幅提高。

    May, 2023

  • 利用预调权神经后验估计进行无似然推断

    模拟推理方法及其神经网络算法在处理具有数值模拟可行性但似然函数难以计算的问题中涉及到的后验分布估计。尽管现有方法在处理低维问题时表现出色，但本文提出的先决条件神经后验估计方法通过结合近似贝叶斯计算方法有效地改善了对大参数空间下的模型的后验分布训练精度。

    Apr, 2024

  • 一种简化的一致性模型

    一种训练一致性模型的替代方案，通过表达常态模型轨迹的微分方程，提高训练效率，并显示出经典的幂律缩放规律。

    Jun, 2024

  • 一种高效的基于顺序神经后验估计的无似然贝叶斯推断方法

    SNPE-B 是一种用于模拟为基础模型的顺序神经后验估计技术，本文提出了改进的方法，包括使用自适应校准核的集中损失函数和方差降低技术，以提高数据效率并加快学习过程。实验结果表明，我们的方法在某些任务上表现优于原始方法和其他竞争方法。

    Nov, 2023

  • 通过数据驱动校准解决模拟推断中的错误规范

    通过引入鲁棒后验估计 (ROPE)，克服了模型错误配置，ROPE 在真实世界校准集的基础上提供了具有可控平衡的校准不确定性和信息丰富的推断，通过解决真实观测和模拟观测之间的最优运输问题确保了模拟基于推理的可靠性。

    May, 2024

  • 基于模型错误假定的仿真推断鲁棒统计学习

    提出了一种通过惩罚那些增加数据和模型之间不匹配度的统计量的正则化损失函数作为一般性方法来处理模型错误规范问题，从而在 SBI 过程中获取稳健的推断结果。

    May, 2023

  • 贝叶斯神经网络在宇宙学中的鲁棒性基于仿真的推断

    使用贝叶斯神经网络框架进行 SBI 的训练，涉及宇宙微波背景的推断，并引入 cosmoSWAG 以缓解数据迁移问题。

    Jul, 2022

  • 利用可微的覆盖概率校准神经仿真推断

    引入校准项到神经模型的训练目标中，通过放松经典校准误差公式，我们提出了一种方法来解决现有算法对后验不确定性估计准确性的挑战，该方法适用于现有计算流程，实现可靠的黑盒后验推断，并在六个基准问题上经验证明具有竞争性或更好的结果。

    Oct, 2023

  • 高效、准确、轻量级的基于高斯局部线性映射的连续仿真推理

    使用结构化概率分布的混合模型，提供了逼真的后验推断，相较于基于神经网络的仿真推断方法，在计算上具有更小的足迹，对于具有复杂模型和难以计算的似然函数的贝叶斯推断提供了一个可行的选择。

    Mar, 2024

  • 伪似然推断

    通过将神经近似引入 ABC 中，我们提出了伪似然推理 (Pseudo-Likelihood Inference, PLI) 方法，使其在具有挑战性的贝叶斯系统识别任务中具有竞争力，并且相比于 SNPE，在更多数据可用时表现出更好的性能。

    Nov, 2023