May, 2023

学习如何解决贝叶斯反问题：一种分摊变分推断方法

PDF
TL;DR本文提出了一种基于深度神经网络参数化的先验分布方法，通过学习贝叶斯逆映射实现了实时推理。经过基准问题的验证，该方法的后验估计与马尔可夫链蒙特卡罗方法的对应结果一致，并在前向传递神经网络的代价下提供了观测的后验参数。
发现论文，激发创造
  • 计算成像反问题的变分推断

    本文介绍了一种新的框架，基于少量实验数据、领域专业知识和现有图像数据集来训练变分推断，使贝叶斯机器学习模型可以在最小数据收集效果下解决成像反问题。经过广泛的模拟实验证明了该方法的优点，并在两个实验光学设置中应用：全息图像重建和通过高度散射介质成像。在两种设置中，都用很少的训练数据，达到了最先进的重建效果。

    Apr, 2019

  • 共享弱化变分推理的元学习

    提出了一种新的摊销变分推断方案来处理实证贝叶斯元学习模型，使用变分自编码器方法在有限的训练数据上学习模型参数的先验分布，我们的框架建议在模型参数的条件先验和变分后验分布之间共享相同的摊销推断网络，相比于 Monte-Carlo 近似的早期工作，我们的变分方法避免了条件先验的崩溃并保留了模型参数的不确定性，并在 miniImageNet、CIFAR-FS 和 FC100 数据集上进行了评估，证明了它比以前的方法具有更好的性能。

    Aug, 2020

  • ASPIRE：基于迭代的摊销后验推理方法用于贝叶斯反问题

    AMORTIZED 模式的后验推理的 ASPIRE 方法，基于物理和迭代重构的总结统计量，是一种计算高效且高保真度的方法。

    May, 2024

  • 自动编码变分贝叶斯

    本文介绍了一种基于随机变分推理 (Variational Inference) 的学习算法，可以为存在潜变量的、具有难以处理的后验分布的连续概率模型提供有效的推理和学习方法，特别是在大型数据集下具有较好的表现，且已经在实验上得到了验证。

    Dec, 2013

  • 深度贝叶斯模型的改进变分推理

    深度学习和贝叶斯深度学习使用变分推断和边缘似然来进行后验推理和模型选择。

    Jan, 2024

  • 利用基于梯度的摘要统计信息改善摊余后验近似

    通过交替生成和训练条件生成模型，本研究设计出一种迭代框架来提高基于贝叶斯逆问题的后验分布的分析逼近，从而实现迭代改善逼近效果的自动化过程，并检验了在人脑超声成像中的应用情况。

    May, 2023

  • 迭代摊销推断

    我们提出了迭代推理模型，它通过反复编码梯度来学习执行推理优化，从而实现对标准推理模型在多个基准数据集的图像和文本上的超越。

    Jul, 2018

  • 贝叶斯神经网络中的摊还推断

    在本文中，我们提出了一种更数据高效的概率元学习方法，通过对贝叶斯神经网络的推理进行逐数据点摊销，引入了摊销伪观测变分推理贝叶斯神经网络（APOVI-BNN）。我们展示了在我们的摊销方案下获得的近似后验与传统变分推理获得的近似后验在质量上是相似或更好的，尽管摊销推理是在单个前向传递中执行的。然后，我们讨论了如何将 APOVI-BNN 看作神经过程家族的新成员，以此作为激励使用神经过程训练目标，以实现在复杂问题上更好的预测性能。最后，我们评估了 APOVI-BNN 在一维回归问题和更复杂的图像完成设置中与其他概率元模型的预测性能，在训练数据有限的情况下，我们的模型在同类模型中表现最好。

    Sep, 2023

  • PAVI: 平板折旧变分推断

    本文提出使用结构化 VI 族来有效处理大量人口研究数据中的潜变量参数空间，并阐述 Plate Amortization 的思想可以加快训练，提高表达力，精简参数，在神经影像学实例中进行了应用，取得了可扩展性和可表达性 VI 的重要进展。

    Jun, 2022

  • 摊销贝叶斯推断的对抗鲁棒性

    研究了 Bayesian 推断中一种新的方法 —— 摊销贝叶斯推断的鲁棒性，提出了一种基于 Fisher 信息的正则化方案，实验结果表明该方案可以提高模型对干扰攻击的抵抗力。

    May, 2023