Sep, 2015

贝叶斯模型平均：系统性评述与概念分类

PDF
TL;DR该研究通过对 587 篇 Bayesian Model Averaging 相关论文的内容分析，提供了一种概念分类方案，以更好地描述这个庞大的文献，并为研究者提供指导，深入研究该方法论的应用和发展。
发现论文，激发创造
  • 使用堆叠方法对贝叶斯预测分布进行平均

    我们提出了一种基于预测分布的 Stacking 方法，利用 Pareto-smooth 重要性采样计算所需的单次观察后验分布和正则化以获得更好的稳定性，比较结果表明我们的方法在计算成本可接受的情况下优于其它方法。

    Apr, 2017

  • 概率编程中超越路径上贝叶斯模型平均

    通过路径加权，基于后验概率的概率编程中的预测能够得到更加鲁棒且优越的结果。

    Oct, 2023

  • 在最优因子范围内找到所有贝叶斯网络结构

    提出了一种基于近似算法的模型平均方法，该方法仅考虑可靠的模型且能在数据量较大的情况下高效地进行比较。

    Nov, 2018

  • 模型平均中的元学习 PAC-Bayes 先验

    提出两种数据算法来获取适当的模型平均先验。

    Dec, 2019

  • 基于 k 个最佳贝叶斯网络结构的贝叶斯模型平均

    本论文研究从数据中学习贝叶斯网络结构的问题，提出了一种算法用于发现最佳的贝叶斯网络结构，通过贝叶斯模型平均计算感兴趣的假设的后验概率，在多个数据集上展示本算法优于模型选择方法和最先进的 MCMC 方法。

    Mar, 2012

  • 比较贝叶斯预测方法用于模型选择

    该论文对比了几种在实际模型选择问题中广泛使用的贝叶斯模型选择方法，重点关注回归和分类的变量子集选择，并使用模拟和现实世界的数据进行了几次数值实验。结果表明，考虑到模型不确定性是预测效果最好的。此外，投影法明显优于交叉验证得分的基于选择的方法，并且交叉验证在指导模型大小选择和评估最终选择的模型的预测性能方面大有裨益。

    Mar, 2015

  • 引入一种改良的信息论预测不确定性度量

    应用机器学习模型进行决策需要区分模型所知与不知的内容。本文提供新的洞见，揭示当前预测不确定性度量的局限性，并引入了一种理论上可靠的度量方法来克服这些局限。实验证明，我们引入的度量方法在控制的合成任务中表现得更加合理，并且在利用预测不确定性的实际应用中具有优势。

    Nov, 2023

  • 贝叶斯迁移学习中扁平后验至关重要

    我们提出了一种基于概率神经网络和贝叶斯传递学习的锐度感知贝叶斯模型平均方法，通过寻找平的极小值来提高模型的泛化性能。

    Jun, 2024

  • 协变量偏移下贝叶斯模型平均的危险性

    通过使用全批处理的哈密尔顿蒙特卡罗来近似推断的贝叶斯神经网络，在协变量转移下实现了良好的性能，但我们发现，贝叶斯模型平均在这种情况下可能会出现问题，特别是在输入特征中存在线性相关性导致后验收缩不足的情况下，我们提出了新的先验概率分布，以提高 BNN 对多种协变量转移的稳健性。

    Jun, 2021

  • 贝叶斯证据和模型选择

    本文介绍了贝叶斯证据和贝叶斯因子的概念及其在模型选择中的应用，包括解析、近似和数值技术，以及拉普拉斯近似、变分贝叶斯、重要性采样、热力学积分以及嵌套采样及其方法。该文基于统计物理学的相似性，阐述了这些技术，并通过四个具体实例展示了贝叶斯模型测试在信号处理、传感器表征、科学模型选择和分子力表征等领域的实用性。

    Nov, 2014