Dec, 2013

贝叶斯回归树模型的高效 Metroplis-Hastings 提议机制

PDF
TL;DR本文提出了一种针对贝叶斯回归树的采样算法，其中包括规则扰动和树旋转等提议机制，这些机制在与传统的出生 / 死亡提议相结合时，可以提高 MCMC 采样器的接受率，并在后验样本中合理表示模型不确定性。
bayesian regression treesmarkov chain monte carlomcmc samplerproposal mechanismstree rotation
发现论文，激发创造
  • 贝叶斯加法回归树中大数据的计算困境：一个命中时间分析

    Bayesian 加法回归树模型（BART）是一种常用的贝叶斯非参数回归模型，广泛应用于因果推断等领域。然而，本文表明 BART 采样器的收敛速度往往较慢，尤其在具有离散协变量的情况下。随着训练样本的增加，近似 BART 后验与精确后验逐渐不同，这对先前关于精确后验的收敛性结果形成了鲜明对比。通过模拟实验证实了近似后验置信区间的频率覆盖不足以及通过多个采样链平均改善收敛性所得到的近似后验均方误差与精确后验之间的比率的增加。基于我们的理论洞见，我们还讨论了改进 BART 采样器收敛性能的可能性。

    Jun, 2024

  • 探索贝叶斯决策树后验的 RJHMC 树

    使用贝叶斯方法从数据中学习决策树是一项具有挑战性的任务，本文研究了使用 Hamiltonian Monte Carlo 方法来更高效地探索贝叶斯决策树的后验概率，并通过与标准数据集的比较展示了其在预测测试准确率、接受率和树复杂度方面的优势。

    Dec, 2023

  • 贝叶斯加性回归树 (Bayesian Additive Regression Trees)

    本文介绍了基于贝叶斯回归的非参数贝叶斯回归方法，该方法使用适应维度随机基元素。文中还介绍了此方法的许多特点，包括向后选择变量，以及使用 42 个不同的数据集进行的性能检验和模拟实验，这也应用于药物发现分类问题中。

    Jun, 2008

  • BART 简化版本混合时间下界

    本文提出了 BART 的简化版本，并证明了 BART 的混合时间与数据点数量之间的联系。我们还表明 BART 使用的样本量需要随数据点数量增加而增加。

    Oct, 2022

  • 基于树形导引的标准化随机度量混合模型 MCMC 推断

    本文提出了一种混合推理算法，结合了 MCMC 和基于树的推理方法（IBHC）的优点，用于归一化随机测量（NRM）混合模型，该算法通过树引导 MCMC 进行有效提议，从而保证了收敛性和快速收敛。

    Nov, 2015

  • 受进化算法启发的贝叶斯决策树

    本文提出了一种使用序列蒙特卡洛和进化算法采样的贝叶斯决策树数值方法，比传统的马尔可夫链蒙特卡洛方法有更快的迭代速度，并且能够更准确地对复杂和不确定的数据进行建模。

    May, 2023

  • 蒙特卡罗树搜索中的贝叶斯推断

    本文介绍了一种基于贝叶斯框架与高斯近似算法的 Monte-Carlo Tree Search 方法，旨在更准确地估算节点价值和不确定性，并证明了该方法的在策略和非策略情境下的收敛性和实现的优越性。

    Mar, 2012

  • 利用可计算先验和概率上下文无关文法的贝叶斯决策树

    本文提出了利用一种新标准进行训练贝叶斯决策树的方法，得到的树的分类准确度可与贪婪构造的决策树相媲美或更好，同时树的大小显著减小，并可以在数据集大小的多项式时间内进行后验学习和采样。

    Feb, 2023

  • 基于自上而下的粒子滤波的贝叶斯决策树

    该论文介绍了一种基于顺序蒙特卡罗算法来近似贝叶斯决策树的后验分布的方法，与现有的基于局部 MCMC 的方法相比，该算法具有更好的计算效率和精度。

    Mar, 2013

  • 适应平滑性和稀疏性的贝叶斯回归树集成

    使用稀疏感应的 soft decision trees 取代传统的决策树集成方法，可以克服它们的光滑性差和受维度灾难的困扰。在 Bayesian additive regression trees 框架下实现该方法，理论上得到强大的支持，并在基准数据集上表现出良好的性能。

    Jul, 2017