Feb, 2023

利用可计算先验和概率上下文无关文法的贝叶斯决策树

PDF
TL;DR本文提出了利用一种新标准进行训练贝叶斯决策树的方法，得到的树的分类准确度可与贪婪构造的决策树相媲美或更好，同时树的大小显著减小，并可以在数据集大小的多项式时间内进行后验学习和采样。
decision treesbayesian approachesmarkov chain monte carlobcart-pcfgclassification accuracy
发现论文，激发创造
  • 基于自上而下的粒子滤波的贝叶斯决策树

    该论文介绍了一种基于顺序蒙特卡罗算法来近似贝叶斯决策树的后验分布的方法，与现有的基于局部 MCMC 的方法相比，该算法具有更好的计算效率和精度。

    Mar, 2013

  • 划分、攻克、融合贝叶斯决策树采样

    该研究使用贝叶斯推断方法来量化决策树预测的不确定性。通过 DCC-Tree 方法，与其他贝叶斯树方法相比，在一致性和降低每个建议的复杂性的同时，表现相媲美其他基于 HMC 的方法。

    Mar, 2024

  • 受进化算法启发的贝叶斯决策树

    本文提出了一种使用序列蒙特卡洛和进化算法采样的贝叶斯决策树数值方法，比传统的马尔可夫链蒙特卡洛方法有更快的迭代速度，并且能够更准确地对复杂和不确定的数据进行建模。

    May, 2023

  • MAPTree: 用贝叶斯决策树超越 “最优” 决策树

    决策树的贝叶斯推断和最大后验树的 AND/OR 搜索算法 MAPTree 在合成数据和真实环境中表现出比基线更好的性能，并能更快地恢复最大后验树，同时提供最优性的证明。

    Sep, 2023

  • 蒙特卡罗树搜索中的贝叶斯推断

    本文介绍了一种基于贝叶斯框架与高斯近似算法的 Monte-Carlo Tree Search 方法，旨在更准确地估算节点价值和不确定性，并证明了该方法的在策略和非策略情境下的收敛性和实现的优越性。

    Mar, 2012

  • 探索贝叶斯决策树后验的 RJHMC 树

    使用贝叶斯方法从数据中学习决策树是一项具有挑战性的任务，本文研究了使用 Hamiltonian Monte Carlo 方法来更高效地探索贝叶斯决策树的后验概率，并通过与标准数据集的比较展示了其在预测测试准确率、接受率和树复杂度方面的优势。

    Dec, 2023

  • 基于决策树作为数据观测过程的贝叶斯决策理论最优预测算法

    本篇论文利用决策树表示数据观测过程并使用基于贝叶斯决策理论的先验概率分布，将实现统计上最优的预测结果。同时，我们解决了计算 Bayes 最优预测的问题，例如内部节点的特征分配问题，实现方法为应用马尔可夫链 - 蒙特卡洛方法，其步长可以根据先验分布自适应调整。

    Jun, 2023

  • 贝叶斯加法回归树中大数据的计算困境：一个命中时间分析

    Bayesian 加法回归树模型（BART）是一种常用的贝叶斯非参数回归模型，广泛应用于因果推断等领域。然而，本文表明 BART 采样器的收敛速度往往较慢，尤其在具有离散协变量的情况下。随着训练样本的增加，近似 BART 后验与精确后验逐渐不同，这对先前关于精确后验的收敛性结果形成了鲜明对比。通过模拟实验证实了近似后验置信区间的频率覆盖不足以及通过多个采样链平均改善收敛性所得到的近似后验均方误差与精确后验之间的比率的增加。基于我们的理论洞见，我们还讨论了改进 BART 采样器收敛性能的可能性。

    Jun, 2024

  • 决策树上的单个 MCMC 链并行化

    本研究提出一种方法，通过多核处理减少时间来实现在笔记本电脑上并行化单个 MCMC 决策树链，同时结果与常规串行实现相同。同时计算了在多处理器体系结构上利用该方法可以获得的理论和实际运行时间的降低，并表明该方法可以实现快 18 倍的运行时间。

    Jul, 2022

  • 可处理的树形信度网络的贝叶斯学习

    本文提出了可分解先验，一种针对树形信念网络的先验族。在完整观测数据下，可以通过贝叶斯学习来确定结构和参数，后验概率也是可分解的，并且可以在多项式时间内完全确定。

    Jan, 2013