Dec, 2023

探索贝叶斯决策树后验的 RJHMC 树

PDF
TL;DR使用贝叶斯方法从数据中学习决策树是一项具有挑战性的任务，本文研究了使用 Hamiltonian Monte Carlo 方法来更高效地探索贝叶斯决策树的后验概率，并通过与标准数据集的比较展示了其在预测测试准确率、接受率和树复杂度方面的优势。
发现论文，激发创造
  • 划分、攻克、融合贝叶斯决策树采样

    该研究使用贝叶斯推断方法来量化决策树预测的不确定性。通过 DCC-Tree 方法，与其他贝叶斯树方法相比，在一致性和降低每个建议的复杂性的同时，表现相媲美其他基于 HMC 的方法。

    Mar, 2024

  • 基于自上而下的粒子滤波的贝叶斯决策树

    该论文介绍了一种基于顺序蒙特卡罗算法来近似贝叶斯决策树的后验分布的方法，与现有的基于局部 MCMC 的方法相比，该算法具有更好的计算效率和精度。

    Mar, 2013

  • 决策树上的单个 MCMC 链并行化

    本研究提出一种方法，通过多核处理减少时间来实现在笔记本电脑上并行化单个 MCMC 决策树链，同时结果与常规串行实现相同。同时计算了在多处理器体系结构上利用该方法可以获得的理论和实际运行时间的降低，并表明该方法可以实现快 18 倍的运行时间。

    Jul, 2022

  • 加速贝叶斯决策树的并行方法

    本文提出两种应用并行处理的方法以替代传统的 Markov Chain Monte Carlo (MCMC)，即采用 Sequential Monte Carlo (SMC) 取样器或数据分区，并通过实验测试发现在多核处理器中使用 SMC 比传统串行实现的 MCMC 运行时间快至少 343 倍。

    Jan, 2023

  • 基于 Hamiltonian 蒙特卡罗法的分层模型

    本文介绍了哈密顿蒙特卡洛方法在层次模型中的应用，以克服常规推论方法的病态现象，进而有效地对应用统计学中的复杂交互进行建模。

    Dec, 2013

  • 含哈密顿蒙特卡罗的变分推断

    本研究提出了一种使用 Hamiltonian Monte Carlo 算法中的 MCMC 步骤来改善后验分布逼近的方法，并通过实验结果证明了这种方法的理论优势和性能改进。

    Sep, 2016

  • 受进化算法启发的贝叶斯决策树

    本文提出了一种使用序列蒙特卡洛和进化算法采样的贝叶斯决策树数值方法，比传统的马尔可夫链蒙特卡洛方法有更快的迭代速度，并且能够更准确地对复杂和不确定的数据进行建模。

    May, 2023

  • 贝叶斯回归树模型的高效 Metroplis-Hastings 提议机制

    本文提出了一种针对贝叶斯回归树的采样算法，其中包括规则扰动和树旋转等提议机制，这些机制在与传统的出生 / 死亡提议相结合时，可以提高 MCMC 采样器的接受率，并在后验样本中合理表示模型不确定性。

    Dec, 2013

  • 利用可计算先验和概率上下文无关文法的贝叶斯决策树

    本文提出了利用一种新标准进行训练贝叶斯决策树的方法，得到的树的分类准确度可与贪婪构造的决策树相媲美或更好，同时树的大小显著减小，并可以在数据集大小的多项式时间内进行后验学习和采样。

    Feb, 2023

  • 基于树形导引的标准化随机度量混合模型 MCMC 推断

    本文提出了一种混合推理算法，结合了 MCMC 和基于树的推理方法（IBHC）的优点，用于归一化随机测量（NRM）混合模型，该算法通过树引导 MCMC 进行有效提议，从而保证了收敛性和快速收敛。

    Nov, 2015