Nov, 2023

自适应随机邻域信息的结构学习

PDF
TL;DR本研究介绍了一种新颖的 MCMC 采样器 PARNI-DAG，用于在观测数据下进行结构学习的完全贝叶斯方法。算法假设因果充分性，允许从有向无环图（DAGs）的后验分布中直接进行近似采样。PARNI-DAG 通过局部启发式、自适应的随机邻域提议有效地采样 DAGs，从而改善混合特性。此外，为了更好地适应节点数量的伸缩性，我们将 PARNI-DAG 与通过某些基于约束或基于评分的算法导出的骨架图预调参数的过程相结合。由于这些新颖的特性，PARNI-DAG 在高维设置中在存在高相关性的节点之间不容易陷入局部模态，能快速收敛到高概率区域。在介绍 PARNI-DAG 的技术创新后，我们通过各种实验证明其混合效率和结构学习准确性。
mcmc samplerparni-dagstructure learningdirected acyclic graphsmixing efficiency
发现论文，激发创造
  • 贝叶斯网络的高效抽样和结构学习

    提出了一种新颖的混合方法，将基于约束和 MCMC 算法的两个领域结合起来，以高效地学习贝叶斯网络的有向无环图结构，并能对后验分布进行采样，从而实现全贝叶斯模型平均。

    Mar, 2018

  • 因果 DAG 模型中基于最小 I-MAP 的可扩展结构发现 MCMC 算法

    本文提出一种基于条件独立性检验的后验逼近方法，用于学习贝叶斯网络。相比于先前的基于顺序 MCMC 的方法，该方法能够实现更佳的精度、可伸缩性和混合采样效果，同时允许使用更多自然的结构先验并消除了对最大入度的时间依赖性。

    Mar, 2018

  • 基于分区 MCMC 的无向无环图推断

    本文提出了一种基于有向无环图 (DAGs) 的新算法，用于采样结构概率图模型，该算法在保持无偏采样的同时比结构 MCMC 方法收敛更快，并可与边反转移动结合使用以进一步改进采样器

    Apr, 2015

  • 高效采样下的中等规模贝叶斯网络结构学习

    本文研究学习贝叶斯网结构的贝叶斯模型平均方法，提出了新算法，包括第一个能够根据精确结构后验有效采样有向无环图的算法。 DAG 样本可以用来构造任何特征的后验估计器，在理论上证明了我们的估计器的良好性质，并在实证上表明估计器明显优于先前最先进方法的估计器。

    Jan, 2015

  • 变分因果网络：对因果结构进行近似贝叶斯推断

    本文提出了对基于结构性因果模型的图形变分推断的形式，通过参数化变分模型来模拟分布，并在参数数量与变量数量的指数无关的情况下进行可处理的训练。

    Jun, 2021

  • BayesDAG：用于因果发现的基于梯度的后验抽样

    基于随机梯度马尔可夫链蒙特卡洛 (SG-MCMC) 的可伸缩贝叶斯因果关系发现框架，无需任何有向无环图 (DAG) 正则化约束，直接从后验中采样有向无环图 (DAG)，同时绘制函数参数样本，适用于线性和非线性因果模型。基于合法的等价关系，我们首次应用基于梯度的 MCMC 采样用于因果关系发现。通过对合成数据集和真实世界数据集的实证评估，展示了我们方法与最先进基准模型的有效性。

    Jul, 2023

  • 在有向无环图上进行多邻域协同学习

    通过开发一种新的基于约束的方法，该方法用于估计多个用户指定目标节点周围的局部结构，从而在邻域之间实现结构学习协调，进而促进无需学习整个有向无环图结构的因果发现。实验结果表明，我们的算法在学习邻域结构时具有更高的准确性，且计算成本较低于传统方法。

    May, 2024

  • 动态规划与 MCMC 的贝叶斯结构学习

    本文研究了如何使用动态规划算法作为 DAG 空间中 MCMC 的提议分布，以在更短的时间内收敛于后验概率，从而实现更准确的结构学习和更高的测试数据预测似然。

    Jun, 2012

  • 混合有向无环图分布中因果结构的发现

    研究通过混合因果模型来获得分布，并探讨了如何从基于此类分布的样本中进行因果结构学习及如何使用这些信息对样本进行聚类。

    Jan, 2020

  • 结构学习的结构先验

    本文提出了一种基于贝叶斯网络结构学习的非参数生成模型，采用分层贝叶斯框架来捕捉变量之间的系统性关系，通过 MCMC 算法推导出变量的类别、贝叶斯网络结构和类别间的先验概率，实验证明该方法在小样本数据集中更准确。

    Jun, 2012