Apr, 2023

可处理电路模型的组合概率和因果推断

PDF
TL;DR介绍了一种新的结构形式 md-vtrees 来描述可分解概率电路中的决策概率，并展示了如何将其用于派生多项式时间算法，特别是在因果推理查询中。同时，提出了基于该结构的 MDNets 概率电路架构，并在因果推理中进行了实验验证。
probabilistic circuitsmd-vtreesstructural formulationinference algorithmscausal inference
发现论文，激发创造
  • 知道自己不知道的概率电路

    本文研究了概率电路（PCs）的鲁棒性，并发现它们对于 OOD 数据并不鲁棒。为了解决这个问题，我们提出了一种可解释的辍学推理（TDI）方法，并通过一系列实验证明了其提高 PCs 对于分布变化和 OOD 数据的鲁棒性的性能。

    Feb, 2023

  • 从深度生成模型到可处理概率电路的精馏过程理解

    通过对深度生成模型知识的蒸馏，提出了新的 P-VAE 方法，该方法可以有效地提高准确性，并允许更广泛的应用，我们的结果表明，在几个基准图像数据集上，该方法比基准模型表现更好，特别是在 ImageNet32 数据集上，它取得了 4.06 位每维的结果，仅比变分扩散模型慢 0.34 位。

    Feb, 2023

  • 可操作电路实现因果推断

    研究发现，利用算术电路可以在非参数因果图上进行推理，从而实现在原先被认为无法处理的模型上进行有参数因果推断。

    Feb, 2022

  • 可计算概率电路的多项式语义

    概率电路、多线性多项式、边缘推断、多项式语义和二元分布是该研究论文的五个关键词，论文证明了对于二元分布来说，这些概率电路模型在一定意义上等价，而且研究了一个称为概率生成电路的多项式语义在分类随机变量上的自然扩展，结果证明边缘推断变得 #P 难。

    Feb, 2024

  • 使用潜在变量蒸馏扩展概率电路

    通过潜变量精炼机制在深度生成模型和 Probabilistic Circuits 之间建立联系，提高了 PCs 在大型和高维现实世界数据集上的性能表现，使其在图像建模中达到了与 VARIATIONAL AUTOENCODERS 和 FLOW-BASED MODELS 相当的竞争力，为可处理的生成建模开辟了新的途径。

    Oct, 2022

  • 从概率电路中推导可理解的理论

    本文提出了一种名为 PUTPUT（通过修剪基本逻辑理论进行概率电路理解）的方法，通过计算可理解的、可读的逻辑理论来改进概率电路的可解释性，并应用于一个真实的使用案例，即自动生成音乐播放列表并将其表示为可读（数据库）查询。评估结果表明，该方法能够有效地生成描述概率电路高密度区域的可理解的逻辑理论，并在性能和可理解性权衡方面优于现有方法。

    Nov, 2023

  • 构建具有表达力且易于处理的概率生成模型：综述

    在可计算的概率生成建模领域中，我们提出了一项综合调查，重点关注概率电路（Probabilistic Circuits）。我们对表现力和可计算性之间的固有权衡提供了统一的观点，并突出了构建具有表现力和高效性的概率电路的设计原则和算法扩展，同时提供了一个领域分类。我们还讨论了最近通过融合深度神经模型的概念来构建深层和混合概率电路的努力，并概述了可能指导未来研究的挑战和开放问题。

    Feb, 2024

  • 特征电路

    在复杂关系数据中，用概率电路的特点电路模型构建高维概率分布，弥补了复杂数据上的不确定性推理中的局限性，进而提出了特征电路作为一种适用于异构数据的可追溯概率模型。

    Dec, 2023

  • 概率神经电路

    概率电路（PC）在最近几年中越来越受关注，作为一个灵活的框架，用于讨论支持可处理查询且足够表达复杂概率分布的概率模型。然而，可处理性是以牺牲表达力为代价的：PC 相较于神经网络来说表达能力较弱。在本文中，我们引入了概率神经电路（PNC），它在可处理性和表达能力方面在 PC 和神经网络之间取得平衡。从理论上讲，我们证明了 PNC 可以被解释为贝叶斯网络的深度混合。实验证明，PNC 是强大的函数逼近器。

    Mar, 2024

  • 通过修剪和生长来实现稀疏概率电路

    使用剪枝和增长方法，可以大幅提高概率电路的学习性能和模型容量使用效率。

    Nov, 2022