本文提出了基于Einsum Networks的概率电路模型实现,通过简化Expectation-Maximization算法的实现以及在数据集上的应用来提高其可扩展性,并且作为一种忠实的生成图像模型。
Apr, 2020
本研究提出了一种新的方法,利用概率电路模型(如Sum Product Networks)的可处理性,在一定类型的密度函数下,计算ELBO梯度的情况下,不需要采样即可精确计算。该方法在三种类型的图形模型上展示了其可行性,并证明了概率电路是离散图形模型的变分推断的有前途的工具,因为它们结合了可处理性和表达性。
Oct, 2020
本文提出了一种混合模型方法,将连续潜在空间的概率模型与可计算的概率电路相结合,用于密度估计,通过实验证明这种方法在许多标准密度估计基准测试中超越了以往的可计算模型。
Sep, 2022
通过潜变量精炼机制在深度生成模型和Probabilistic Circuits之间建立联系,提高了PCs在大型和高维现实世界数据集上的性能表现,使其在图像建模中达到了与VARIATIONAL AUTOENCODERS和FLOW-BASED MODELS相当的竞争力,为可处理的生成建模开辟了新的途径。
Oct, 2022
使用剪枝和增长方法,可以大幅提高概率电路的学习性能和模型容量使用效率。
Nov, 2022
通过对深度生成模型知识的蒸馏,提出了新的P-VAE方法,该方法可以有效地提高准确性,并允许更广泛的应用,我们的结果表明,在几个基准图像数据集上,该方法比基准模型表现更好,特别是在ImageNet32数据集上,它取得了4.06位每维的结果,仅比变分扩散模型慢0.34位。
Feb, 2023
在复杂关系数据中,用概率电路的特点电路模型构建高维概率分布,弥补了复杂数据上的不确定性推理中的局限性,进而提出了特征电路作为一种适用于异构数据的可追溯概率模型。
Dec, 2023
概率电路(PC)在最近几年中越来越受关注,作为一个灵活的框架,用于讨论支持可处理查询且足够表达复杂概率分布的概率模型。然而,可处理性是以牺牲表达力为代价的:PC相较于神经网络来说表达能力较弱。在本文中,我们引入了概率神经电路(PNC),它在可处理性和表达能力方面在PC和神经网络之间取得平衡。从理论上讲,我们证明了PNC可以被解释为贝叶斯网络的深度混合。实验证明,PNC是强大的函数逼近器。
Mar, 2024
通过使用张量化电路架构和神经功能共享技术,本文提出了一种方法来构建任意变量分解的有向无环图状的概率积分电路,并展示了基于数值积分的概率积分电路在训练过程中的优越性。
Jun, 2024
本研究解决了概率机器学习中设计高效推理的生成模型的挑战,提出了一种名为平方和电路的新型概率电路。这种电路在表达能力上能够显著超越传统的单调电路,并开发了一种表达能力层次结构,能够清晰地区分和统一不同的可处理模型类,最终通过实证分析展示了平方和电路在分布估计中的有效性。
Aug, 2024