单调和平方概率电路之间的关系
本文提出了基于Einsum Networks的概率电路模型实现,通过简化Expectation-Maximization算法的实现以及在数据集上的应用来提高其可扩展性,并且作为一种忠实的生成图像模型。
Apr, 2020
通过对深度生成模型知识的蒸馏,提出了新的P-VAE方法,该方法可以有效地提高准确性,并允许更广泛的应用,我们的结果表明,在几个基准图像数据集上,该方法比基准模型表现更好,特别是在ImageNet32数据集上,它取得了4.06位每维的结果,仅比变分扩散模型慢0.34位。
Feb, 2023
连续潜变量是许多生成模型的关键部分,我们通过引入概率积分电路(PICs)将概率电路(PCs)扩展为含有连续潜变量的符号计算图,实现了在简单情况下完全可计算的PICs,并且通过数值积分可用大型PCs对PICs进行良好逼近,从而在几个分布估计基准测试中系统地优于常用的通过期望最大化或SGD学习的PCs。
Oct, 2023
概率电路、多线性多项式、边缘推断、多项式语义和二元分布是该研究论文的五个关键词,论文证明了对于二元分布来说,这些概率电路模型在一定意义上等价,而且研究了一个称为概率生成电路的多项式语义在分类随机变量上的自然扩展,结果证明边缘推断变得#P难。
Feb, 2024
Zhang et al. introduced probabilistic generating circuits (PGCs) as a probabilistic model that unifies probabilistic circuits (PCs) and determinantal point processes (DPPs); the main insight of the paper is that negative weights are responsible for the power of PGCs, and PGCs are essentially PCs with negative weights; PGCs are defined only for binary random variables, while categorial variables with larger image size can be modeled as PCs with negative weights, allowing for tractable marginalization, making PCs with negative weights a stricter subset of PGCs.
Mar, 2024
通过使用张量化电路架构和神经功能共享技术,本文提出了一种方法来构建任意变量分解的有向无环图状的概率积分电路,并展示了基于数值积分的概率积分电路在训练过程中的优越性。
Jun, 2024
本研究解决了概率电路计算累积分布函数(CDF)的不足,提出了一种将概率质量函数(PMF)和CDF之间进行多项式时间转换的有效方法。研究结果表明,对于离散变量和连续变量,平滑可分解概率电路能够高效转换,具有重要的应用潜力。
Aug, 2024
本研究解决了概率机器学习中设计高效推理的生成模型的挑战,提出了一种名为平方和电路的新型概率电路。这种电路在表达能力上能够显著超越传统的单调电路,并开发了一种表达能力层次结构,能够清晰地区分和统一不同的可处理模型类,最终通过实证分析展示了平方和电路在分布估计中的有效性。
Aug, 2024
本研究解决了电路表示与张量分解之间的关系这一具体问题,消除了这两个看似无关领域之间的认知隔阂。论文提出了一个模块化的“乐高积木”方法,以系统构建和探索多种电路和张量分解模型,显著提升了新模型的构建和优化能力,并在实证评估中展示了其有效性。
Sep, 2024