提出了一种新颖且轻量化的神经网络模型——自然参数网络(NPN)，它允许使用任意指数族分布来建模神经元和权重，并且通过层之间的变换来生成与目标输出分布匹配的后验分布，实验结果表明，NPN可以在现实世界的数据集上实现最先进的性能。
Nov, 2016
使用图神经网络作为一种有利于推断任务的推送算法，对于在循环密集的概率有向图上显著优于置信传播算法
Mar, 2018
本文提出了深度神经网络的统计力学模型，将基于能量的方法和前馈神经网络方法相连接。模型的平均场解给出了一组自然活化函数，包括Sigmoid、tanh、ReLu和Swish，研究表明Swish可以优化网络的性能
May, 2018
该论文将神经网络的密度证明扩展到在概率密度函数紧致集合中的连续函数，进而给出了树形结构域的通用逼近定理，在结构化数据处理中具有重要的实际应用，这是AutoML范例的一个很好的例子。
Jun, 2019
通过研究神经网络在预训练生成模型产生的数据集上的训练和表现，探讨数据结构对学习的计算效率的影响，证明了高斯等价性可以使用一个适当选择的高斯模型来完全捕获感兴趣的关键性能指标。
Jun, 2020
本文章提出了PGM-Explainer，一种基于概率图模型（PGM）的GNN解释器，其能够识别关键的图形成分并生成一个PGM来近似解释预测，并且将解释以条件概率的形式呈现。理论分析表明，PGM-Explainer生成的PGM包括目标预测的Markov-blanket，即包括所有其统计信息。实验结果显示，PGM-Explainer在许多基准任务中均达到比现有解释器更好的性能。
Oct, 2020
本研究提出了一种新的方法，利用概率电路模型（如Sum Product Networks）的可处理性，在一定类型的密度函数下，计算ELBO梯度的情况下，不需要采样即可精确计算。该方法在三种类型的图形模型上展示了其可行性，并证明了概率电路是离散图形模型的变分推断的有前途的工具，因为它们结合了可处理性和表达性。
该研究综述了图神经网络和概率图形模型的交叉应用，探讨了GNN如何受益于PGM学习结构表示，如何实现更有效的推理和结构学习，以及分析了近期研究中使用的基准数据集和未来研究方向。
May, 2022
本文综述了神经树 (NTs) 方法，以实现神经网络（NNs）和决策树（DTs）模型的有机融合，探讨了如何提高模型的可解释性，并提出了解决方案。
Sep, 2022
本研究解决了树结构概率电路与有向无环图（DAG）概率电路之间的表达能力差距问题。我们提出了一种新的方法，证明对于$n$个变量，存在一个次指数上限的树可以计算相同的概率分布，同时证明在树的深度限制下，树与DAG结构之间有超多项式的差异。此研究对理解树结构概率电路的表达能力具有重要意义，并且我们的技术可能对概率电路的结构学习算法研究具有独立的价值。
Oct, 2024