卷积泊松伽马信念网络
我们提出了一种条件共轭高斯过程因子分析 (ccGPFA) 方法,它能够在建模神经活动的脉冲计数数据时进行解析和计算上可行的推断。通过引入新颖的数据增强方法,使模型在条件上具有共轭性,从而在变分 EM 算法中获得简单的闭式更新。通过稀疏高斯过程和自然梯度加速推断,我们的模型能够轻松扩展,并通过实验证明了其有效性。
May, 2024
我们提出了一种基于概率数值方法的卷积神经网络,使用高斯过程表示特征,并采用偏微分方程定义卷积层,实现了旋转等变卷积,实验结果显示我们的方法可将误差降低 3 倍,并在医学时间序列数据集 PhysioNet2012 上展现了出色的性能。
Oct, 2020
本文提出了一种新的深度生成模型来捕获嵌入空间中主题之间的依赖关系和语义相似性,这种模型名为 sawtooth factorial topic embedding guided GBN,并通过在大型语料库上的实验证明了该模型的优越性。
Jun, 2021
提出了一种新的贝叶斯非参数方法,以在非欧几里德域上学习平移不变的关系。 该方法可应用于机器学习问题,其中输入观测值是具有普通图形域的函数。 并将图卷积高斯过程应用于图像和三角形网格等领域,表明了其多功能性和有效性,与现有方法相比具有优势,尽管是相对简单的模型。
May, 2019
通过构造负二项分析(NBFA)来解决泊松分布捕捉协变量出现在样本中自我重复及与其他协变量之间激发关系的局限性,并利用分层伽马负二项过程支持数不尽的因素。设计了两种基于多项式分布的混合成员模型,实现快速收敛和低计算复杂度的阻塞吉布斯采样器,提供比以前的方法更具优势的紧凑表示,预测能力和计算复杂性。
Apr, 2016
本文研究神经网络与高斯过程之间的等价性,并在卷积神经网络上实现了类似的等价性,提出了估计给定神经网络结构下对应高斯过程的蒙特卡罗方法,证实了在无池化层情况下,具有和不具有权重共享的卷积神经网络对应的高斯过程是相同的,表明了经过精心调整的随机梯度下降训练的卷积神经网络性能可以明显优于相应的高斯过程。
Oct, 2018
本文提出了 Gamma-Poisson 模型及其最大边际似然估计和 Monte Carlo Expectation-Maximization 算法等内容,并阐明这种方法的鲁棒性和自动减枝等优点。
Jan, 2018
我们提出了一种在高斯因子图中进行学习的方法,将所有相关的量(输入、输出、参数、潜变量)都视为随机变量,并将训练和预测视为具有不同观察节点的推理问题。我们的实验结果表明,这些问题可以通过信念传播(BP)进行高效求解,其更新在本质上是局部的,为分布式和异步训练提供了令人兴奋的机会。我们的方法可以扩展到深度网络,并提供了一种自然的方法进行连续学习:使用当前任务的 BP 估计参数边缘作为下一个任务的参数先验。在视频去噪任务中,我们展示了可学习参数相对于经典因子图方法的优势,并展示了深度因子图在 MNIST 连续图像分类上令人鼓舞的性能。
Nov, 2023