本文提出了一种新的基于贝叶斯近似推断的方法,用于学习高斯图模型的依赖结构,通过伪似然方法,无需引入有关可分解性的任何假设即可得到近似边缘似然值,结合简单的稀疏性先验和默认的参考 prior,得到了一个快速适用于高维数据的评估函数,本方法与其他方法的比较表明其性能良好并且能够一致地估计图结构。
Feb, 2016
作为深度学习中模型选择的有前途的边际似然方法由于参数估计上的困难很少被使用。本研究提出了可伸缩的边缘似然估计方法,用于基于训练数据独立地选择超参数和网络结构。该方法建立在拉普拉斯方法和高斯牛顿逼近的黑塞矩阵的基础上,并在标准回归和图像分类数据集上表现优异。此外,该方法还能够在缺少验证数据(例如在非平稳设置中)时提高一般化性能。
Apr, 2021
这篇研究论文探讨了边缘似然估计在学习约束和假设检验方面的吸引力特性,以及在深度神经网络中超参数学习、神经结构搜索等方面的一些挑战,提出了条件边缘似然作为一种较为实用的修正方法,以更好地反应泛化能力。
Feb, 2022
为了在监督学习任务中很好地推广训练数据,我们应该将不变性纳入模型结构中,并使用边际似然进行学习,我们通过高斯过程模型演示了这一点,并提出了一种包含不变性的高斯过程的变分推断方案。
Aug, 2018
本研究通过设计自定义的优化程序,提出一种新的较低的边缘似然下限,部分成功地在标准基准测试、低数据范围和医学图像数据集上进行了推理,但在 CIFAR10 数据集上表现出失败模式,该研究表明,当更复杂的逼近方法可用时,边缘似然是神经网络中不变性学习的有前途的方法之一。
Jun, 2021
该研究探讨了两种不需要概率似然函数的方法来处理具有随机模拟器模型的参数推断问题,分别是通过分类器学习隐含的密度比例和构建条件分布进行参数后验的灵活神经密度估计。研究表明这两种方法可以共同运行于一种对比学习策略下,并详细解释了它们如何运行和相互比较。
Feb, 2020
提供了一种用于学习离散因子模型的交互筛选框架,它可以减少使用最小数量的数据,而且我们的界限对于使用该算法的大多数模型都是可验证的。
Feb, 2019
基于逻辑回归的比例估计方法作为参数统计推断的替代方法,以更丰富的总结统计信息来消除假设先验和卡方问题。
Nov, 2016
我们开发了一种简单的方法,用于估计隐式模型中的参数,无需了解似然函数或任何导出量的形式,但在某些条件下可以证明等价于最大化似然函数。此结果适用于参数有限且数据示例数量有限的非渐近参数设置,并展示了令人鼓舞的实验结果。
Sep, 2018
为解决间接监督问题中最大边缘似然性面临的两个计算障碍,本文提出了一种基于线性系统求解特定模型的充分统计量的方法,从而通过凸优化来估算参数。同时,本文阐述了该方法的统计特性,并通过在本地隐私约束条件和低成本计数注释双方面的实验表明了该方法的有效性。
Aug, 2016