最大似然估计的潜变量结构方程模型:一种神经网络方法
研究了隐变量图模型中的结构估计问题,提出了一种计算高效且保证正确性的方法,并应用于局部树状结构的模型及相关衰减的模型,特别地,对于伊辛模型,该方法能与采样要求的下界接近。
Mar, 2012
本文提出了变分贝叶斯 (Variational Bayes) 框架,通过解决概率图模型中潜在变量及其结构计算的问题,避免了因参数而导致过拟合和子最优泛化表现的通常方法,同时证明了该算法能成功应用于无监督聚类、盲源分离等模型。
Jan, 2013
本文介绍了一种使用名为结构 EM 的算法进行贝叶斯模型学习的方法,该算法可以有效地从不完整数据中学习信念网络的结构,并可用于学习各种概率模型,包括贝叶斯网络和其变体。
Jan, 2013
本文介绍了一种基于非高斯性的新的、无需迭代算法参数即可估计因果排序和连接强度的方法,该方法能够在少量的步骤内保证求解正确,能够处理连续变量之间的因果关系。
Jan, 2011
本文提出了一种用概率展开和迭代线性求解器相结合的方法,以绕过矩阵求逆的问题来学习潜在高斯模型,在实验中发现,这种方法可以比传统梯度期望极大化算法快一个数量级地学习潜在高斯模型。
Jun, 2023
从计算认知模型中提取变化的潜在变量是模型基础神经分析的关键步骤,我们提出了一种方法,通过递归神经网络和模拟数据集,将神经贝叶斯估计扩展到学习实验数据和目标潜在变量空间之间的直接映射,从而在可处理和难度较大的模型中推断潜在变量序列,该方法适用于不同的计算模型和连续离散潜在空间,并在实际数据集中证明了其适用性。
Jun, 2024
使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数,以得到稀疏的无向图模型,并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。
Jul, 2007
本文提出了一个有潜在变量的结构化预测的统一框架,包括隐藏的条件随机场和潜在的结构支持向量机。通过对偶性描述了这种普遍公式的局部熵逼近,在图像分割和从单个图像中理解三维室内场景的任务中表现出不错的效果,比潜在结构支持向量机和隐藏条件随机场方法要好。
Jun, 2012
作为深度学习中模型选择的有前途的边际似然方法由于参数估计上的困难很少被使用。本研究提出了可伸缩的边缘似然估计方法,用于基于训练数据独立地选择超参数和网络结构。该方法建立在拉普拉斯方法和高斯牛顿逼近的黑塞矩阵的基础上,并在标准回归和图像分类数据集上表现优异。此外,该方法还能够在缺少验证数据(例如在非平稳设置中)时提高一般化性能。
Apr, 2021