本文介绍了将 “vector AMP” 算法推广到广义线性模型 (Genelized Linear Model, GLM) 中的方法,通过实验表明所提出的 GLM-VAMP 算法比阻尼 GAMP 算法更能应对矩阵 A 病态化的情况。
Dec, 2016
我们介绍了一系列迭代方法,用于计算大规模 Bayesian 广义线性模型(GLMs)中的近似误差,并通过并行计算、信息压缩来提高训练速度并减少计算量。
Oct, 2023
提出了一种通用广义记忆近似消息传递(GMAMP)框架,包括现有的正交 AMP/VAMP、GVAMP 和 MAMP 作为特殊实例,并构建了一种基于低复杂度记忆线性估计器的贝叶斯最优 GMAMP(BO-GMAMP)算法,可用于 GLM 信号重构,实现了与 GAMP 类似的复杂度,并在唯一不动点情况下达到了复制最小(即贝叶斯最优)MSE。
Oct, 2021
本文应用统计物理的标准方法,提出了多层近似信息传递算法来重构一个信号从多层(可能是非线性的)测量中,并推导出相关的状态演化方程来分析其性能。文中还介绍了一些这种测量模型在压缩感知、结构化矩阵 / 模式下的感知器学习以及自编码器中潜变量估计的应用。
Jan, 2017
提出了一种名为广义近似消息传递(GAMP)的算法,它可以对非线性压缩感知和学习问题进行计算上高效的近似实现,同时可以应用于线性变换后的任意分布输入和输出。分析表明,在大型、i.i.d. 高斯转换下,该方法的渐近分量行为由一组简单的状态演化(SE)方程式描述,并可预测几乎任何分量性能指标的渐近值,包括均方误差或检测准确性;该分析对任意输入和输出分布均有效,即使对应的优化问题是非凸的。因此,GAMP 方法提供了一种计算有效的方法,适用于具有精确渐近性能保证的大类非高斯估计问题。
Oct, 2010
该研究探讨了广义贝叶斯推断在错配模型下的应用,包括广义线性模型,通过 MCMC 抽样来实现广义贝叶斯 Lasso 和 Logistic 回归,并在模拟和真实数据中展示了广义贝叶斯在表现上超过标准贝叶斯的优点。
Oct, 2019
提出一个计算新框架以估算广义广义线性模型 (GGLM) 中的参数,该模型扩展了流行的广义线性模型 (GLM) 以解释时空数据中的观测依赖性。该方法使用单调算子为基础的变分不等式方法来克服参数估计中的非凸性并提供参数恢复的保证,适用于 GLM 和 GGLM,重点关注时空模型,并使用数值模拟和真实数据实例演示算法的性能。
Apr, 2023
本文介绍了一种基于贝叶斯思想的算法框架,通过查询稀疏线性模型后验协方差来解决高阶贝叶斯决策问题,并且利用该算法框架成功地推动了磁共振成像的采样轨迹优化,为实际图像的压缩感知提供了新的启示。
Oct, 2008
本文提出了两个基于上限置信度算法的广义线性模型及其应用的方法,以解决在非静态环境下的上下文在线学习和塞德利反馈问题,这些结果表明这些算法在一般的情境序列下,并且存在突然变化时具有高概率的上限置信度边界,证明结果的形式为时间 T 内的 d^2/3 G^1/3 T^2/3 阶动态后悔。
Mar, 2020
该论文提出了一项新的基于构造多项式近似充分统计量的广义线性模型 (PASS-GLM) 方法,这种方法在估计中提供了理论保证,并在逻辑回归上进行了验证,表现与随机梯度下降,MCMC 和拉普拉斯近似相当,可以用于处理庞大的数据集。
Sep, 2017