广义线性模型的谱初始化近似消息传递
基于旋转不变设计矩阵的广义线性模型中,信号估计是一个问题。我们提出了一族新颖的近似传递消息 (AMP) 算法来估计信号,并通过状态演化递归在高维极限下严格表征了它们的性能。我们的旋转不变 AMP 与现有的基于高斯设计的 AMP 具有相同的复杂度;同时,我们的算法还将现有的 AMP 作为特例恢复。数值结果展示了与 Vector AMP(在某些情况下被猜想为贝叶斯最优)相近的性能,但是我们的算法复杂度更低,因为它不需要计算昂贵的奇异值分解。
Dec, 2021
本研究研究了一类适用于具有正交不变噪声的对称和矩形钉子随机矩阵模型的近似消息传递(AMP)算法,并使用贝叶斯方法介绍了一个 Bayes-OAMP 算法。
Oct, 2021
本文介绍了使用 Approximate Message Passing(AMP)算法结合谱初始化来实现 Bayes-optimal 精度的方法,特别关注了如何应用于低秩矩阵估计问题中,同时讨论了其应用于稀疏低秩矩阵和高斯块模型中的实验结果。
Nov, 2017
通过简化的特征值估计方法和相关的高斯设计,文章研究了参数估计问题,通过对数据进行合理预处理来最小化所需样本数量,并且开发了一个基于近似传递消息算法的策略来解决相关高斯设计中旋转不变性假设不成立的难题。
Aug, 2023
本文介绍了一种新型的迭代估计算法 S-AMP,其固定点是在一组(一阶和二阶)矩匹配约束下准确吉布斯自由能的静止点,在大系统极限下。该算法基于测量矩阵的频谱的 S 变换,并将近似信息传递(AMP)算法推广到一般矩阵集合上。此外,我们还表明,S-AMP 的最优性是直接由其设计而不是通过解决单独的优化问题(如 AMP 算法)而实现的。
May, 2014
提出一种新的稳定 AMP 算法的方法,这种算法通过逐个系数而不是并行地应用 AMP 更新来解决 AMP 在某些情况下不匹配其假设的收敛问题,并且不会增加过多的计算成本。
Jun, 2014
本文应用统计物理的标准方法,提出了多层近似信息传递算法来重构一个信号从多层(可能是非线性的)测量中,并推导出相关的状态演化方程来分析其性能。文中还介绍了一些这种测量模型在压缩感知、结构化矩阵 / 模式下的感知器学习以及自编码器中潜变量估计的应用。
Jan, 2017
提出了一种名为广义近似消息传递(GAMP)的算法,它可以对非线性压缩感知和学习问题进行计算上高效的近似实现,同时可以应用于线性变换后的任意分布输入和输出。分析表明,在大型、i.i.d. 高斯转换下,该方法的渐近分量行为由一组简单的状态演化(SE)方程式描述,并可预测几乎任何分量性能指标的渐近值,包括均方误差或检测准确性;该分析对任意输入和输出分布均有效,即使对应的优化问题是非凸的。因此,GAMP 方法提供了一种计算有效的方法,适用于具有精确渐近性能保证的大类非高斯估计问题。
Oct, 2010
本文介绍了将 “vector AMP” 算法推广到广义线性模型 (Genelized Linear Model, GLM) 中的方法,通过实验表明所提出的 GLM-VAMP 算法比阻尼 GAMP 算法更能应对矩阵 A 病态化的情况。
Dec, 2016
提出了一种通用广义记忆近似消息传递(GMAMP)框架,包括现有的正交 AMP/VAMP、GVAMP 和 MAMP 作为特殊实例,并构建了一种基于低复杂度记忆线性估计器的贝叶斯最优 GMAMP(BO-GMAMP)算法,可用于 GLM 信号重构,实现了与 GAMP 类似的复杂度,并在唯一不动点情况下达到了复制最小(即贝叶斯最优)MSE。
Oct, 2021