作者使用近似消息传递算法 (AMP) 来计算 M-estimator 的操作特性,在高维极限下分析 Lasso estimator 并研究正则化最小二乘问题中出现的额外的高斯噪音。
Oct, 2013
采用伪轨迹法和两种时间尺度方法,通过异步随机逼近和组距平均场,实现对异步算法的收敛性分析并应用于马尔可夫决策过程的学习问题。
Dec, 2011
我们考虑高维线性回归中的变点定位问题,并提出一种用于估计信号和变点位置的近似消息传递(AMP)算法。假设高斯协变量,我们给出了在样本数与信号维度成比例增长的极限下其估计性能的精确渐近特征。我们的算法可以根据信号、噪声和变点的任何先验信息进行调整,并能够通过计算高效的近似后验分布来进行不确定性量化,其渐近形式我们进行了精确刻画。通过数值实验验证了我们的理论,并展示了我们估计器在合成数据和图像上的良好性能。
Apr, 2024
研究了凸广义线性模型的重建性能,证明了通过信息传递算法可以对其进行分析,并提供了数值例子证实其结果。
Jun, 2020
本文介绍了使用 Approximate Message Passing(AMP)算法结合谱初始化来实现 Bayes-optimal 精度的方法,特别关注了如何应用于低秩矩阵估计问题中,同时讨论了其应用于稀疏低秩矩阵和高斯块模型中的实验结果。
Nov, 2017
该研究利用近似信息传递算法和状态演化方程分析多维度动态,研究从多个汇总子集的直方图中恢复分类变量离散信号的问题,并揭示了 AMP 行为从精确恢复到弱相关与信号的锐利相变现象,通过一些特殊情况的公式推导,准确地展示了它们与实验行为的匹配。
Feb, 2017
提出了一种名为自适应广义近似信息传递(Adaptive GAMP)的新方法,它可以联合学习先验和测量通道的统计信息,同时估计未知向量,可应用于包括压缩感知中的稀疏先验学习、动态系统和神经尖峰过程中的线性非线性级联模型识别等一类学习问题,并证明了算法具有一定的收敛性。
Jul, 2012
提出了一种名为广义近似消息传递(GAMP)的算法,它可以对非线性压缩感知和学习问题进行计算上高效的近似实现,同时可以应用于线性变换后的任意分布输入和输出。分析表明,在大型、i.i.d. 高斯转换下,该方法的渐近分量行为由一组简单的状态演化(SE)方程式描述,并可预测几乎任何分量性能指标的渐近值,包括均方误差或检测准确性;该分析对任意输入和输出分布均有效,即使对应的优化问题是非凸的。因此,GAMP 方法提供了一种计算有效的方法,适用于具有精确渐近性能保证的大类非高斯估计问题。
Oct, 2010
本研究研究了一类适用于具有正交不变噪声的对称和矩形钉子随机矩阵模型的近似消息传递(AMP)算法,并使用贝叶斯方法介绍了一个 Bayes-OAMP 算法。
Oct, 2021
基于旋转不变设计矩阵的广义线性模型中,信号估计是一个问题。我们提出了一族新颖的近似传递消息 (AMP) 算法来估计信号,并通过状态演化递归在高维极限下严格表征了它们的性能。我们的旋转不变 AMP 与现有的基于高斯设计的 AMP 具有相同的复杂度;同时,我们的算法还将现有的 AMP 作为特例恢复。数值结果展示了与 Vector AMP(在某些情况下被猜想为贝叶斯最优)相近的性能,但是我们的算法复杂度更低,因为它不需要计算昂贵的奇异值分解。
Dec, 2021