一种非渐进分布理论的逼近传递消息算法在稀疏和鲁棒回归中的应用
作者使用近似消息传递算法 (AMP) 来计算 M-estimator 的操作特性,在高维极限下分析 Lasso estimator 并研究正则化最小二乘问题中出现的额外的高斯噪音。
Oct, 2013
本文介绍了使用 Approximate Message Passing(AMP)算法结合谱初始化来实现 Bayes-optimal 精度的方法,特别关注了如何应用于低秩矩阵估计问题中,同时讨论了其应用于稀疏低秩矩阵和高斯块模型中的实验结果。
Nov, 2017
本研究研究了一类适用于具有正交不变噪声的对称和矩形钉子随机矩阵模型的近似消息传递(AMP)算法,并使用贝叶斯方法介绍了一个 Bayes-OAMP 算法。
Oct, 2021
本文提出一种无需用户调整阈值参数的自动方式,采用修改过的梯度下降算法和 Stein 无偏风险估计,实现高稀疏恢复和压缩感知算法中的最小重构误差和最高收敛速率,为参数调整领域的最快收敛率理论保障提供了解决方案。
Oct, 2013
本文章研究了使用广义线性模型的估计问题并探讨了使用近似消息传递算法的表现,提出使用谱估计器作为初始化方法以解决一些模型中初始化时的相关性和独立性问题,并通过两阶段人工消息传递算法进行分析和模拟实验验证了该方法。
Oct, 2020
提出一种新的稳定 AMP 算法的方法,这种算法通过逐个系数而不是并行地应用 AMP 更新来解决 AMP 在某些情况下不匹配其假设的收敛问题,并且不会增加过多的计算成本。
Jun, 2014
提出了一种名为自适应广义近似信息传递(Adaptive GAMP)的新方法,它可以联合学习先验和测量通道的统计信息,同时估计未知向量,可应用于包括压缩感知中的稀疏先验学习、动态系统和神经尖峰过程中的线性非线性级联模型识别等一类学习问题,并证明了算法具有一定的收敛性。
Jul, 2012
基于旋转不变设计矩阵的广义线性模型中,信号估计是一个问题。我们提出了一族新颖的近似传递消息 (AMP) 算法来估计信号,并通过状态演化递归在高维极限下严格表征了它们的性能。我们的旋转不变 AMP 与现有的基于高斯设计的 AMP 具有相同的复杂度;同时,我们的算法还将现有的 AMP 作为特例恢复。数值结果展示了与 Vector AMP(在某些情况下被猜想为贝叶斯最优)相近的性能,但是我们的算法复杂度更低,因为它不需要计算昂贵的奇异值分解。
Dec, 2021
提出并分析一种近似信息传递 (AMP) 算法,用于矩阵张量乘积模型,其中使用一种新方法在每次迭代中优化加权和组合多个估计;利用非可分函数的 AMP 收敛定理,证明了非可分函数的状态演变,提供了其在高维极限下性能的渐近精确描述。
Jun, 2023
我们考虑高维线性回归中的变点定位问题,并提出一种用于估计信号和变点位置的近似消息传递(AMP)算法。假设高斯协变量,我们给出了在样本数与信号维度成比例增长的极限下其估计性能的精确渐近特征。我们的算法可以根据信号、噪声和变点的任何先验信息进行调整,并能够通过计算高效的近似后验分布来进行不确定性量化,其渐近形式我们进行了精确刻画。通过数值实验验证了我们的理论,并展示了我们估计器在合成数据和图像上的良好性能。
Apr, 2024