高维深度网络推理
本文提出了一种新算法 ML-VAMP,用于多层随机神经网络推理,可配置为计算最大先验或近似最小均方误差估计,具有高维随机极限下的精确预测及可测试最优性条件,提供了一种计算方法,可在大型系统极限下进行多层推理并实现最小均方误差预测。
Nov, 2019
本文提出两种基于神经网络的新型架构,通过 Onsager 校正来解决稀疏线性反演问题, 并应用于 5G 无线通信领域的两个问题,分别是压缩式随机接入和大规模 MIMO 信道估计。
Dec, 2016
本文应用统计物理的标准方法,提出了多层近似信息传递算法来重构一个信号从多层(可能是非线性的)测量中,并推导出相关的状态演化方程来分析其性能。文中还介绍了一些这种测量模型在压缩感知、结构化矩阵 / 模式下的感知器学习以及自编码器中潜变量估计的应用。
Jan, 2017
本研究探讨了结合向量近似消息传递算法 (VAMP) 的插件降噪方法,以及对高维旋转不变随机矩阵 A 和 Lipschitz 降噪器,可以精确预测这种 VAMP 方法的均方误差,并在图像恢复和参数双线性估计等应用上进行了演示。
Jun, 2018
我们提出了一种快速的非迭代近似推理方法,通过前馈网络实现从变分后验进行有效精确抽样,该方法通过应用几种直观的模型独立方差减少技术,优于 MNIST 和 Reuters RCV1 文件数据集上的唤醒 - 睡眠算法,并取得了最新成果。
Jan, 2014
本文提出了一种基于 Conjugate Gradient 的算法 CG-VAMP,用于高效解决压缩感知相关的线性反问题,通过热启动方案和理论模型的调优,实现了稳定和高效的大规模图像重建。
Nov, 2020
利用贝叶斯近似传递信息算法来解决在压缩感知中多测量向量(MMV)问题,提出了一种称为 AMP-MMV 的算法,该算法能够利用非零系数幅度的时序相关性,并提供信号向量及其基本支撑的软估计。通过近期发展的近似传递信息技术的扩展来扩展 AMP-MMV 的方法,在所有问题维度上具有线性计算复杂性,而期望最大化算法被描述为自动参数调节。通过详细的数值研究,证明了该方法的有效性,特别适用于高维问题。
Nov, 2011
该研究使用生成模型和深度学习来构建基于物理系统的仿真模型,通过引入 inVAErt 网络,利用确定性编码器和解码器来表示正向和逆向解决方案映射,结合归一化流来捕捉系统输出的概率分布,以及变分编码器来学习输入和输出之间的紧凑潜在表示。研究对损失函数中的惩罚系数选择和潜在空间采样策略进行了正式研究,并通过广泛的数值实例验证了该框架,包括简单线性、非线性和周期性映射,动力系统和时空偏微分方程。
Jul, 2023
本文提出了一种新颖的神经网络架构,通过 Onsager 校正的方式在层间解耦预测误差,以应用深度学习于稀疏线性反问题中,数值实验表明,与 Gregor 和 LeCun 的 “learned ISTA” 网络相比,我们的 “Learned AMP” 网络在精度和复杂性方面均有显著提高。
Jul, 2016