使用生成模型从非线性观测中进行非迭代恢复
研究了在存在 Lipschitz 连续生成模型的情况下,从嘈杂的非线性测量中估计未知的 n 维信号问题。研究表明,非一致恢复保证在 i.i.d. 下成立,并且这种方案可以抵抗对抗性噪声,同时经过推广,可以适用于神经网络生成模型和其他测量模型。
Jun, 2020
通过引入 Lipschitz 逼近处理不连续观测模型,我们提出了一个统一的框架,用于推导非线性压缩感知中的统一恢复保证,其中观测模型是非线性的且可能是不连续或未知的,并以 1 位 / 均匀量化观测和单索引模型作为典型示例。
Sep, 2023
本文主要研究了基于生成模型的压缩感知问题,通过下界分析表明基于 L-Lipschitz 生成模型的压缩感知需要线性测量数至少是 k 乘以对数级别的,同时指出生成模型可以作为一种结构表示方法进行推广。作者还构造了一个具有 ReLU 激活的神经网络模型,其层数为 O (1),每层的激活函数个数为 O (kn),且该模型可以表示所有 k 稀疏向量。
Dec, 2019
本文研究了在非线性观测条件下压缩感知信号恢复问题,提出了一种基于迭代硬阈值算法的解决方法,并在类似线性方法的条件下表明该算法能够准确恢复稀疏或结构化信号。同时,本文也展示了在稀疏和子空间并集约束下,如何在一般非线性优化框架下进行相关研究。
May, 2012
研究表明,在压缩感知中,如果将稀疏性假设替换为未知向量接近某个合适选择的生成模型的范围,则所需测量的数量可能显著减少。本文使用极小化统计分析工具,建立了与上界对应的算法无关样本复杂性下界。我们证明,除非有进一步的假设,否则 (Bora et al.,2017) 中得出的定律是最优的或接近最优的,其中生成模型是 L-Lipschitz 函数和有界 k 维输入,或者是具有深度 d 和宽度 w 的 k 输入 ReLU 网络。
Aug, 2019
研究了非线性观测信号估计问题,当信号属于高维空间中的低维集合时,可以使用广义 Lasso 方法,针对非线性观测信号进行噪声线性观察建模,通过信号重建结构降低误差,允许信号具有不连续、多义和未知的非线性特征,并允许测量矩阵的行具有未知的协方差矩阵。
Feb, 2015
本文提出基于中位数均值的算法用于压缩感知中估计高维向量,具有重尾或异常值数据的鲁棒性,同时理论结果表明该算法在次高斯假设下具有与经验风险最小化相同的样本复杂度保证。
Jun, 2020
本研究提出了一个通用且统一的信号重构框架,可以解决高维信号重构中的各种挑战,包括计算感知、信号处理和统计学习等领域,特别是对于不确定的模型不准确性,我们提供了进一步证据,解释为何许多标准估计器在实践中表现出奇异的性能表现。其中我们证明,如果观测值的个数超过了信号分类的有效维度的数量,那么由非线性和嘈杂的 Gaussian 观测值估计出的信号可以达到与理论最优解相同的准确度。
Feb, 2016
通过离群点检测方法,我们提出了一种用于从受稀疏离群点污染的线性测量中恢复基于生成模型的信号的方法。我们的理论结果适用于线性生成型神经网络和非线性生成型神经网络,并提出了一个基于交替方向乘子法和梯度下降的迭代算法,能够成功地在离群点存在的情况下重建信号。
Oct, 2023