Aug, 2019

基于生成模型的压缩感知中的信息论下限

PDF
TL;DR研究表明，在压缩感知中，如果将稀疏性假设替换为未知向量接近某个合适选择的生成模型的范围，则所需测量的数量可能显著减少。本文使用极小化统计分析工具，建立了与上界对应的算法无关样本复杂性下界。我们证明，除非有进一步的假设，否则 (Bora et al.，2017) 中得出的定律是最优的或接近最优的，其中生成模型是 L-Lipschitz 函数和有界 k 维输入，或者是具有深度 d 和宽度 w 的 k 输入 ReLU 网络。
发现论文，激发创造
  • 利用生成模型进行压缩感知的下界

    本文主要研究了基于生成模型的压缩感知问题，通过下界分析表明基于 L-Lipschitz 生成模型的压缩感知需要线性测量数至少是 k 乘以对数级别的，同时指出生成模型可以作为一种结构表示方法进行推广。作者还构造了一个具有 ReLU 激活的神经网络模型，其层数为 O (1)，每层的激活函数个数为 O (kn)，且该模型可以表示所有 k 稀疏向量。

    Dec, 2019

  • 使用生成模型的压缩感知

    通过生成模型的范围，无需使用稀疏性，基于 Lipschitz 连续性，提出了一种新的压缩感知算法。与 Lasso 相比，可以使用更少的测量来获得相同的精度。

    Mar, 2017

  • 基于随机生成先验知识的可证收敛压缩感知方案

    本文介绍了一种通过神经网络的深度生成模型来提供低维参数化图像或信号流形的方法， 证明了其在噪声的压缩感知方面的收敛算法，其样本复杂度与先前的稀疏方法相比具有线性的优越性和改进的潜力。

    Dec, 2018

  • 具有生成 先验的 1 位压缩感知和二进制稳定嵌入的样本复杂度界限

    该研究利用生成模型替代稀疏性假设，研究带生成模型的 1 位压缩感知问题。在此基础上结合高斯测量和具有 Lipschitz 连续生成先验的近似恢复，应用于神经网络生成模型，并与基于稀疏性的方法进行了比较，证实了其有效性。

    Feb, 2020

  • 利用生成模型的鲁棒压缩感知

    本文提出基于中位数均值的算法用于压缩感知中估计高维向量，具有重尾或异常值数据的鲁棒性，同时理论结果表明该算法在次高斯假设下具有与经验风险最小化相同的样本复杂度保证。

    Jun, 2020

  • 非线性生成压缩感知中统一信号恢复的框架

    通过引入 Lipschitz 逼近处理不连续观测模型，我们提出了一个统一的框架，用于推导非线性压缩感知中的统一恢复保证，其中观测模型是非线性的且可能是不连续或未知的，并以 1 位 / 均匀量化观测和单索引模型作为典型示例。

    Sep, 2023

  • 模型适应型傅里叶采样用于生成式压缩感知

    研究了当测量矩阵从一个酉矩阵中随机子采样时的生成式压缩感知，提出了一个改进的样本复杂度的模型适应采样策略，利用非均匀随机采样分布提出了新的理论恢复保证，并优化采样分布以最小化所需测量数目，并验证了 CelebA 数据集上的恢复实验的性能。

    Oct, 2023

  • 非线性观测与生成式先验下的广义 Lasso

    研究了在存在 Lipschitz 连续生成模型的情况下，从嘈杂的非线性测量中估计未知的 n 维信号问题。研究表明，非一致恢复保证在 i.i.d. 下成立，并且这种方案可以抵抗对抗性噪声，同时经过推广，可以适用于神经网络生成模型和其他测量模型。

    Jun, 2020

  • 基于生成先验信息的压缩感知中定常扩张足矣

    给定压缩感知方法中使用的生成神经网络提供了更紧密的理论保证

    Jun, 2020

  • 近似稀疏模式恢复：信息理论下界

    本文考虑了高维设置下的稀疏向量，研究在测量速率和样品的信噪比为有限常数的情况下，稀疏模式估计的误差比例将为常数分数，并且通过与现有可实现界的比较，建立了在比例误差和信噪比的功能下的范围上限。

    Feb, 2010