- 线性对角网络的加权最小二乘算法的精确渐近性
在这项工作中,我们对一类算法进行了统一的渐近性分析,其中包括了经典的迭代重新加权最小二乘(IRLS)算法、最近提出的用于线性神经网络的 lin-RFM 算法和线性对角神经网络上的交替最小化算法。我们的分析在一个 “批处理” 情境中进行,使用 - 基于联合稀疏模式学习的大规模 MIMO-OTFS 系统信道估计
提出了一种基于联合稀疏模式学习(JSPL)的信道估计方案,适用于大规模多输入多输出(MIMO)正交时频空(OTFS)调制辅助系统。通过利用延迟 - 多普勒 - 角(DDA)领域信道的潜在联合稀疏性,将信道估计问题转化为稀疏恢复问题,并采用脉 - 设计、实施和分析一种压缩感知光声投影成像系统
通过自行开发的压缩感知单元,我们扩展了现有的照片声投影成像系统,实现了特定测量在 16 个线性探测器组中的 CS-PAPI 系统,并且证实了其稀疏恢复能力,数值实验支持了我们的结果。
- AAAI通过 k - 支撑范数的迭代正则化:稀疏恢复的重要补充
基于 $k$- 支持范数正则化器的迭代正则化算法 IRKSN,在广泛条件下实现稀疏恢复,提供边界和应用实例研究。
- 通过深度展开的分布式 ADMM 实现有限通信的分布式优化
通过采用深度展开方法,我们提出了展开的 D-ADMM 算法,它在每个代理之间仅交换了固定数量的消息,有效地减少了 D-ADMM 中的通信数量,同时保持了算法的可解释性和灵活性。我们将展开的 D-ADMM 算法应用于分布式估计任务和分布式学习 - 机器学习的稀疏模型
通过提供稀疏建模和压缩感知的基本理论介绍,讨论了一些有效的方法来恢复优化问题的稀疏解,并介绍了稀疏恢复在稀疏字典学习中的应用。
- 基于模型的神经网络的泛化和估计误差界
本研究利用全局和局部 Rademacher 复杂性等复杂度度量方法,为模型网络的泛化和估计误差提供了上界,并显示了模型网络在稀疏恢复方面的泛化能力优于普通 ReLU 网络,从而导出基于模型的网络的实用设计规则以保证高泛化性能。该研究的实验结 - MM近似线性时间的半随机稀疏恢复
本文探究了迭代算法在生成模型变化下的韧性,以及一个与之相关的关于稀疏恢复的几何迭代方法,并在自然统计反问题中展示了我们方法的有效性。
- 更多即更少:通过过度参数化诱导稀疏性
研究了深度学习模型过度参数化和随机梯度下降的泛化能力现象,探讨了稀疏恢复的情况,提出了一种相应的超参数化均方误差损失函数,证明了该函数的梯度下降可以收敛到最小 L1 范数的好近似解。
- ICLRLISTA 及其延伸的设计空间研究
本文通过对 LISTA 罕见深度网络建立设计空间进行设计空间研究,并利用神经架构搜索技术寻找更优秀的深度网络架构,进行深度学习与模型优化先验结合的探索。
- 稀疏带宽矩阵估计中的全有或全无统计计算相变
本文研究在一个稀疏极限下,当底层隐藏向量(构建排名为一的矩阵)非零组成部分数与向量总维数的比例为亚线性,信噪比以适当的速度趋于无穷大时,估计被加性高斯噪声矩阵污染的排名为一的矩阵的统计和计算限制,并证明了渐近互信息的显式低维变分公式,分析了 - 带应用于 PDE 数值方法的有界 Riesz 系统的稀疏恢复
研究利用具有独立同分布和均匀有界行以及具有非平凡协方差结构的结构化随机测量矩阵的稀疏恢复。因为这类矩阵是从边界瑞格系统的随机采样得来的,并且广义化了随机部分傅立叶矩阵。该结果改进了目前对这种随机矩阵的零空间和限制保持特性的可用结果,并将其应 - 利用生成模型进行压缩感知的下界
本文主要研究了基于生成模型的压缩感知问题,通过下界分析表明基于 L-Lipschitz 生成模型的压缩感知需要线性测量数至少是 k 乘以对数级别的,同时指出生成模型可以作为一种结构表示方法进行推广。作者还构造了一个具有 ReLU 激活的神经 - NIPS展开 ISTA 的理论线性收敛及其实际权重和阈值
该研究使用展开的 ISTA 算法研究了稀疏信号恢复,并通过引入权重结构和支持选择实现了渐近收敛性和加速收敛。实验表明,该方法在稀疏向量恢复和压缩感知方面具有很好的理论和实践应用价值。
- CVPR张量鲁棒主成分分析:通过凸优化精确恢复受损低秩张量
本文研究了张量鲁棒主成分分析问题,并通过解决一个凸规划问题,准确地恢复了低秩和稀疏分量,该问题基于新的张量奇异值分解和引导的张量管秩和张量核范数,并在对图像去噪中证实了该方法的有效性。
- 通过深度卷积神经网络学习反演:信号恢复
本研究致力于解决压缩感知中遇到的两个挑战问题:真实数据在固定基下不是稀疏的;当前的高性能恢复算法收敛速度慢,这限制了压缩感知的应用。通过使用深度卷积神经网络,我们开发了一个名为 DeepInverse 的新信号恢复框架,从测量向量学习逆变换 - 正交最小二乘法的近优界
本文研究了用于稀疏恢复的正交最小二乘算法以及与之相关的采样矩阵的限制等距性质,证明了在满足特定条件下,算法能够从采样中精确恢复出 $k$- 稀疏向量的支撑集,并提供了对于一般情况下无法恢复的支撑集的上界调节量。
- NIPS使用序列稀疏恢复的可解释循环神经网络
本文提出了一种基于 SISTA 的可解释循环神经网络来解决序列稀疏恢复问题,这种结构的权值可以视为一个有原则的统计模型的参数。与传统的基于 “黑匣子” 模型的 RNN 相比,SISTA-RNN 在特定的连续压缩感知任务中训练速度更快,且表现 - 迭代重新加权最小二乘方法的共轭梯度加速
该研究通过探讨压缩感知和稀疏恢复问题等特定领域中的迭代算法,证明了使用共轭梯度法来解决二次优化问题可以在保证收敛的同时显著提高其复杂度,并发现 IRLS 方法在大维度情况下可以优于 IHT 和 FISTA 等一阶方法,并且在所需测量 few - ICML子空间 - 稀疏表示
研究了当 $b$ 在 $A$ 的部分列张成的低维子空间内时,基础追踪(BP)和正交匹配追踪(OMP)算法无法唯一地恢复 $x$ 且其最稀疏解不唯一的问题,提出了能够保证恢复子空间稀疏解的充分条件,解释了其几何意义,分析了其应用于稀疏表示分类