Sep, 2023

平滑软阈值展开 ISTA 和 ADMM 网络的优化保证

PDF
TL;DR通过研究无穷展开网络（如 LISTA 和 ADMM-CSNet）中的平滑软阈值函数的优化保证，本文证明了存在于损失函数空间特定区域内满足 PL$^*$ 条件，从而保证全局最小值的存在和使用梯度下降方法的指数级收敛。此外，本文还比较了无穷展开网络与标准的全连接前向网络（FFNN）的训练样本数量阈值，并证明无穷展开网络具有更高的阈值，因此预期无穷展开网络的期望误差将优于 FFNN。
linear inverse problemsalgorithm unfoldinglearned iterative soft-thresholding algorithmalternating direction method of multipliers compressive sensing networknetwork width
发现论文，激发创造
  • 展开 ISTA 的理论线性收敛及其实际权重和阈值

    该研究使用展开的 ISTA 算法研究了稀疏信号恢复，并通过引入权重结构和支持选择实现了渐近收敛性和加速收敛。实验表明，该方法在稀疏向量恢复和压缩感知方面具有很好的理论和实践应用价值。

    Aug, 2018

  • 学习展开稀疏编码的步长

    本文研究了 ISTA 算法中的选适应性步长的方法，提出了学习 ISTA 步长的网络结构，实验证明该方法与现有最先进的网络相比是具有竞争力的。

    May, 2019

  • 学习迭代阈值算法的最优非线性函数

    本论文提出了一种使用神经网络和误差反向传播算法学习最优阈值函数的数据驱动迭代收缩阈值算法（ISTA），并在稀疏统计信号上进行模拟实验，证明了这种算法在估计质量上的潜在提升。

    Dec, 2015

  • 深度展开收缩网络用于动态磁共振成像

    通过使用一种称为带通道注意力的软阈值算子 (AST)，我们提出了一种用于动态磁共振成像的新型深度展开收缩网络 (DUS-Net)，通过展开交替方向乘法因子方法 (ADMM) 对转换后的 $l_1$ 范数动态 MR 重建模型进行优化，实验证明 DUS-Net 优于现有的方法。

    Jul, 2023

  • ISTA-Net++: 压缩感知的灵活深度展开网络

    本文提出了一种基于深度神经网络的图像压缩感知方法 ISTA-Net++，通过动态展开策略和交叉块策略实现了处理不同比率和多场景图像的优异性能，并通过平衡数据集的训练增强了算法的健壮性，在四个数据集上均表现出了最先进的定量指标和视觉质量。

    Mar, 2021

  • FISTA-Net: 学习用于成像反问题的快速迭代收缩阈值网络

    该论文提出了一个结合了模型解释性和通用性的基于深度学习的图像优化网络 FISTA-Net，该网络能够优化不同成像任务的参数，如电磁层析成像和 X 射线计算机断层扫描，并表现出好的泛化能力。

    Aug, 2020

  • 增强的高光谱图像子空间聚类的展开式 ADMM

    本文介绍了一种创新的基于深度展开的聚类架构，通过对稀疏子空间聚类的交替方向方法求解器进行展开，可以捕捉到高光谱图像数据的结构特征，并采用 K 最近邻算法保持结构的模块，实验证明基于展开方法在高光谱图像聚类中具有潜力，并比现有技术表现出更好的性能。

    Apr, 2024

  • 具有理论保证的深度神经网络大量访问的算法展开

    本文提出了一种基于深度神经网络的算法，在实现联合活动检测和信道估计的同时，提高了算法的鲁棒性和计算效率，从而解决了物联网的大量接入问题。

    Jun, 2021

  • Ada-LISTA：适应不同模型的学习求解器

    本文介绍一种自适应学习求解器 Ada-LISTA，它使用输入的信号及其对应的字典对来学习一个通用架构，用于解决包括字典扰动和排列在内的各种模型的稀疏编码问题。我们证明这种方案保证能够在线性速率下解决这个问题，并提供了广泛的数值研究来证明其实际适应能力。最后我们将 Ada-LISTA 应用于自然图像修复中，其中补丁掩码在空间上变化较大，因此需要这种自适应学习求解器。

    Jan, 2020

  • 图像压缩感知的快速分层深度展开网络

    本文提出了一种新的快速分层深度展开网络（FHDUN）用于图像压缩感知，并通过加速 FISTA 的策略实现超过 50％的迭代次数节约， FHDUN 优于现有的最先进的压缩感知方法，同时保持更少的迭代次数。

    Aug, 2022