Aug, 2015

高阶全变差正则化模型的双层参数学习

PDF
TL;DR研究使用双层优化方法在高阶总变分图像重建模型中进行参数学习，提出并分析一种基于 Huber 正则化 TV 半范数的替代代价，验证解算符的可微性，并推导出一种一阶最优系统。基于伴随信息，提出了一个拟牛顿算法来数值解决双层问题。通过数值实验展示了我们的方法的适用性和新代价函数的改进性能。同时，利用双层优化框架，对比了 TGV^2 和 ICTV，在处理图像结构和噪声水平方面的优缺点。
total variation image reconstructionbilevel optimizationhuber regularized tv-seminormquasi-newton algorithm
发现论文，激发创造
  • 图像恢复问题的最优参数结构

    研究了图像恢复变分模型中最佳正则化参数的定性特性，参数是作为约束条件的恢复问题的双层优化问题的解。我们考虑了一种常见的正则化器，涵盖了总变差、总广义变差和下确界卷积总变差。通过一定给定数据的条件，我们证明了由双层优化问题导出的最优参数存在，关键点在于证明了此证明存在性时最优参数远离 0。

    May, 2015

  • 通过双层学习寻找最优正则化参数

    利用变分正则化方法求解线性反问题时，采用超参数调节正则化项，通过强化先验信息来提高求解结果，核心问题在于如何选择一个合适的正则化参数。本文提出了一个新的条件来更好地描述正则化参数的正性，并验证和探索了这个新条件，同时也探究了这个新条件在小和大维问题上的应用。

    May, 2023

  • 双层方法用于学习变分成像模型

    本文介绍了近期变分成像中基于双层优化的学习方法，着重强调它们在函数空间中的处理重要性。

    May, 2015

  • 图像重建的一阶和二阶组合变分方法

    本文研究了一个在 Hessian 有界函数空间中的变分问题，从 ROF 总变差（total variation）最小化模型扩展到更高阶模型，结合了总变差和一阶导数的总变差的凸函数。我们证明了该组合模型的最小值的存在唯一性，并通过采用分裂 Bregman 方法展示了相应离散问题的数值解。该论文通过图像去噪、去模糊以及图像修复的应用展示了该模型，并将得到的数值结果与其他最先进的高阶模型进行了比较。数值结果表明该模型避免了在重建的图像中产生不良的伪影和方块状结构，而且其简单易解和高效。

    Feb, 2012

  • 基于白度的分层学习在图像中的正则化参数

    无监督双层优化策略可用于在成像反问题中学习正则化参数，解决加性白高斯噪声存在的问题。与依赖参考数据的监督和半监督度量以及依赖噪声统计的部分知识的方法相比，该方法无需地面真实数据，通过优化观测数据和观测模型之间残差的白化程度。我们在标准的总变差正则化图像去卷积问题上验证了该方法，结果表明提出的质量度量估计接近于均方误差和差异性原则。

    Mar, 2024

  • 一种基于随机优化的训练非线性神经网络的高阶全变差正则化方法

    高度表达的参数模型，如深度神经网络，在建模复杂概念方面具有优势，但这种高度非线性模型的训练已知存在高风险的过度拟合问题。为了解决这个问题，本研究考虑第 k 阶总变差（k-TV）正则化，该正则化定义为被训练的参数模型的 k 阶导数的平方积分，对 k-TV 进行惩罚有望产生更平滑的函数，以避免过度拟合。虽然应用于一般参数模型的 k-TV 项由于积分而具有计算上的困难，但本研究提供了一种随机优化算法，可以在不进行显式数值积分的情况下高效训练具有 k-TV 正则化的一般模型。所提出的方法适用于结构任意的深度神经网络的训练，因为它只需使用简单的随机梯度下降算法和自动微分即可实现。我们的数值实验表明，采用 K-TV 正则化训练的神经网络比传统参数正则化训练的神经网络更 “弹性”。所提出的算法还可以扩展至神经网络（PINNs）的物理知识训练。

    Aug, 2023

  • 少视角层析成像中由学习技术增强的空间变差全变差

    该研究聚焦于开发一种用于解决欠定线性反问题的空间变异正则化模型。研究案例为从少视角层析噪声数据中重建医学图像。通过应用适当的像素相关权重，该优化模型的主要目标是在去噪和保留细节和边缘之间取得良好平衡，克服了广泛使用的总变差（TV）正则化方法的性能。提出的策略利用梯度逼近来计算空间变异 TV 权重。为此，设计了一个卷积神经网络，使用其训练中的弹性损失函数来逼近真值图像及其梯度。此外，本文对所提出的模型进行了理论分析，展示了其解的唯一性，并展示了针对特定问题的 Chambolle-Pock 算法。这一综合框架将创新的正则化技术与先进的神经网络能力相结合，展示出在从低采样层析数据中实现高质量重建方面的有 promising 结果。

    Apr, 2024

  • 合作总变差：矢量 TV 模型的通用框架

    本文提出了一种基于三维张量的颜色图像的协作总变差（CTV）型正则化方法，通过在不同维度上取不同范数来确定它的平滑性，不同的范数具有不同的性质。在理论和实践方面得到了很好的验证和应用。

    Aug, 2015

  • 一种带有转换总变差的图像分割模型

    使用基于转换的 l1 正则化的转换总变差 (TTV)，提出了带模糊成员函数的 TTV 正则化 Mumford--Shah 模型进行图像分割，并通过交替方向乘子法设计了求解算法。数值实验表明，在图像分割中使用 TTV 比传统的 TV 和其他非凸 TV 变体更有效。

    Jun, 2024

  • 双层优化：收敛分析与增强设计

    本文研究非凸强凸双层优化问题，提供了两种基于近似隐式导数和迭代导数的算法以及一种名为 stocBiO 的新型算法，并对它们进行了收敛性分析和比较，实验表明这些优化算法在元学习、超参数优化等方面表现出良好效果。

    Oct, 2020