NeurTV: 神经领域上的总变差
本文提出了一种基于三维张量的颜色图像的协作总变差(CTV)型正则化方法,通过在不同维度上取不同范数来确定它的平滑性,不同的范数具有不同的性质。在理论和实践方面得到了很好的验证和应用。
Aug, 2015
高度表达的参数模型,如深度神经网络,在建模复杂概念方面具有优势,但这种高度非线性模型的训练已知存在高风险的过度拟合问题。为了解决这个问题,本研究考虑第 k 阶总变差(k-TV)正则化,该正则化定义为被训练的参数模型的 k 阶导数的平方积分,对 k-TV 进行惩罚有望产生更平滑的函数,以避免过度拟合。虽然应用于一般参数模型的 k-TV 项由于积分而具有计算上的困难,但本研究提供了一种随机优化算法,可以在不进行显式数值积分的情况下高效训练具有 k-TV 正则化的一般模型。所提出的方法适用于结构任意的深度神经网络的训练,因为它只需使用简单的随机梯度下降算法和自动微分即可实现。我们的数值实验表明,采用 K-TV 正则化训练的神经网络比传统参数正则化训练的神经网络更 “弹性”。所提出的算法还可以扩展至神经网络(PINNs)的物理知识训练。
Aug, 2023
该研究聚焦于开发一种用于解决欠定线性反问题的空间变异正则化模型。研究案例为从少视角层析噪声数据中重建医学图像。通过应用适当的像素相关权重,该优化模型的主要目标是在去噪和保留细节和边缘之间取得良好平衡,克服了广泛使用的总变差(TV)正则化方法的性能。提出的策略利用梯度逼近来计算空间变异 TV 权重。为此,设计了一个卷积神经网络,使用其训练中的弹性损失函数来逼近真值图像及其梯度。此外,本文对所提出的模型进行了理论分析,展示了其解的唯一性,并展示了针对特定问题的 Chambolle-Pock 算法。这一综合框架将创新的正则化技术与先进的神经网络能力相结合,展示出在从低采样层析数据中实现高质量重建方面的有 promising 结果。
Apr, 2024
本文研究使用 total variation (TV) 最小化作为计算机视觉层,解决优化计算的问题,并在五个计算机视觉任务中取得了优于现有基准的结果,通过开发 GPU 加速 Newton 投影算法,提高了计算效率。
Apr, 2022
本研究探索将传统的稀疏型正则化与深度图像先验(DIP)框架相结合,通过使用卷积神经网络(CNN)架构和传统的总变差(TV)正则化方法,证明了在图像去噪和去模糊等传统恢复任务中,引入 TV 会带来相当大的性能提升。
Oct, 2018
介绍了一种新的数据驱动的总变分正则化器,将反问题的变分公式与深度学习相结合,使用卷积神经网络提取多尺度和连续块中的局部特征, 实现了全局优化控制和相对于正则化器的参数和初值的稳定性分析,并在众多成像任务上实现了最先进的结果。
Jun, 2020
本研究提出使用重叠组稀疏总变差正则化器的优化问题,通过 $l_2$ 数据保真度项,避免楼梯状效应,从而实现保留边缘特征的图像恢复。同时,我们还提出了一种快速算法,并与现有的 TV 和 HTV 算法进行了比较,数值实验证明了该方法在 PSNR,相对误差和计算时间方面的高效性和有效性。
Oct, 2013
本文研究了电视正则化,对于 l_p - 范数 TV 提出了有效的算法,特别是对于 l_1 - 范数 TV 提出了一种新的几何分析方法,揭示了与 taut-string 方法的未知联系,并利用我们的几何引导实现了高效的 1D-TV 求解器,提供了更复杂(二维或多维)电视求解器的支撑,并探讨了通过广泛的实验在图像和视频降噪方面的优越性。
Nov, 2014