多参数选择的 Stein 无偏梯度估计器（SUGAR）风险

May, 2014

多参数选择的 Stein 无偏梯度估计器（SUGAR）风险

Stein Unbiased GrAdient estimator of the Risk (SUGAR) for multiple parameter selection

Charles-Alban Deledalle, Samuel Vaiter, Jalal M. Fadili, Gabriel Peyré

TL;DR本文提出了一种使用 Stein 无偏风险估计（SURE）和弱梯度（SUGAR）来优化模型连续参数集合的方法，旨在解决使用非平滑正则化（如软阈值）时，SURE 成为参数的不连续函数而不能使用渐变下降优化技术的问题。同时，本文还给出了 SUGAR 应用于正则化问题的实例研究。

Abstract

Algorithms to solve variational regularization of ill-posed inverse problems usually involve operators that depend on a collection of continuous parameters. When these operators enjoy some (local) regularity, the

variational regularization ill-posed inverse problems stein unbiased risk estimate sugar matrix completion

发现论文，激发创造

指数族通用 SURE: 应用于正则化

该论文提出了针对广泛问题的 Stein 无偏风险估计方法，扩展了 SURE 设计技术，并建议了一种基于正则化 SURE 目标的小波去噪策略，可以改善均方误差性能。

Apr, 2008

Stein 无偏风险估计的无监督学习

通过使用 Stein's Unbiased Risk Estimator（SURE）的概念，无需真实样本数据，仅使用来自相同噪声分布的其他图片的测量结果，就可实现图像恢复和降噪的任务，并在 Deep Image Prior 等领域取得了部分进展。

May, 2018

基于效用的差额风险优化：一个非渐近视角

在金融领域中，我们考虑了效用损失风险（UBSR）的估计和优化问题，推导了经典样本平均逼近（SAA）的 UBSR 的均方误差的非渐近界限，以及在平滑参数化下 UBSR 梯度的表达式，将它用于 UBSR 优化的随机梯度算法中，推导了非渐近界限以衡量该算法的收敛速率。

Oct, 2023

奇异值阈值和谱估计的无偏风险估计

本文提出一种针对噪声干扰下低秩数据矩阵恢复的无偏风险估计方法，特别是针对奇异值阈值软阈值规则（SVT）进行了风险估计，为一系列问题中的正则化参数选择提供了有机而自动化的方法，该方法可用于真实临床心脏 MRI 系列数据的 SVT 降噪，同时提出了某些矩阵值函数的可微性新结果。

Oct, 2012

C-SURE：用于复数值深度学习的缩减估计器与样本原型分类器

我们提出了 C-SURE，这是一种新的 Stein 偏置风险估计器，用于复值数据的流型，并将其融入了卷积神经网络分类器的原型中，在复值 MSTAR 和 RadioML 数据集上表现比 SurReal 更准确和稳健

Jun, 2020

基于 GSURE 的受损数据扩散模型训练

该研究提出了一种新的训练技术，基于受损数据训练扩散模型并引入 GSURE 损失函数。研究表明，在一定条件下，GSURE 损失函数相当于完全监督扩散模型中使用的训练目标，并可实现与完全监督模型相当的生成性能。

May, 2023

通过健壮的梯度估计实现健壮的估计

文章提出了一种新的，计算高效的风险极小化估计器类别，展示了它们在一般统计模型中的鲁棒性，特别地，在经典的 Huber epsilon 污染模型和重尾情况下。提出的核心是一种新型的鲁棒梯度下降算法，还给出了它在一般凸风险极小化问题中提供准确估计的条件，并以线性回归、逻辑回归和指数族中的规范参数估计为例。最后，在合成和实际数据集上研究了这种方法的实证表现，发现其比多种基线方法更具说服力。

Feb, 2018

深度学习与自适应滤波：一种斯坦的无偏风险估计方法

本文通过算法展开的角度重新审视了递归最小二乘（RLS）和等变自适应源分离（EASI）这两种著名的自适应滤波算法在源估计和分离方面的应用。基于算法展开方法，我们引入了新颖的基于任务的深度学习框架，称为 Deep RLS 和 Deep EASI。这些架构将原始算法的迭代转换为深度神经网络的层，从而通过利用训练过程实现了有效的源信号估计。为了进一步提高性能，我们提出使用基于 Stein 无偏风险估计器（SURE）的损失函数来训练这些深度展开网络。我们的实证评估证明了这种基于 SURE 的方法在改进源信号估计方面的有效性。

Jul, 2023

梯度和不确定性增强的全局拟合序贯抽样

提出了一种新的全局适应抽样策略，称为梯度和不确定性增强的顺序抽样（GUESS），该策略在该研究中与其他 9 种自适应抽样策略进行了比较，结果表明 GUESS 在测试样例上相比其他基于代理模型的策略具有最高的样本效率。

Sep, 2023

多元回归中降秩估计量的自由度

研究了降秩估计器在 Stein 的无偏风险估计中的自由度和模型选择问题，并提出了一种能够提高预测风险估计和模型选择精度的闭合形式估计器。

Oct, 2012