本文提出了一种新的方法，它能够将输入输出互信息与最小均方误差之间的关系联系起来，这种关系是基于信噪比的，无论输入的统计量如何，它都适用于非因果均方误差估计。

Dec, 2004

从非线性和含噪声观测中估计一个低秩矩阵的任务中，我们证明了一个强普适性结果，表明贝叶斯最优性能可由一个等效的高斯模型表示，其先验参数完全由非线性函数的展开所确定。特别地，我们展示了为了准确重建信号，需要一个随着 $ N^{rac 12 (1-1/k_F)}$ 增长的信噪比，其中 $k_F$ 是函数的第一个非零 Fisher 信息系数。我们提供了最小可实现均方误差（MMSE）的渐近特征及一个类似于问题的线性版本的条件下能达到 MMSE 的近似传递算法。我们还提供了方法如主成分分析与贝叶斯去噪等的渐近误差，并将其与贝叶斯最优 MMSE 进行了比较。

Mar, 2024

通过解决正则化 M - 估计问题，我们成功预测了在高维比例范式下这种估计器的误差性能，并识别了一种新的总结参数，称为预期的 Moreau 信封，在误差表征中起着核心作用。

Jan, 2016

本文介绍了一种使用机器学习技术来估计具有随机协方差矩阵的条件高斯随机向量的方法。这种模型在通信系统中非常常见，通过使用建立在结构化模型上 MMSE 估计器的神经网络蓝图，可以在给定精度下获得相似有效的解决方案，同时具备对理论模型之外的实际环境的一些基础的适应性。

Jul, 2017

研究了从受高斯噪声污染的观测中估计任意随机变量的最小均方误差，揭示出随着信噪比的增加，MMSE 是输入随机变量分布的凸函数，并且在给定任意输入分布下都是无穷可微的；同时证明了高斯输入具有保持机密性容量和广播通道容量的能力，并在某些条件下证明熵功率不等式。

Apr, 2010

通过分析最小二乘估计器的变体，，提出了一种半参数噪声估计算法，可以解决具有偏差，半参数噪声的估计问题，同时可以应用于部分观测线性系统参数的估计，且对于长期依赖问题的方差引入具有可减少的能力.

Feb, 2019

本文研究了基于机器学习的信道估计的均方误差 (MSE) 性能，采用假设检验分析其 MSE 上界，并建立了一个统计模型，推导出训练数据大小和性能之间的清晰分析关系。最后，讨论了仅有有限训练数据的情况下的设计考虑。

Nov, 2019

通过使用带有二次希尔伯特范数的凸经验风险正则化的学习方法，我们考虑了线性预测器和非线性预测器的设置，同时包括正定核。针对这类损失，作者提出了一种偏差 - 方差分解思路，并通过改善偏差项、方差项或二者同时来快速逼近渐进速率，从而实现在减小自相近损失假设下的非高斯预测器更快速的收敛效果。

Feb, 2019

线性估计问题中，我们建立了一个高斯 - 马尔可夫定理的扩展，其中偏置算子允许非零但相对于 Schatten 类型的矩阵范数保持有界。我们导出了核范数和谱范数（弗罗贝尼乌斯范数情况下回收岭回归）的最优估计器的简单和明确公式。此外，我们在多个随机矩阵集合中分析地导出了广义误差并与岭回归进行比较。最后，我们进行了大量模拟研究，结果显示交叉验证的核范数和谱范数回归器在某些情况下能胜过岭回归。

Nov, 2023

本文介绍了一种有效且实用的在线预测离散线性动态系统的算法，通过过参数化多项式对 LDS 的类别进行替代的方式，以获得损失函数的凸性，从而绕过了非凸最优化问题，并基于一种新颖的滤波技术进行了算法的构建。

Nov, 2017