本文提出了一种新的方法，它能够将输入输出互信息与最小均方误差之间的关系联系起来，这种关系是基于信噪比的，无论输入的统计量如何，它都适用于非因果均方误差估计。

Dec, 2004

从非线性和含噪声观测中估计一个低秩矩阵的任务中，我们证明了一个强普适性结果，表明贝叶斯最优性能可由一个等效的高斯模型表示，其先验参数完全由非线性函数的展开所确定。特别地，我们展示了为了准确重建信号，需要一个随着 $ N^{rac 12 (1-1/k_F)}$ 增长的信噪比，其中 $k_F$ 是函数的第一个非零 Fisher 信息系数。我们提供了最小可实现均方误差（MMSE）的渐近特征及一个类似于问题的线性版本的条件下能达到 MMSE 的近似传递算法。我们还提供了方法如主成分分析与贝叶斯去噪等的渐近误差，并将其与贝叶斯最优 MMSE 进行了比较。

Mar, 2024

本文介绍了一种使用机器学习技术来估计具有随机协方差矩阵的条件高斯随机向量的方法。这种模型在通信系统中非常常见，通过使用建立在结构化模型上 MMSE 估计器的神经网络蓝图，可以在给定精度下获得相似有效的解决方案，同时具备对理论模型之外的实际环境的一些基础的适应性。

Jul, 2017

本研究提出了一种新方法，用于分析已知模型下统计推断的基本限制，并得出了对互信息、最小均方误差、相变点及近似消息传递算法状态演化的稳定点等的显式公式，其中关键的假设是矩阵来自正交不变分布，本方法适用于具有多元高斯信道的模型。

Oct, 2017

该论文中提出了一种新的估计信号的方法，可以在压缩感知、稀疏叠加编码或分割多路接入等应用中使用，该方法基于统计物理的启发式重复方法，使用 Guerra 类型插值和空间耦合分析，得出了相对精确的互信息估计和最小均方误差单字公式，可以应用于所有离散有界信号的随机高斯线性估计。

Jul, 2016

本文考虑了高斯多输入多输出多接收方窃听信道的保密通信问题，并使用最小均方误差、互信息、费舍尔信息以及差分熵之间的关系推导出保密容量区域，证明了该信道的保密容量可用高斯信号的 Dirty-paper 编码实现。

Mar, 2009

本研究关注带有一定结构信号的去噪问题，使用结构诱导凸函数来最小化误差和正则项以评估模型性能，并建立了去噪与线性反问题之间的联系。

May, 2013

本文考虑了压缩感知在独立同分布信号分布和独立同分布高斯测量矩阵情况下的基本限制，并在温和技术条件下严格描述了其渐近互信息和最小均方误差。结果表明，极限互信息和最小均方误差等于统计物理学中复制方法预测的值。这解决了一个长达十年的已知问题。

Jul, 2016

本文论述了关于从多个观察值中学习字典矩阵的问题，并得出了三个不同的下限，分别应用于不同的生成模型，特别地，其中一下限是通过假设真实字典满足受限等同性性质，并基于信噪比来计算的。

Jul, 2015

通过将信息理论中的信息与最小均方误差回归相联系，我们引入了扰动扩散模型的新数学基础，并将现有的扩散界限进行了优化，从而使得连续和离散概率可以通过相同的回归目标来学习，从而避免了变分方法中使用的特定领域的生成模型。

Feb, 2023