本文通过自适应插值方法和随机矩阵理论证明了 Takeda，Uda，Kabashima 和 Tulino，Verdu，Caire 和 Shamai 使用复制方法提出的公式适用于一类具有旋转不变性质的矩阵，进而超越了原有广泛应用于压缩感知和统计学的噪声线性估计问题中的 i.i.d. 矩阵假设。

Feb, 2018

该论文研究如何采用严谨的方法证明低秩矩阵的对称秩一情况的互信息，进而表达最小均方误差和表征检测相位转变；同时介绍了一种被称为近似消息传递的迭代算法在贝叶斯最优条件下的优越性，并提出了通用的解决其他问题的方法。

Jun, 2016

本文提出了一种新的方法，它能够将输入输出互信息与最小均方误差之间的关系联系起来，这种关系是基于信噪比的，无论输入的统计量如何，它都适用于非因果均方误差估计。

Dec, 2004

我们发现在 A. Kraskov 等人的文章中声称两个实值随机变量之间的互信息的下界存在错误，并提出了一种新的方法建立在较弱的假设下得到较紧的下界，并在基因表达数据中展示了这种方法的实用性。

Aug, 2010

提出了一种新的半参数估计互信息的方法，该方法使用高斯分布来局部逼近密度函数，与其他基准方法相比具有更好的性能，并能准确地测量许多数量级上的关系强度。

Aug, 2015

本文介绍了基于 $k$- 最近邻距离的熵估计的改进互信息估计器类别，并说明了它们与现有算法的比较和实际应用中的有效性。

May, 2003

本文考虑了压缩感知在独立同分布信号分布和独立同分布高斯测量矩阵情况下的基本限制，并在温和技术条件下严格描述了其渐近互信息和最小均方误差。结果表明，极限互信息和最小均方误差等于统计物理学中复制方法预测的值。这解决了一个长达十年的已知问题。

Jul, 2016

本文构建了一个多样的分布族，展示了语言无关基准平台用于互信息估计器的实用性和局限性，并提出了适应问题困难度的适当估计器的选择指南及应用估计器时需要考虑的问题。

Jun, 2023

研究了从受高斯噪声污染的观测中估计任意随机变量的最小均方误差，揭示出随着信噪比的增加，MMSE 是输入随机变量分布的凸函数，并且在给定任意输入分布下都是无穷可微的；同时证明了高斯输入具有保持机密性容量和广播通道容量的能力，并在某些条件下证明熵功率不等式。

Apr, 2010

从非线性和含噪声观测中估计一个低秩矩阵的任务中，我们证明了一个强普适性结果，表明贝叶斯最优性能可由一个等效的高斯模型表示，其先验参数完全由非线性函数的展开所确定。特别地，我们展示了为了准确重建信号，需要一个随着 $ N^{rac 12 (1-1/k_F)}$ 增长的信噪比，其中 $k_F$ 是函数的第一个非零 Fisher 信息系数。我们提供了最小可实现均方误差（MMSE）的渐近特征及一个类似于问题的线性版本的条件下能达到 MMSE 的近似传递算法。我们还提供了方法如主成分分析与贝叶斯去噪等的渐近误差，并将其与贝叶斯最优 MMSE 进行了比较。

Mar, 2024