研究了在联合过程是给定记忆长度的马尔可夫链的情况下，通过插件（或最大似然）估计算法来估算两个离散过程 {Xn} 和 {Yn} 之间的有向信息速率的问题。插件估计器被证明是渐近高斯的，并在适当条件下以最优速率 O（1/√n）收敛；这是第一个已被证明可以达到此速率的估计器。同时，该研究发现估算有向信息速率的问题与执行关于两个过程之间因果关系存在的假设检验问题之间存在重要联系。 这些结果有助于设计实际的似然比检验，以检验因果影响的存在或不存在。

Jul, 2015

本文提出了一种基于非参数估计和广义最近邻图的计算 Renyi 熵和互信息的算法，证明了这种算法的几乎必然一致性和上限的收敛速度，并在实验中展示了其在独立子空间分析中的实用性。

Mar, 2010

提出了一个用于表示随机过程网络的图形模型 —— 最小生成模型图。该模型是基于时间上联合分布的简化因子化建立的，可以量化 Granger 因果性，并开发了高效的方法来从数据中估计拓扑结构。该算法已在 Twitter 网络的分析上得到了验证。

Apr, 2012

本文提出了一种使用强化学习技术对离散输入空间中的定向信息进行估计和优化的框架，并将其应用于估计各种离散通道（包括前馈和反馈）的能力。

Jan, 2023

本文介绍了基于 $k$- 最近邻距离的熵估计的改进互信息估计器类别，并说明了它们与现有算法的比较和实际应用中的有效性。

May, 2003

本文提出了一种统一的框架，用于基于交互式协议的分布式参数估计，可以导出各种紧密下限，适用于不同的参数分布族；特别是在高斯家族的原型情况下，我们的方法可以规避以往技术的局限性，并补充了匹配的上限。

Oct, 2020

本文构建了一个多样的分布族，展示了语言无关基准平台用于互信息估计器的实用性和局限性，并提出了适应问题困难度的适当估计器的选择指南及应用估计器时需要考虑的问题。

Jun, 2023

文中提出了一种利用概率去相关引理、对测度空间中的的概率测度进行对称化、配对和链化等技术来获得学习算法信息论泛化界限的一般性方法，进而得到新的期望值和高概率条件下泛化误差的上界，特别地，还包括了基于互信息、条件互信息、随机链和 PAC-Bayes 不等式等现有泛化界限的特例。此外，Fernique-Talagrand 上界也是一个特例。

May, 2023

从时间序列数据中学习未知参数的基本极限是我们的研究方向，我们发现最优推断的无偏估计与观测长度成比例，并得到了闭合形式表达式。

Oct, 2023

提出了一种在大型网络中估计信息关系的实用方法，可以可靠地估计互信息和多个信息项，并通过基因表达、金融市场和消费者偏好等领域的分析加以说明。

Feb, 2005