本文介绍了如何将信息论的关键概念推广到网络中，定义了网络集合的香农熵并解释了其与网络集合的吉布斯熵和冯・诺依曼熵之间的关系，这为通过最大熵理论获得网络零模型解决了关键问题，并在复杂网络领域的推理问题中发挥重要作用。

Jul, 2009

本文研究了网络结构熵的复杂性度量，通过对给定期望度序列的网络的 Shannon 熵和 Von Neumann 熵之间的关系的研究，发现当度分布包含一定的异质性时，两种熵之间存在有趣的相关性，这似乎表明这种异质性意味着网络的量子和经典描述之间的等价性分别对应于 Von Neumann 和 Shannon 熵。

Nov, 2010

分析和比较了两个变体的二次近似，并在合成和真实的图形上进行了广泛的实验，发现两个熵引起了类似但存在一些显著差异的结构的出现。

Sep, 2018

本文研究熵和信息在网络中的相关性，建立了连接性相关函数的信息理论模型，并利用其分解了元素群体对外部源的信息。

Jul, 2003

本文研究有限边缘集上香农信息量度的一些一般特性以及与最优化问题的关系，引入最小熵耦合的概念及其在信息理论、计算和统计学上的相关性，并研究由这些耦合所定义的偏度量族，特别是它们与总变差距离的关系，并给出对条件熵的新的表征。

Mar, 2013

通过图谱理论将亚图中心性解释为网络的配分函数，定义了网络和分子图的熵、内能和亥姆霍兹自由能，并讨论了这些量与复杂网络结构和动力学的各种关系。包括网络的紧密度以及耦合相位振荡器的临界耦合。我们探讨了多个网络生长 / 演化模型以及代表代谢和蛋白质相互作用网络以及蛋白质中二级结构元素相互作用的真实世界网络。

May, 2009

本文介绍了基于重现核希尔伯特空间中投影数据的 Hermitian 矩阵的归一化特征谱而发展起来的基于矩阵的 Renyi's alpha-entropy functional 及其多元扩展方法，拓展其使用价值并应用于卷积神经网络（CNN）中，通过发展三个量来分析卷积层表示中的协同作用和冗余，验证了两个基本的数据处理不等式，揭示了训练 CNN 的一些基本特性。

Apr, 2018

本文提出了一个使用再生核希尔伯特空间中的算子直接从数据中非参数地获取熵测度的框架，并定义了类似于量子熵的熵泛函，此方法避免了估计底层概率分布。同时定义了基于核的条件熵和互信息的估计量，并在独立性测试上进行了数值实验且表现良好。

Nov, 2012

本文提出了一种评估局部信息传递的方法，并应用到了细胞自动机中，证实了粒子结构是细胞自动机中传递信息的主要机制。

Sep, 2008

利用组合拉普拉斯的正则化方法，研究其特征值在概率分布上的 Shannon 熵作为图的正则度量，证明当节点集大小无限大时，正则图和完全图具有相等的正则度，而当边数固定时，具有大团的图似乎能够将此熵最小化。

Dec, 2008