定向信息图

Apr, 2012

Directed Information Graphs

Christopher J. Quinn, Negar Kiyavash, Todd P. Coleman

TL;DR提出了一个用于表示随机过程网络的图形模型 —— 最小生成模型图。该模型是基于时间上联合分布的简化因子化建立的，可以量化 Granger 因果性，并开发了高效的方法来从数据中估计拓扑结构。该算法已在 Twitter 网络的分析上得到了验证。

Abstract

We propose a graphical model for representing networks of stochastic processes, the minimal generative model graph. It is based on reduced factorizations of the joint distribution over time. We show that under appropriate conditions, it is unique and consistent with another type of

graphical model stochastic processes directed information structure learning algorithm twitter network

发现论文，激发创造

Granger 因果性与有向信息理论的关系：一篇综述

文章回顾了 Granger 因果关系和定向信息理论之间的概念和理论联系，并着重介绍了基于预测、条件独立性和即时耦合的 Granger 因果关系定义，以及基于传输熵的有向信息理论框架下的因果度量方法与 Granger 因果推断框架自然嵌合的假设检验机制。

Nov, 2012

循环有向概率图模型：基于结构化结果的提案

建立概率图模型从观测数据中学习结构时，会发现模型中的随机变量之间存在方向性的循环依赖关系。我们描述了一种概率图模型 - 概率关系网络，它允许直接捕捉结构学习过程中的方向性循环依赖关系。该模型基于一个简单的思想，即观测数据的每个样本都可以通过任意图来表示，这个图反映了样本中包含的变量间的依赖关系结构。我们探索了该模型中的完全联合分布和条件分布以及变量之间的条件独立性质。我们定义了从数据集构建模型和计算条件分布和完全联合分布的算法，并与贝叶斯网络和马尔可夫网络进行了数值比较。该模型不违背概率公理，支持从观测数据中学习，并支持概率推断，因此在数据分析、专家决策和设计应用中具有潜在的用途。

Oct, 2023

反馈模型的有向循环图形表示

该研究使用有向无环图 (DAG) 表示随机变量之间的条件独立关系，证明了非递归结构方程模型能够通过有向循环图表示条件独立误差，并推导出满足条件独立约束的充分条件以及非线性系统的变量在相关分布中条件独立的条件。

Feb, 2013

从因果对到因果图

通过概率分布和因果关系特征，提出了一种计算效率高的因果结构学习方法，并在合成和真实数据集上进行了验证。

Nov, 2022

结合生成和判别模型的混合推理

提出一个新的混合模型，该模型将图推断与学习逆模型相结合，用于 Kalman 滤波器并通过交叉验证来平衡图推断和学习推断的工作量，实验表明，该模型可以比独立运行的学习或图推断更准确地估计失真的 Lorenz 吸引子的轨迹。

Jun, 2019

有向循环图的发现算法

本文介绍了一个可以通过样本数据推理带循环因果图的因果结构的发现算法，并给出了正确性条件，该算法是稀疏图上的多项式。

Feb, 2013

混合有向无环图分布中因果结构的发现

研究通过混合因果模型来获得分布，并探讨了如何从基于此类分布的样本中进行因果结构学习及如何使用这些信息对样本进行聚类。

Jan, 2020

有向信息的通用估计

提出了四种估计器用于有限字母过程对之间的有向信息速率，基于通用概率分配。利用这些理论结果，使用上下文树加权算法作为通用概率分配实现了提出的估计器，并在合成和实际数据上进行了实验，证明了提出的方案的潜力及有向信息估计在检测和测量因果影响和延迟方面的实用性。

Jan, 2012

使用连续加性噪声模型进行因果推断

研究学习因果有向无环图从观察到的联合分布，探索一种基于结构方程模型的可识别因果图的替代方法，并提供针对有限样本的实用算法和实证研究。

Sep, 2013

估计被指导的信息和检验因果关系

研究了在联合过程是给定记忆长度的马尔可夫链的情况下，通过插件（或最大似然）估计算法来估算两个离散过程 {Xn} 和 {Yn} 之间的有向信息速率的问题。插件估计器被证明是渐近高斯的，并在适当条件下以最优速率 O（1/√n）收敛；这是第一个已被证明可以达到此速率的估计器。同时，该研究发现估算有向信息速率的问题与执行关于两个过程之间因果关系存在的假设检验问题之间存在重要联系。这些结果有助于设计实际的似然比检验，以检验因果影响的存在或不存在。

Jul, 2015