Feb, 2024

S$Ω$I: 基于评分的O-信息估计

HTML
PDF
TL;DR分析科学数据和复杂的多元系统所需的信息数量，为了捕捉多个随机变量之间的关系，最近开发了新的信息理论度量方法，其中多变量系统中协同作用和冗余的概念对于理解高阶依赖关系至关重要。在这项工作中，我们介绍了一种名为SΩI的方法，它首次允许在不受限制的系统假设下计算O-information。通过在合成数据上验证我们的方法，并展示SΩI在实际案例中的有效性。
发现论文，激发创造
  • 使用最近邻比率直接估计信息差异

    提出了新的图论解释下的直接估计方法，用于估计Renyi和f-divergence的度量。通过对Y中k-NN方案点和X中点数之间的平均功率进行估计，可以获得两个密度之间的Renyi divergence估计值，并且这种方法可以用于估计f-divergence度量。通过使用加权合成估计技术，该方法可以用于具有连续和有界导数的密度函数的估计，其能够获得参数MSE率O(1/N)。

    Feb, 2017

  • 依赖关系约束实现独特信息

    该研究开发一种基于新方法量化唯一信息的分解方法，并使用该方法对适用范围广泛的依赖分解法进行定义和衡量，从而首次提出了满足PID框架核心公理且不满足Blackwell关系的度量方法，为实现PID提供了重要进展。

    Sep, 2017

  • 基于矩阵的 Renyi α 阶熵函数的多元扩展

    本文介绍了基于矩阵的 Renyi 的 α 阶熵函数及其在多变量信息量例如多变量联合熵和变量之间不同的交互量，交互信息和总相关度的估计方面的应用，还提供了一个实际的高光谱图像（HSI）波段选择的例子。

    Aug, 2018

  • 理解变分互信息估计器的局限性

    论文提出并实现了一种新的基于神经网络的相互信息估计方法，该方法能够有效地减少方差并针对基准测试任务展现出更好的偏差-方差权衡性能。

    Oct, 2019

  • 基于独立性检验的测量误差和线性非高斯模型因果发现方法

    本文提出了一种基于Transformed Independent Noise (TIN)的方法，用于解决测量误差下的因果图结构恢复问题，相比现有方法，TIN条件检验方法更具可扩展性且在合成和真实数据中均能取得较好的效果。

    Oct, 2022

  • 高阶交互作用的交互测量，划分格和核检验

    本研究提出了一种$d$阶交互作用度量的层次结构，定义了非参数的基于核的检验方法来系统地确定$d$阶交互作用的统计显著性，并与格理论建立数学联系，以提高计算效率。研究结果在合成数据验证和神经影像数据应用中得到了论证。

    Jun, 2023

  • 超越常规：互信息估计评估

    本文构建了一个多样的分布族，展示了语言无关基准平台用于互信息估计器的实用性和局限性，并提出了适应问题困难度的适当估计器的选择指南及应用估计器时需要考虑的问题。

    Jun, 2023

  • 利用机器学习进行信息分解，识别复杂系统中的相关变化

    通过信息熵，我们提出了一种实用的方法来解压数据中的重要变化，以研究复杂系统。

    Jul, 2023

  • 关于学习何时学习：动态的异构观察和它们之间的建立（可能是因果）关系

    通过多个同步异构数据流处理，确定共同观测变量和各自观测变量，从而建立动力学模型并利用数据驱动的函数逼近技术来学习输入输出关系。

    Jun, 2024

  • 基于互信息度量的异构数据无监督对因果发现

    本研究解决了因果发现领域中基于监督学习方法可能导致的误导性结果问题，提出了一种无监督的二变量因果发现方法。通过使用稳健的互信息度量，考虑了不同变量类型的影响，提供了一组标准的无偏结果，以指导未来在完全未知环境下的因果发现任务。

    Aug, 2024