基于信息瓶颈的方法能够明确地识别与预测未来相关性最高的变量,为模型简化提供了基础,并可通过解析关系构建可解释的深度学习工具。在天气系统和卫星电影领域验证了该方法的有效性。
Dec, 2023
该论文介绍了一个包含 131 个已知的混沌动力系统的数据库,每个系统都与预计算的多变量和单变量时间序列相匹配,这些系统涵盖了天体物理学,气象学和生物化学等领域,并对每个系统的已知数学属性进行了注释,并通过多种方式使用该数据库进行了实验。
Oct, 2021
该论文介绍了信息瓶颈理论作为一种信息理论范例来分析机器学习中使用深度学习等算法进行降维操作的有效性,并总结了其在深度学习理论中的重要性和实际算法的启示。
Apr, 2020
提出依据短时间动力学的高效测量方案,并使用群化可交换观测量和哈密顿对称性来改善哈密顿重构的准确性。
Aug, 2021
提出了一种用于在监督学习中提取特征的新策略,该方法在信息瓶颈的基础上引入了一个额外的惩罚项来鼓励提取的特征的 Fisher 信息在参数化输入时变小,从而实现分类器的更好鲁棒性。
Oct, 2019
本文提出了一个针对混沌系统长期预测的框架,该框架旨在保留描述动力学的不变吸引子的不变统计特性。我们考虑两种方法来处理噪声数据的多环境设置中的训练,一种是基于观察到的动力学和神经操作器输出之间的最优输运距离的损失,另一种是不需要任何专业先前知识的对比学习框架。通过在各种混沌系统上进行实证验证,我们的方法在保持混沌吸引子的不变测度方面表现出很好的效果。
Jun, 2023
通过信息熵,我们提出了一种实用的方法来解压数据中的重要变化,以研究复杂系统。
Jul, 2023
本文提出了一种新的数据驱动建模范式,该范式可以同时学习动态和估计每次观察的测量误差。作者使用深度神经网络建模未知矢量场,并在非均匀时间步长的数据中加入龙格 - 库塔积分器,以约束和集中建模的工作。在多项标准测试问题中表现出本方法形成预测模型的能力,并表明它对大量测量误差具有强鲁棒性。
Aug, 2018
在这篇论文中,我们介绍了一种将复杂系统映射到简化表示空间,并模拟时间大跳变化的推理过程。我们提出了基于信息理论的时间滞后信息瓶颈(T-IB)目标,旨在捕捉相关的时间特征,简化仿真任务并最小化推理错误。实验结果表明,T-IB 学习了信息最优的表示,能够准确地建模原始过程在选择的时间滞后下的统计属性和动力学,胜过现有的时间滞后降维方法。
Sep, 2023
学习耗散混沌系统的动力学是非常困难的,但该研究提出了一个新的框架,旨在学习不变测度和动力学,相比于传统方法,该框架实现了更好的点对点跟踪和长期统计准确性。
Feb, 2024