拥抱黑箱：走向基于时间序列数据的因果发现基础模型

AAAIFeb, 2024

拥抱黑箱：走向基于时间序列数据的因果发现基础模型

Embracing the black box: Heading towards foundation models for causal discovery from time series data

Gideon Stein, Maha Shadaydeh, Joachim Denzler

TL;DRCausal Pretraining explores supervised learning to discover causal relationships from time series data, demonstrating that performance increases with data and model size and suggesting the potential for a foundation model for causal discovery.

Abstract

causal discovery from time series data encompasses many existing solutions, including those based on deep learning techniques. However, th

causal discovery time series data deep learning causal pretraining supervised learning

发现论文，激发创造

样本、估计、聚合：引发因果发现基础模型的一种方法

基于经典算法运行在较小变量子集上的深度学习模型识别因果结构，达到了与现有模型相比具有数量级更快的推理速度，具备针对合成和真实数据集的最先进性能，并能概括到在训练期间未见过的数据生成机制。

Feb, 2024

面向时间序列数据的基础模型

本文通过利用多个领域的无标签样本，旨在开发一种有效的时间序列基础模型。实验结果表明，与其他方法相比，该提出的预训练方法结合 Transformer 模型在下游分类任务中具有更好的性能。

Oct, 2023

从时间序列数据中发现结构因果模型的混合物

从混合不同因果模型的时间序列数据中，利用证据下界最大化的方法进行因果发现，经过实验证明在探测来自不同因果图的数据时，该方法优于现有基准模型。

Oct, 2023

一种用于时间序列的监督对比学习预训练 - 微调方法

引入一种新的预训练程序，利用有监督对比学习来区分每个预训练数据集中的特征，进而通过将目标数据与预训练数据集的学习动态更加紧密地对齐，以提高目标数据的准确预测。

Nov, 2023

深度因果学习：表示、发现和推断

本文综合评述了深度学习在因果学习中的贡献，解决了传统因果学习方法中的许多问题，并指出深度因果学习在因果科学的理论拓展和应用扩展中的重要性，并成为通用人工智能中不可或缺的一部分。

Nov, 2022

因果深度学习

提出了一种新的因果关系框架 —— 因果深度学习，这个框架包括三个维度：结构维度、参数维度和时间维度。该框架可以在利用不完整的因果知识的同时，结合多种因果深度学习方法，解决各种实际问题，从而实现真正的实际影响。同时，这个框架还可以让研究人员系统地对现有工作进行比较，并找出有前途的研究领域。

Mar, 2023

学习可解释概念：统一因果表示学习与基础模型

通过结合因果表示学习和理解如何从数据中学习可理解概念的思想，本研究正式定义了一个概念的概念，并证明了它们可以从多样数据中被可靠地还原，合成数据和大型语言模型上的实验表明了我们统一方法的实用性。

Feb, 2024

摊销因果发现：从时间序列数据中学习推断因果图

提出了一种基于共享动态的时序数据因果发现新框架，能够通过一个单一的学习模型有效识别不同样本之间的因果关系，从而在因果发现性能等方面取得了显著的提升，并可处理噪声和隐藏混淆等问题。

Jun, 2020

知识追踪中端到端因果发现的概念模型

本篇研究提出了一种深度知识追踪模型中的新型因果门循环单元（ GRU）模块，使用学习排列矩阵及以可选学习下三角矩阵的方式，解决了技能之间的因果关系问题，该解决方案在教育领域中有着重要的应用价值。

May, 2023

因果 Transformer: 时间因果发现的可解释 Transformer

通过预测任务和设计的多核因果卷积，CausalFormer 学习时序数据的因果表达，并通过回归相关传播解释训练后的模型全局结构以构建因果图，从而在发现时序因果性方面实现了最先进的性能。

Jun, 2024