因果模型的泛化和适应性能

Jun, 2022

On the Generalization and Adaption Performance of Causal Models

Nino Scherrer, Anirudh Goyal, Stefan Bauer, Yoshua Bengio, Nan Rosemary Ke

TL;DR本文研究了神经因果模型在零样本和小样本情况下的性能，并将其与单体模型和结构模型进行比较，其中预测变量的集合没有被限制为因果父节点。研究发现，相对于其他模型，因果神经模型在低数据量情况下具有更好的零样本和小样本适应性，并提供了稳健的泛化能力。此外，研究发现，比起更密集的图，对于更稀疏的图，这种效果更为显著。

Abstract

Learning models that offer robust out-of-distribution generalization and fast adaptation is a key challenge in modern machine learning. Modelling causal structure into neural networks holds the promise to accomplish robust zero and →

neural causal models causal discovery few-shot adaptation generalization modular decomposition

发现论文，激发创造

神经因果表示的摊销学习

本文提出了一种名为因果关系网络的算法，采用神经网络学习因果模型，并使用连续表示方法表示因果模型，从而更好地处理大量变量和利用先前的知识帮助学习新的因果模型，同时提出一种基于解码的评估指标。在合成数据的测试中取得了高精度和快速适应新因果模型的效果。

Aug, 2020

将图神经网络与结构因果模型相关联

本文通过建立结构性因果模型和应用图神经网络模型，提出了一种新的因果推断方法，并证明了该方法可以用于因果效果辨识。

Sep, 2021

因果结构学习

本文研究了关于基于数据学习因果模型的结构学习算法，比较了它们在不同场景下的实验性能表现。

Jun, 2017

因果模型适应速度分析

本文在未知的结构因果模型 G 执行未知干预收集的数据集的基础上，使用随机优化的收敛速率，对因果关系下的结构因果模型 (SCMs) 适应速度进行了研究，并利用参数空间距离作为代理来衡量适应速度。我们发现，当干预在原因变量上时，SCM 的正确因果方向会得到巨大优势，而当干预在效应变量上时，我们对其相对适应速度进行了表征。令人惊讶的是，我们发现反因果模型在某些情况下具有优势，从而推翻初始假设。

May, 2020

学习潜在结构因果模型

本文提出了一种基于贝叶斯推理的方法，在低级别数据的情况下学习维度高、SCM 结构和参数未知的高级因果变量，从而实现对潜在 SCM 的推断和图像生成。

Oct, 2022

学习解离因果机制的元转移目标

利用元学习方法，基于快速适应新分布的速度，学习因果结构，包括因果关系的参数化，模块化和编码等方面，以提高对非标准干预的快速适应能力和降低重学需要的信息量。

Jan, 2019

高维因果推断的深层因果生成模型的模块化学习

提出了名为 Modular-DCM 的算法，利用预训练模型可以可靠地对高维数据进行因果查询，并从可识别的干预和反事实分布中采样。

Jan, 2024

在线学习因果模型

通过检测和去除虚假特征来间接发现因果模型，以加强预测模型的鲁棒性和泛化能力，并说明问题的时间结构信息对于在线检测虚假特征至关重要。

Jun, 2020

因果模型的可迁移性结构映射

本文介绍了一种基于对象导向表现形式的迁移学习框架，该框架利用人类学习因果模型并将其用于环境的变量之间的迁移。作者将连续优化的结构学习技术应用于对象之间的因果关系的显式学习中，并通过基于因果知识的对象分类将其迁移到目标领域。最后，在强化学习中，作者结合了因果模型和无模型方法，实现对格子世界环境中的对象表现的优化。

Jul, 2020

层次网络的模块化增长：高效、通用、稳健的课程学习

通过渐进式的模块化增长，研究表明，模块化网络在记忆任务上具有更好的性能、更强的泛化能力和对某些扰动的鲁棒性，即使只有模块之间的连接被训练，结构拓扑引入的归纳偏置足够强大，使得网络在固定了模块内连接的情况下仍能表现良好，并且逐渐模块化增长的循环神经网络能够在进化时间尺度上学习越来越复杂的任务，并且有助于构建更可扩展且可压缩的人工网络。

Jun, 2024