大语言模型辅助的因果结构学习

Nov, 2023

Causal Structure Learning Supervised by Large Language Model

Taiyu Ban, Lyuzhou Chen, Derui Lyu, Xiangyu Wang, Huanhuan Chen

TL;DR迭代式 LLM 监督 CSL（ILS-CSL）框架通过将基于 LLM 的因果推理与 CSL 相结合，并从 LLM 中获得反馈，从而改进了因果有向无环图（DAG）的学习，提供了更强效的因果发现方法，并在八个真实世界数据集上的综合评估中表现出优越的性能，展示了其推动因果发现领域进步的潜力。

Abstract

causal discovery from observational data is pivotal for deciphering complex relationships. causal structure learning (CSL), which focuses on deriving causal Directed Acyclic Graphs (DAGs) from data, faces challen

causal discovery causal structure learning large language models iterative llm supervised csl causal dag

发现论文，激发创造

多粒度因果结构学习

揭示、建模和理解自然现象的因果机制是科学研究中的基本任务，此文讨论一种名为 MgCSL（多粒度因果结构学习）的新方法，通过利用稀疏自动编码器探索从微观变量到宏观变量的粗粒度策略和因果抽象，使用多粒度变量作为输入训练多层感知机，从而深入研究变量之间的因果关系，并引入一种简化的非循环性约束以适应高维数据，实验证明 MgCSL 优于竞争方法，并在 fMRI 数据集中发现可解释的因果连接。

Dec, 2023

从查询工具到因果架构：利用大型语言模型从数据中进行先进的因果发现

本文提出了一种结合基于知识的 LLMs 因果分析和数据驱动因果结构学习的新框架，以构建因果结构学习的新范式，并介绍了一套广泛的提示组，以从给定变量中提取因果图，并评估 LLM 先前因果对从数据中恢复因果结构的影响

Jun, 2023

基于约束的因果发现的大型语言模型

本文研究了大型语言模型在生成因果图方面的能力，通过将条件独立性查询作为 LLM 的提示并与 PC 算法的答案结合，提出了一种基于统计启发的投票模式来改善性能，并发现因果推理可以用于对概率查询进行合理解释，从而证明了基于知识的因果推理可能成为一种补充数据驱动因果发现的工具。

Jun, 2024

大型语言模型对因果图发现的有效先验

整合专家提供的背景知识可以改善观测数据的因果结构发现，并且由于对比人工专家而言查询它们的成本较低，最近开始将大型语言模型（LLM）视为提供先验信息的来源。本研究首先提出了一组用于独立于下游算法评估 LLM 判断因果图发现的度量标准。其次，我们系统地研究了一组提示设计，使模型能够指定关于因果图结构的先验。最后，我们提出了一种将 LLM 先验整合到图发现算法中的通用方法，发现它们在常识基准和特别是用于评估边缘方向性时有助于提高性能。我们的研究突显了在该问题空间中使用 LLM 的潜力和局限性。

May, 2024

跨越因果发现和大型语言模型的桥梁：综合方法与未来方向的全面调研

本文就 LLM（如 GPT4）在因果发现任务中的综合应用进行了全面的调查，系统地回顾和比较了现有的 LLM 利用方法，并强调了它们在推断因果结构中利用元数据和自然语言的创新使用。我们的分析揭示了 LLM 在增强传统 CD 方法和作为不完善专家方面的优势和潜力，同时也揭示了当前实践中存在的挑战和限制。此外，我们还确定了文献中的空白，并提出了旨在发挥 LLM 在因果研究中全部潜力的未来研究方向。据我们所知，这是第一次对 LLM 和 CD 之间的协同作用进行统一而详细的调查，为未来的进展奠定了基础。

Feb, 2024

在因果发现中整合大语言模型：统计因果方法

通过将领域专家知识作为约束嵌入到算法中，结合使用统计因果推断方法和基于知识的因果推断方法，通过大型语言模型进行统计因果提示，可以改善数据驱动的因果推断。该方法能够解决数据集偏差和限制等挑战，展示了大型语言模型在不同科学领域中改进数据驱动因果推断的潜力。

Feb, 2024

用于因果决策的大型语言模型

通过对开源大语言模型进行微调，我们提出了 LLM4Causal，它能够识别因果任务、执行相应的函数并解释其数值结果，同时我们还提出了一种数据生成过程，用于更可控的 GPT 提示，并提供了两个指令微调数据集：因果检索基准和因果解释基准。通过三个案例研究，我们展示了 LLM4Causal 能够为因果问题提供端到端的解决方案并提供易于理解的答案。数值研究还显示，它在给定查询时具有寻找正确因果任务的显著能力。

Dec, 2023

大型语言模型与协作中的因果推断：综合调查

因果推断在捕捉变量之间的因果关系方面显示出在增强自然语言处理模型的预测准确性、公平性、鲁棒性和解释性方面的潜力。生成大型语言模型在通过其先进的推理能力显著影响各种自然语言处理领域的同时，这篇综述从因果的角度对生成大型语言模型进行评估和改进，从而理解和提高生成大型语言模型的推理能力，解决公平性和安全性问题，提供解释支持，并处理多模态数据。与此同时，生成大型语言模型强大的推理能力可以推动因果推断领域的发展，帮助发现因果关系和因果效应估计。本综述旨在探索因果推断框架和生成大型语言模型之间的相互作用，强调它们共同潜力以进一步开发更高级、更公平的人工智能系统。

Mar, 2024

概率软逻辑的可扩展结构学习

本文提出了两种优化方法用于针对 PSL 的结构学习，一种是基于贪心搜索的算法，另一种是结合生成子句的数据驱动和针对性能的伪似然性段分段优化（PPLL）目标的算法，在五个实际任务中的比较表明 PPLL 实现了数量级运行时加速和 AUC 增益高达 15％以上。

Jul, 2018

LLM 导向的因果推断

基于观察数据的因果推断核心是确定可靠的因果图。本文研究表明，仅凭因果顺序而非完整图信息便足以进行因果效应推断。同时，我们利用大型语言模型（LLMs）作为虚拟领域专家，提出了一种从 LLMs 中获取因果顺序的鲁棒技术。实验证明，与传统的发现算法相比，我们的方法显著提高了因果顺序的准确性，突显了 LLMs 在各个领域增强因果推断的潜力。

Oct, 2023