Mar, 2024

用大型语言模型叙述因果图

PDF
TL;DR使用生成性人工智能从因果图生成文本描述的能力得到了实证调查，发现相对于基于事实的图形，因果文本描述在零 - shot 设置下更难生成，但使用少量示例进行模型训练与通过大型策划数据集进行微调获得类似的性能。
generative aitext descriptionscausal graphscausal reasoninggpt-3 models
发现论文，激发创造
  • 一种可解释的人工智能方法用于大型语言模型辅助因果模型审计和开发

    利用 ChatGPT 这样的大型语言模型作为因果网络的审计员，与人类分析师和领域专家共同合作，利用自动因果推理方法对因果网络进行审查和纠正，以获取与边缘方向、可能的混淆因素和中介变量相关的见解，进而为任意情景构建全面综合的因果模型。

    Dec, 2023

  • 大型语言模型能否构建因果图？

    本论文评估了大型语言模型在辅助因果图发展方面的作用，在编码共同知识和经验的基础上，利用自动评分来识别潜在图中的边缘，以减轻因果路径捕获的繁琐流程，并探讨 LLL 对语义探测单词、语境和提示的敏感度。

    Mar, 2023

  • 因果推理与大型语言模型：为因果关系开辟新领域

    本文探讨了大型语言模型（LLMs）的因果能力，证明它们在因果推理方面具有优越性能和独特的知识来源。同时，我们提供了技术来解释它们的鲁棒性，并认为 LLMs 可用作人类领域知识的代理以及降低因果分析中的人力成本。因此，LLMs 在推动因果研究、实践和采纳方面开辟了新的前沿。

    Apr, 2023

  • 文本的零 - shot 因果图外推通过 LLMs

    通过大型语言模型 (LLMs) 从自然语言中推断因果关系，并借助成对查询对因果图进行扩展，初始分析在生物医学文摘的基准上进行，结果有希望且支持在因果推断中采用 LLMs，尤其是在科学文本庞大且因果陈述经常隐含的医学领域。

    Dec, 2023

  • 基于约束的因果发现的大型语言模型

    本文研究了大型语言模型在生成因果图方面的能力，通过将条件独立性查询作为 LLM 的提示并与 PC 算法的答案结合，提出了一种基于统计启发的投票模式来改善性能，并发现因果推理可以用于对概率查询进行合理解释，从而证明了基于知识的因果推理可能成为一种补充数据驱动因果发现的工具。

    Jun, 2024

  • 评估用于图到文本生成的生成模型

    本文探讨了生成模型在零样本情况下从图数据生成描述性文本的能力，并与微调后的语言模型进行了比较，在两个图到文本数据集上评估了 GPT-3 和 ChatGPT 的性能。结果表明生成模型能够生成流畅和连贯的文本，AGENDA 和 WebNLG 数据集的 BLEU 分别达到 10.57 和 11.08。然而，我们的错误分析发现生成模型仍然难以理解实体之间的语义关系，并且倾向于生成存在幻觉或无关信息的文本。作为错误分析的一部分，我们使用 BERT 检测机器生成的文本，并实现了较高的宏 F1 得分。我们已公开提供生成模型生成的文本。

    Jul, 2023

  • 图文融合：图推理在文本空间中

    通过一种新的框架 GraphText，将图形转化为自然语言，无需图数据训练，能够实现与监督训练图神经网络相媲美甚至超越其性能的图推理，同时为人类和大型语言模型提供了与模型无缝交流的方式，突显了大型语言模型在图机器学习领域尚未探索的巨大潜力。

    Oct, 2023

  • 基于提示和微调的 LLM 与因果图验证

    该研究旨在利用自然语言处理技术通过文本来源对因果图进行自动验证。与之前的研究成果相比，该研究发现经过精调的预训练语言模型在因果关系分类任务上表现远超基于提示的语言模型，F1 得分最高提高了 20.5 个百分点。

    May, 2024

  • 基于检索增强生成的大型语言模型的因果图发现

    使用大语言模型从科学文献中提取关联关系，构建高质量的因果图。

    Feb, 2024

  • 因果关系：大型语言模型能真正理解因果关系吗？

    提出了一种新颖的架构称为 “具有反事实分析的上下文感知推理增强框架”，通过将显式和隐式因果推理相结合，利用 ConceptNet 和反事实语句来提高因果推理和可解释性，进一步提供对因果关系的深度理解和促进可解释性。

    Feb, 2024