Aug, 2023

跨领域评估因果知识提取方法

PDF
TL;DR从文本中提取相关原因和效果，检测因果关系的任务中，通过对三种序列标记模型进行彻底分析，并将其与基于跨度的因果性抽取方法进行比较，我们发现，与以往的复杂架构的最新模型相比，预训练语言模型（如 BERT）提供了显著的性能提升。我们观察到，基于跨度的模型在所有 4 个来自不同领域的数据集中，对于不同类型的因果短语表现更好。
causal knowledge extractionsequence tagging modelsspan based approachpre-trained language modelscause-effect phrases
发现论文，激发创造
  • 从自然语言文本中自动提取因果关系：综述

    本文综述了早期人类构造的语言和句法规则以及最新机器学习技术在提取因果关系上的应用，并分析了它们的优劣，建议未来的研究方向。

    May, 2016

  • 金融因果关系提取的生成方法

    该论文探讨了一种利用编码器 - 解码器框架和指针网络实现因果关系提取的生成式方法，并使用金融领域的因果数据集进行实验，结果表现出了极高的性能水平。

    Apr, 2022

  • 基于自注意力双向 LSTM-CRF 和转移嵌入的因果关系抽取

    论文提出了一种基于序列标注的原因提取方法，使用 SCITE，一个基于 BiLSTM-CRF 的神经因果提取器，并引入多头自注意力机制和 Flair embeddings 以提高性能，并在公共数据集上进行实验，结果表明相比于基线方法，该方法取得了显著且一致的提升。

    Apr, 2019

  • 2023 年 BoschAI @ Causal News Corpus：使用多层序列标记和数据增强的稳健因果关联提取

    通过基于预训练变换器、序列标注和合成数据增强的系统，我们在 Subtask 1 中排名第三，在 F1 得分为 72.8 的情况下赢得了 Subtask 2，较第二名系统高出 13 个百分点。

    Dec, 2023

  • 知识增强语言模型用于因果关系分类

    本文研究如何将常识知识加入预训练的语言模型中，并发现这种方式可以提高模型在因果关系分类和常识因果推理任务中的表现。

    Dec, 2021

  • 从新闻构建和解释因果知识图谱

    本文提出了一种从新闻中构建因果知识图谱的方法，其中采用了基于 BERT 的抽取模型和主题模型等技术，最终实现了高召回率、高精度和高连通性的知识图谱，有效地捕捉和传达因果关系。

    May, 2023

  • Causal BERT: 文本中事件因果检测的语言模型

    本篇论文探讨了使用句子语境与事件信息以及利用掩码事件语境和领域内外数据分布来识别自然语言文本中事件之间的因果关系，并证明该方法在三个不同的数据集上均取得了最新技术的表现，可用于从非结构化文本中提取因果关系图或建立事件链。

    Dec, 2020

  • UniCausal: 因果文本挖掘统一基准和模型

    提出 UniCausal 标准化数据集作为因果文本挖掘的基准，包括因果序列分类、原因 - 结果跨度检测和因果对分类等三项任务，并利用 BERT 预训练模型作为初始基准测试，取得了不同任务的二元 F1 分数，为研究人员提供了一个有利的研究平台。

    Aug, 2022

  • 针对时间序列事件从文本中检测和解释原因

    提出一种基于时间序列的 Granger 因果关系并结合文本数据进行因果关系的提取，建立事实间的因果联系，使用神经元的推理算法训练常识因果关系对下一个因果步骤的预测，并取得了实验证据支持该方法从时间序列文本特征中提取有意义的因果联系并生成适当解释

    Jul, 2017

  • CausalBERT：使用最少的监督注入因果知识到预训练模型中

    本文致力于探索如何把因果知识注入到预训练模型中，扩展了 CausalBERT 的思想并在各类数据集上进行实验验证，证明其有效性以及在因果推断任务上实现了新的性能提升。

    Jul, 2021