EMNLPNov, 2022

PASTA: 句表填空预训练，适用于表格操作感知的事实验证

PDF
TL;DR本文介绍了一种基于数据表的事实验证的新方法 PASTA，使用已经进行了先前训练的语言模型和通过合成句子 - 数据表填空问题而得到的 1.2 百万个数据对进行预训练，PASTA 在 TabFact 和 SEM-TAB-FACTS 两个基准测试中实现了最新的最佳表现
fact verificationtable-basedpre-trained lmpastatabfact
发现论文，激发创造
  • TabFact：一个用于基于表格的事实验证的大规模数据集

    本文介绍 TabFact 数据集，其中包含 118k 人工标注的自然语言陈述，并以 16k 个 Wikipedia 表格作为证据，同时介绍了 Table-BERT 和 LPA，这两种算法都能在半结构化数据情况下进行事实验证，都有优点和不足之处，但是都能被进一步开发优化。

    Sep, 2019

  • 利用 TAPAS 和迁移学习进行带表格语句验证和证据发现的 SemEval-2021 第 9 任务 Volta

    本文基于 TAPAS 模型扩展 BERT 框架以理解表格语义结构，在 SemEval-2021 任务 9 中解决表格事实的声明验证和证据查找问题，并通过在表头行上进行规范化来优化 TAPAS 在子任务 A 中的表现，在子任务 B 中引入不同的 fine-tuning 策略来提高模型准确率，模型在三种分类任务下分别取得了 67.34、72.89 和 62.95 的 F1 分数。

    Jun, 2021

  • 基于表格的事实验证与关注度感知学习

    本文提出一种新颖的系统，利用因果关系理论，通过探测式显著性估算方法确定语句的令牌级显著性，从而尝试在文本语句与表格数据之间建立联系和推理，进而应用显著性感知的数据增强技术来生成更多样化的训练实例，并结合该技术在 TabFact 数据集上取得了超过所有先前方法的最优性能。

    Sep, 2021

  • SemEval-2021 任务 9 中的 TAPAS: 使用中间预训练对表格进行推理

    本文介绍了 TAPAS 在语句验证和证据查找领域的贡献，该任务需要识别给定表的内容是否支持、中立或反驳一个陈述，使用 Eisenschlos 等人的二进制 TAPAS 模型。

    Apr, 2021

  • 使用中间预训练理解表格

    通过数据增强方法，我们将 TAPAS 模型应用于表格蕴含和顺序表格问答任务，在采用表格剪枝技术的前提下，取得了 TabFact 和 SQA 数据集上的最新成果。

    Oct, 2020

  • 通过预训练实现弱监督的表格解析

    TAPAS 是一种用于表格上回答自然语言问题的模型，它使用弱监督训练，不需要生成逻辑式，而是通过对表格中的单元格进行选择并可选择性地应用相应的聚合算子来预测表格的结果，并在三个语义分析数据集上取得了优异成绩。

    Apr, 2020

  • SemEval-2021 任务 9：科学文档中表格数据的事实验证和证据搜索（SEM-TAB-FACTS）

    本研究旨在解决在科技论文中理解表格结构与表格内容，主要通过提供一个包含这些信息的数据集和 SemEval 任务挑战赛中两个子任务的方式来实现，共有 69 个团队参与，19 个成功提交了子任务 A 的结果，12 个成功提交了子任务 B 的结果。

    May, 2021

  • 基于表格的事实验证探索分解

    本文提出了一种分解复杂语句为简单子问题，并以程序为指导构建伪数据集进行分解模型训练的方法，从而增强事实验证模型的中间证据，通过实验证明，在 TabFact 基准测试中取得了 82.7％的最新最佳性能。

    Sep, 2021

  • PASTA: 叙述中参与者状态建模数据集

    通过对基于参与者状态的故事进行建模和推理，我们引入了一个新的参与者状态数据集 PASTA，并介绍了三个基于状态推理的任务，证明目前的 LLMs 具有一定的推理状态的能力，但是仍有很大的改进空间，为未来的研究提供了潜在途径。

    Jul, 2022

  • 开放事实核查中基于表格的联合验证与重新排名

    本文介绍了一种结合重新排序和验证模型的开放域结构化数据自动验证方法，包括多种表格，实现了与封闭领域技术水平可比较的表现，并相对启发式检索基准有显著提升，关键词包括：结构化数据，验证方法，开放领域，联合重新排序和验证模型，TabFact 数据集。

    Dec, 2020