ACLJun, 2021

利用 TAPAS 和迁移学习进行带表格语句验证和证据发现的 SemEval-2021 第 9 任务 Volta

PDF
TL;DR本文基于 TAPAS 模型扩展 BERT 框架以理解表格语义结构，在 SemEval-2021 任务 9 中解决表格事实的声明验证和证据查找问题，并通过在表头行上进行规范化来优化 TAPAS 在子任务 A 中的表现，在子任务 B 中引入不同的 fine-tuning 策略来提高模型准确率，模型在三种分类任务下分别取得了 67.34、72.89 和 62.95 的 F1 分数。
tablessemanticverificationevidence findingtapas
发现论文，激发创造
  • SemEval-2021 任务 9 中的 TAPAS: 使用中间预训练对表格进行推理

    本文介绍了 TAPAS 在语句验证和证据查找领域的贡献，该任务需要识别给定表的内容是否支持、中立或反驳一个陈述，使用 Eisenschlos 等人的二进制 TAPAS 模型。

    Apr, 2021

  • SemEval-2021 任务 9：科学文档中表格数据的事实验证和证据搜索（SEM-TAB-FACTS）

    本研究旨在解决在科技论文中理解表格结构与表格内容，主要通过提供一个包含这些信息的数据集和 SemEval 任务挑战赛中两个子任务的方式来实现，共有 69 个团队参与，19 个成功提交了子任务 A 的结果，12 个成功提交了子任务 B 的结果。

    May, 2021

  • TabFact：一个用于基于表格的事实验证的大规模数据集

    本文介绍 TabFact 数据集，其中包含 118k 人工标注的自然语言陈述，并以 16k 个 Wikipedia 表格作为证据，同时介绍了 Table-BERT 和 LPA，这两种算法都能在半结构化数据情况下进行事实验证，都有优点和不足之处，但是都能被进一步开发优化。

    Sep, 2019

  • 通过预训练实现弱监督的表格解析

    TAPAS 是一种用于表格上回答自然语言问题的模型，它使用弱监督训练，不需要生成逻辑式，而是通过对表格中的单元格进行选择并可选择性地应用相应的聚合算子来预测表格的结果，并在三个语义分析数据集上取得了优异成绩。

    Apr, 2020

  • 使用中间预训练理解表格

    通过数据增强方法，我们将 TAPAS 模型应用于表格蕴含和顺序表格问答任务，在采用表格剪枝技术的前提下，取得了 TabFact 和 SQA 数据集上的最新成果。

    Oct, 2020

  • ReasTAP: 通过合成推理实例在预训练期间注入表格推理技能

    本文介绍了一种基于强化预训练的模型 ReasTAP，可以注入高级的表格推理能力，在多项任务上取得新的最先进性能和显著的改进。

    Oct, 2022

  • PASTA: 句表填空预训练，适用于表格操作感知的事实验证

    本文介绍了一种基于数据表的事实验证的新方法 PASTA，使用已经进行了先前训练的语言模型和通过合成句子 - 数据表填空问题而得到的 1.2 百万个数据对进行预训练，PASTA 在 TabFact 和 SEM-TAB-FACTS 两个基准测试中实现了最新的最佳表现

    Nov, 2022

  • 使用 TabT5 进行表格到文本生成和预训练

    TABT5 是编码器 - 解码器模型，可以生成基于表格和文本输入的自然语言文本，结合表格特定的嵌入和预训练，成功地克服了编码器的限制，并在多个领域取得了最新的最佳结果。

    Oct, 2022

  • 基于表格的事实验证与关注度感知学习

    本文提出一种新颖的系统，利用因果关系理论，通过探测式显著性估算方法确定语句的令牌级显著性，从而尝试在文本语句与表格数据之间建立联系和推理，进而应用显著性感知的数据增强技术来生成更多样化的训练实例，并结合该技术在 TabFact 数据集上取得了超过所有先前方法的最优性能。

    Sep, 2021

  • TAP4LLM：针对大型语言模型推理的半结构化数据采样、增补和打包表格提供器

    通过使用大型语言模型（LLMs）和 TAP4LLM 表格提供程序，我们在各种表格任务中实现了有效的半结构化数据推理，包括将原始表格分解为子表、提取语义和统计元数据、从可信知识源检索相关知识以及为 LLMs 推理打包采样表格。TAP4LLM 的不同组件作为插件，增强了 LLMs 对多样化表格任务中结构化数据的理解。

    Dec, 2023