Apr, 2021

SemEval-2021 任务 9 中的 TAPAS: 使用中间预训练对表格进行推理

PDF
TL;DR本文介绍了 TAPAS 在语句验证和证据查找领域的贡献，该任务需要识别给定表的内容是否支持、中立或反驳一个陈述，使用 Eisenschlos 等人的二进制 TAPAS 模型。
tapassemeval 2021statement verificationtable contentbinary classification model
发现论文，激发创造
  • 利用 TAPAS 和迁移学习进行带表格语句验证和证据发现的 SemEval-2021 第 9 任务 Volta

    本文基于 TAPAS 模型扩展 BERT 框架以理解表格语义结构，在 SemEval-2021 任务 9 中解决表格事实的声明验证和证据查找问题，并通过在表头行上进行规范化来优化 TAPAS 在子任务 A 中的表现，在子任务 B 中引入不同的 fine-tuning 策略来提高模型准确率，模型在三种分类任务下分别取得了 67.34、72.89 和 62.95 的 F1 分数。

    Jun, 2021

  • 使用中间预训练理解表格

    通过数据增强方法，我们将 TAPAS 模型应用于表格蕴含和顺序表格问答任务，在采用表格剪枝技术的前提下，取得了 TabFact 和 SQA 数据集上的最新成果。

    Oct, 2020

  • 通过预训练实现弱监督的表格解析

    TAPAS 是一种用于表格上回答自然语言问题的模型，它使用弱监督训练，不需要生成逻辑式，而是通过对表格中的单元格进行选择并可选择性地应用相应的聚合算子来预测表格的结果，并在三个语义分析数据集上取得了优异成绩。

    Apr, 2020

  • ReasTAP: 通过合成推理实例在预训练期间注入表格推理技能

    本文介绍了一种基于强化预训练的模型 ReasTAP，可以注入高级的表格推理能力，在多项任务上取得新的最先进性能和显著的改进。

    Oct, 2022

  • TabFact：一个用于基于表格的事实验证的大规模数据集

    本文介绍 TabFact 数据集，其中包含 118k 人工标注的自然语言陈述，并以 16k 个 Wikipedia 表格作为证据，同时介绍了 Table-BERT 和 LPA，这两种算法都能在半结构化数据情况下进行事实验证，都有优点和不足之处，但是都能被进一步开发优化。

    Sep, 2019

  • SemEval-2021 任务 9：科学文档中表格数据的事实验证和证据搜索（SEM-TAB-FACTS）

    本研究旨在解决在科技论文中理解表格结构与表格内容，主要通过提供一个包含这些信息的数据集和 SemEval 任务挑战赛中两个子任务的方式来实现，共有 69 个团队参与，19 个成功提交了子任务 A 的结果，12 个成功提交了子任务 B 的结果。

    May, 2021

  • PASTA: 句表填空预训练，适用于表格操作感知的事实验证

    本文介绍了一种基于数据表的事实验证的新方法 PASTA，使用已经进行了先前训练的语言模型和通过合成句子 - 数据表填空问题而得到的 1.2 百万个数据对进行预训练，PASTA 在 TabFact 和 SEM-TAB-FACTS 两个基准测试中实现了最新的最佳表现

    Nov, 2022

  • 基于表格的事实验证与关注度感知学习

    本文提出一种新颖的系统，利用因果关系理论，通过探测式显著性估算方法确定语句的令牌级显著性，从而尝试在文本语句与表格数据之间建立联系和推理，进而应用显著性感知的数据增强技术来生成更多样化的训练实例，并结合该技术在 TabFact 数据集上取得了超过所有先前方法的最优性能。

    Sep, 2021

  • 生成式表格预训练加强了表格预测模型

    该论文提出了 TapTap，利用表格预训练生成高质量的合成表格，支持各种基于表格数据的应用，通过广泛的实验验证其在 12 个数据集上的性能大大优于 16 种基线，并可轻松与各种基础模型相结合，是合成表格数据生成发展中的一个里程碑。

    May, 2023

  • 使用 TabT5 进行表格到文本生成和预训练

    TABT5 是编码器 - 解码器模型，可以生成基于表格和文本输入的自然语言文本，结合表格特定的嵌入和预训练，成功地克服了编码器的限制，并在多个领域取得了最新的最佳结果。

    Oct, 2022