ACLMay, 2023

利用自动问答评估器的监督学习答案生成

PDF
TL;DR本研究通过提出一种新的 GenQA 训练范式，利用自动 QA 评估模型（GAVA）中的监督进行知识转移，比以往的基于 AS2 模型的抽取式 QA 方法有更高的准确率，方法包括：用由 GAVA 标记的 GenQA 模型生成的答案增加训练数据，使用 GAVA 分数加权生成器损失以及动态标记生成的答案。
generation-based qaanswer sentence selectiongavatraining paradigmautomatic qa evaluation
发现论文，激发创造
  • 从答案排序到答案生成的知识转移

    本文提出一种通过从 AS2 模型中传递知识来训练 GenQA 模型的方法，该模型将候选答案进行排序，使用排名最高的答案作为生成目标，并使用前 k 个排名最高的答案作为上下文进行训练。模型还利用 AS2 模型的预测得分进行损失权重和条件输入 / 输出塑形，以协助知识传递，并在三个公共数据集和一个大型工业数据集上的评估中证明了该方法优于 AS2 基线和使用监督数据训练的 GenQA。

    Oct, 2022

  • 基于检索式问答系统的答案生成

    本文通过提出一种基于序列到序列变换器模型的答案生成方法，从 AS2 候选中生成答案，并在三个英文 AS2 数据集上进行测试，结果显示本方法的准确率在现有技术水平上提高了 32 个绝对值的水平。

    Jun, 2021

  • 利用检索句子生成模板的方式提高无监督问答

    我们提出了一种无监督训练 QA 模型的方法，该方法使用生成的伪数据训练，为 QA 训练生成问题，通过对相关检索到的句子应用简单模板，而非原始上下文句子来实现，从而使模型能够学习更复杂的上下文问题关系。 使用这些数据训练 QA 模型可在 SQuAD 数据集上获得 14％的 F1 分数相对提高，并且在答案为命名实体时提高 20％，从而实现无监督 QA 的最新性能。

    Apr, 2020

  • 问答生成模型

    本研究通过使用编码 - 解码模型，结合复制机制和覆盖向量维护，实现了生成式问答，并在 MS-MARCO 数据集上验证了该方法的出色表现。

    Nov, 2017

  • 通过摘要信息生成问题提高无监督问答

    本文提出一种基于无监督学习的问句生成方法，使用自由可得的新闻标题数据通过句法分析、命名实体识别和语义角色标注启发式技术转换成合适的问题，然后与原始新闻文章一起训练一个端到端的神经问句生成模型；通过在多项数据集上的实验证明，该方法生成的人工智能数据集用于训练问答模型，其性能远超过基于无监督学习的问答模型的现有成果。

    Sep, 2021

  • 自问自答：无监督知识引导的语言模型对齐

    本文介绍了一种称为 Self-QA 的创新框架，利用大量无监督知识代替传统的人工撰写指导文件种子，从而生成更多正确和特定于领域的指导数据，以克服创建用于指导调整的监督配对问答数据所面临的挑战。

    May, 2023

  • 解决半监督问答中的语义漂泊问题

    本研究提出了一种基于语义加强的奖励机制和基于 QA 的评估方法，用于解决问题生成中的语义漂移问题，并解决传统评价指标不足的问题，同时提出了两种合成 QA 对的方法，有效的用于半监督 QA 学习中。

    Sep, 2019

  • 学会提问：神经网络阅读理解问题生成

    该研究采用基于注意力机制的序列自学习模型进行阅读理解中基于句子的自动问题生成，相比于之前的工作，该模型不依赖于手工规则或复杂的自然语言处理技术，并在人工和自动评估中都呈现出更加自然和困难的问题。

    Apr, 2017

  • 将问答与问题生成视为对偶任务

    本论文针对问题回答和问题生成两个任务之间内在联系，提出一个联合训练框架，使用序列到序列模型和循环神经网络模型，通过概率相关性指导训练过程来提高两个任务的性能，实验证明该框架能够显著提高问题回答和问题生成两个任务的表现。

    Jun, 2017

  • 使用 Transformers 的无监督问答评估

    本研究探讨了基于 Transformer 的 QA 模型中问题、答案和上下文的隐藏表示，并通过观察回答表示中的一致性模式来自动评估预测出的答案跨度是否正确，其方法不需要任何标记数据且优于强启发式基线，在两个数据集和七个领域上均能够达到较高准确率。

    Oct, 2020