Jan, 2023

PIE-QG: 面向小数据语料库的无监督问句生成的释义信息提取

PDF
TL;DR本文提出的 PIE-QG 方法使用开放信息提取（OpenIE）从释义段落中生成合成训练问题，并利用问题 - 答案对作为基于 BERT 的最先进 QA 系统的训练数据。在五个抽取式 QA 数据集上进行实验表明，我们的技术在没有外部参考数据源的情况下以数量级更少的文档训练，实现了与现有最先进 QA 系统相同的性能。
supervised question answeringunsupervised question answeringopen information extractionlanguage modelbert
发现论文，激发创造
  • 通过摘要信息生成问题提高无监督问答

    本文提出一种基于无监督学习的问句生成方法，使用自由可得的新闻标题数据通过句法分析、命名实体识别和语义角色标注启发式技术转换成合适的问题，然后与原始新闻文章一起训练一个端到端的神经问句生成模型；通过在多项数据集上的实验证明，该方法生成的人工智能数据集用于训练问答模型，其性能远超过基于无监督学习的问答模型的现有成果。

    Sep, 2021

  • 基于填空翻译的无监督问答

    本文探讨了利用无监督方法合成训练集数据以及不匹配的语料库训练 NMT 模型作为 cloze-to-natural question translator 来更有效地训练 QA 模型，这种方法已经在 SQuAD v1 数据集上验证，并且相较于过去的监督学习方法取得更好的表现。

    Jun, 2019

  • 使用开放信息提取回答复杂问题

    本研究提出了一种 Open IE 推理方法，利用最近提出的支持图优化框架进行 QA，从而使得可以更有效地处理所提出的方法中所述的多种难度级别的复杂问题。同时本方法不依赖于手动策划的知识。

    Apr, 2017

  • 利用检索句子生成模板的方式提高无监督问答

    我们提出了一种无监督训练 QA 模型的方法，该方法使用生成的伪数据训练，为 QA 训练生成问题，通过对相关检索到的句子应用简单模板，而非原始上下文句子来实现，从而使模型能够学习更复杂的上下文问题关系。 使用这些数据训练 QA 模型可在 SQuAD 数据集上获得 14％的 F1 分数相对提高，并且在答案为命名实体时提高 20％，从而实现无监督 QA 的最新性能。

    Apr, 2020

  • 解决半监督问答中的语义漂泊问题

    本研究提出了一种基于语义加强的奖励机制和基于 QA 的评估方法，用于解决问题生成中的语义漂移问题，并解决传统评价指标不足的问题，同时提出了两种合成 QA 对的方法，有效的用于半监督 QA 学习中。

    Sep, 2019

  • 学习改写以进行问答

    利用释义学习问题表达的多样性来提高询问回答系统在 Freebase 和句子选择上的准确性。通过训练端到端来直接学习最有可能产生正确答案的语言表达，得到了有竞争力的结果。

    Aug, 2017

  • XAIQA：用于提取式问答的基于解释器的数据增强

    使用医疗记录自然可用的数据，XAIQA 通过分类模型解释器生成大规模的合成问答对，提升了 GPT-4 作为抽取式问答模型的性能。

    Dec, 2023

  • 自问自答：无监督知识引导的语言模型对齐

    本文介绍了一种称为 Self-QA 的创新框架，利用大量无监督知识代替传统的人工撰写指导文件种子，从而生成更多正确和特定于领域的指导数据，以克服创建用于指导调整的监督配对问答数据所面临的挑战。

    May, 2023

  • 无监督多跳问答通过问题生成

    本论文提出了 MQA-QG 框架，利用同质和异质数据源生成类人问答对数据，从而实现集成式自监督多跳 QA 模型训练，实验结果表明仅利用生成的数据即可训练出在 HybridQA 和 HotpotQA 数据集上分别达到监督学习性能 61% 和 83% 的多跳 QA 系统，同时利用生成数据进行预训练可以大大减少人工标注训练数据的需求。

    Oct, 2020

  • ParaQG: 从段落生成问题和答案的系统

    本文介绍了 ParaQG, 一种基于序列到序列技术的 Web 服务，通过交互式界面，从句子和段落中生成问题，并利用多种分组和过滤技术使生成问题的过程用户友好化。

    Sep, 2019