EMNLPOct, 2023

通过可微分的遮蔽 - 重构模型进行无监督候选答案提取

PDF
TL;DR通过 Differentiable Masker-Reconstructor (DMR) 模型从上下文段落中抽取候选答案，提出了一种新的无监督候选答案抽取方法，通过自一致性的强制性来捕捉显著信息标记，证明该方法在无监督方法中具有卓越的性能，与监督方法相当。
发现论文，激发创造
  • 无监督多项选择问题回答

    无监督问答，多选题问答，合成数据生成，命名实体，知识图谱。

    Feb, 2024

  • Passage-Mask: 检索 - 阅读模型的可学习正则化策略

    通过引入可学习的段落掩码机制，可以防止 retriever-reader 模型过拟合排名前几个检索段落，进而有效地解决 NLP 任务中针对整个检索段落推理的问题，并在开放式问题回答，对话交互和事实验证等不同任务中取得了胜过其他方法的性能表现。

    Nov, 2022

  • 无监督答案多样性的问答

    提出了一种新的无监督方法，名为 DiverseQA，用于构建数据，培训 QA 模型。该方法包括数据构建、数据增强和去噪滤波三个模块，具有更广泛的答案类型，可应用于多种基准数据集。

    Aug, 2022

  • 无监督事实核实的问答

    本文提出了一种基于无监督问答的事实检查方法，通过使用 Bert 对 FEVER 数据集进行 Cloze 任务转换，以预测答案标记，并计算基于正确回答的问题和阈值的标签。该方法在转换后的数据集上在开发集和测试集上分别实现了 80.2％和 80.25％的标签准确率。

    Oct, 2019

  • 一种灵活框架的零样本文档级问答检测、检索和理解

    本文提出了一种三阶段文件 QA 方法，包括从 PDF 中提取文本，从提取的文本中检索证据以形成良好的上下文，以及从上下文中提取 3 种类型的知识（抽取式、生成式或布尔式）。通过对 QASPER 的评估，DRC 系统在交付更优的上下文选择的同时，Answer-F1 达到了 +7.19 的提高。结果表明，DRC 在科学文献 QA 中有很大的亮点。

    Oct, 2022

  • 基于预训练生成模型的问题回答适应性

    本文介绍了一种新颖的方法，利用预训练的生成模型来解决抽取式問答任务，通过生成与回答的上下文标记或句子相对应的索引，实现了在多个抽取式問答数据集上优于现有 state-of-the-art 模型的卓越性能。

    Nov, 2023

  • 基于检索的对话系统的上下文蒙版自编码器

    本研究提出了 Dial-MAE 技术，它是一种针对对话回答选择的后期训练技术，使用了对话语境掩码自动编码器和不对称编码器 - 解码器架构来更好地压缩对话语义，并在两个常见的基准测试中取得了最先进的性能。

    Jun, 2023

  • 基于填空翻译的无监督问答

    本文探讨了利用无监督方法合成训练集数据以及不匹配的语料库训练 NMT 模型作为 cloze-to-natural question translator 来更有效地训练 QA 模型，这种方法已经在 SQuAD v1 数据集上验证，并且相较于过去的监督学习方法取得更好的表现。

    Jun, 2019

  • 机器阅读理解的合作自训练

    本研究提出了一个基于问答式任务的互动型学习环境下的 RGX 合作自训练框架，它可以自动产生更多的问题 - 答案对，以提高模型性能。实验证明，该框架在标准问答质量评估中表现优于预先训练模型和基于转移学习的方法。

    Mar, 2021

  • 来自不受信任教师的诚实学生：从预训练语言模型中学习可解释的问答流程

    本文介绍一种新的基于 “Markup-and-Mask” 技术的生成问答系统解释性解释的方法，并提出了一种使用预训练语言模型自动生成标注数据进行端到端学习的方式来训练缩小版的模型的方法，同时结合了自由文本与摘录型解释的特点，进一步提高了问答系统的可信度。

    Oct, 2022