EMNLPJun, 2021

使用双边对比数据进行问题答案对排序的学习

PDF
TL;DR本论文提出一种新颖简单的数据增强策略 ——Bilateral Generation（BiG），并设计了一个对比训练目标来提高现有标记数据中排名问题答案对的性能，通过使用两个预训练生成模型，即问题生成器和答案生成器，与原始负 QA 对形成假正 QA 对来扩充数据集，以及设计对比性训练目标来学习排名问题答案对。实验结果表明，该方法通过充分利用现有标记数据显著提高了排名模型，可轻松应用于不同排名模型。
data augmentationranking modelscontrastive trainingquestion-answer pairspre-trained generation models
发现论文，激发创造
  • 可微分数据增强用于对比句子表示学习

    本文提出了一种基于对比学习框架的预训练语言模型微调方法，通过硬样本挖掘和使用不同 iable 的数据扩增技术，达到了在无标记或有标记数据上提高句子表示质量的目的。实验证明，该方法在半监督和监督学习设置下都优于现有对比学习方法，并且对标注数据更加高效。

    Oct, 2022

  • ZusammenQA：专用模型数据增强的跨语言开放检索问答系统

    该论文提出了一种用于 COQA 多语言问题解答的系统，该系统使用多种模型变体在数据增强、语段检索和答案生成三个主要组件上进行了研究，并结合语言模型预训练和数据增强等方法有效提高了针对低资源语言的表现。

    May, 2022

  • 使用合成数据训练问答模型

    通过利用大型语言模型，研究了模型大小、预训练模型的质量、合成数据的规模和算法选择等多个因素，缩小了人工和合成问题 - 答案对之间的差距。该研究通过模型生成的数据，在 SQuAD 数据集上实现了良好的准确率，并在 SQuAD2.0 上显示出优于以前的工作的结果。

    Feb, 2020

  • 通过变分问答对生成提高 QA 模型对挑战集的鲁棒性

    通过提出多样性 QAG 模型，增强训练集连贯性并提高 QA 模型的鲁棒性，从而提高了在特定问题集中的准确性。

    Apr, 2020

  • 基于评论的自适应实例迁移和增强的问题生成

    本文提出了一种通过提取无人监督学习的相关特征，利用用户提问答案数据的迭代学习框架，用于通过生成问题的方式来挖掘在线评论中的信息，从而对商品和服务进行评价。实验表明，该框架的有效性以及新任务的有用性。

    Nov, 2019

  • 医学问答对生成

    本文介绍了一种基于自动生成问答对的框架，包含一个无监督关键词检测器发现问题的有效性，一个生成器利用多通道解码器提高结构知识的多样性，用于医学领域的问答任务，能有效提升考试问答系统的准确率。

    Nov, 2018

  • 视觉问答的语义等效对抗数据增强

    通过生成对抗样本，解决语义结构中图片翻转等处理困难的问题，提高了视觉问答 (Visual Question Answering) 模型的性能和抗对抗攻击的能力。

    Jul, 2020

  • 像教育专家一样提问：自动化生成基于真实考试数据的问答配对

    本文介绍了一个针对实际考试数据的新的统一框架，通过自动生成关键词，用多智能体通信模型生成和优化问题和关键词，然后应用模型生成的问题和关键词指导答案生成，从而使问题答案对生成任务取得了显著突破。

    Sep, 2021

  • 遥感图像中鲁棒性视觉问答的多语言增强

    本文提出了一种基于对抗学习的策略，使用增强的数据集来提高遥感视觉问题回答模型的鲁棒性，并在低分辨率数据集上取得良好的表现。

    Apr, 2023

  • 重新思考数据增强对于强健的视觉问答的影响

    提出了一种基于知识蒸馏的数据增强方法 KDDAug，通过放宽合理图像 - 问题匹配的要求，并设计了一个知识蒸馏（KD）策略生成所有生成的图像 - 问题对的伪答案，从而增强图像的数据集，以提高视觉问答（VQA）模型的泛化性能。

    Jul, 2022