一种离散的 Hard EM 方法用于弱监督问题回答

EMNLPSep, 2019

一种离散的 Hard EM 方法用于弱监督问题回答

A Discrete Hard EM Approach for Weakly Supervised Question Answering

Sewon Min, Danqi Chen, Hannaneh Hajishirzi, Luke Zettlemoyer

TL;DR本研究以一组正确解决方案为基础，通过修改研究问题为离散潜在变量的学习问题，结合硬 EM 学习方案以及最可能的解决方案计算梯度，在 6 个 QA 任务中证明了该方法明显优于以往方法，并在其中 5 个任务中取得了最优结果。我们通过详细的定性分析表明，使用硬更新而不是最大化边际似然值是这些结果的关键，因为它鼓励模型找到一个正确的答案。

Abstract

Many question answering (QA) tasks only provide weak supervision for how the answer should be computed. For example, TriviaQA answers are entities that can be mentioned multiple times in supporting documents, while DROP answers can be computed by deriving many different equations from

question answering latent variable learning em learning qa tasks hard updates

发现论文，激发创造

实体驱动的答案集扩展用于问答评估

基于实体驱动的答案集扩展方法，通过扩展黄金答案集以包括多样性的表述形式，其表述形式常遵循特定模式，实验结果表明，该方法在传统评估方法基础上表现出色，并且具有较高的可解释性和减少环境危害的优点。

Apr, 2024

基于弱监督嵌入模型的开放式问答

本文提出一种基于向量特征表示的问题回答方法，使用弱监督资源训练，并结合了优化过的随机梯度下降和微调步骤，实现了在基于弱标注数据下，对知识库回答表现的显著提升。

Apr, 2014

弱监督开放域问答的潜在检索

本文提出了一种新的 open domain question answering 方法，利用问题 - 回答对来同时学习 retriever 和 reader，将 Wikipedia 中的证据检索视为潜在变量，并通过 Inverse Cloze Task 进行预训练。我们的方法在五个 QA 数据集上进行测试，表明在用户真正寻求答案的数据集上，学习检索至关重要，完全匹配方面的得分比传统的 IR 系统（如 BM25）高达 19 个点。

Jun, 2019

学习视觉问答的答案嵌入

该研究提出了一种新的概率模型，用于视觉问答中的多项选择，将嵌入视觉、问答和回答，并考虑到回答之间的语义关系，从而提高了对新问题的表现。

Jun, 2018

弱监督问答中虚假解决方案问题的互信息最大化方法

本文提出一种新的学习方法，通过最大化问题答案对及预测解决方案之间的相互信息，显式利用问题与其解决方案之间的语义相关性，以缓解粗略监督下答案导出过程中可能出现的虚假解决方案。在四个问答数据集上的实验证明，该方法在任务性能方面明显优于以往的学习方法，并且在训练模型产生正确的解决方案方面更加有效。

Jun, 2021

BeamSearchQA: 大型语言模型是强大的零样本问答求解器

本研究提出了一个名为 BeamSearchQA 的新型问题回答管道，它通过使用大型语言模型迭代地生成关于原始问题的新问题，从而启用一个迭代推理过程，以便更好地捕捉和利用隐藏知识。实验结果表明，BeamSearchQA 明显优于其他零 - shot 基线，在处理开放性领域问题回答方面具有很强的有效性。

May, 2023

视觉问答的潜变量模型

本文提出使用潜在变量模型来解决视觉问答问题，将额外信息（如标题和答案类别）作为潜在变量进行训练，提高了问题回答性能。实验表明该方法在 VQA v2.0 基准测试数据集上优于其他方法。

Jan, 2021

简单有效的半监督问答

本研究提出一种利用基础文档和少量标注数据进行深度学习提取式问答的方法，并通过对三个不同领域数据集的实验验证了其有效性。

Apr, 2018

无监督答案多样性的问答

提出了一种新的无监督方法，名为 DiverseQA，用于构建数据，培训 QA 模型。该方法包括数据构建、数据增强和去噪滤波三个模块，具有更广泛的答案类型，可应用于多种基准数据集。

Aug, 2022

长格式问答进展的障碍

该论文探讨了长篇问答任务中关于评估和数据集构建所面临的挑战，在提出新模型的同时指出该任务中 ROUGE-L 评估不具信息性，且训练集和验证集存在显著重复。给出了缓解这些问题的建议。

Mar, 2021