Dec, 2023

GSQA:生成式口语问答的端到端模型

TL;DR近期关于口语问答方面的研究表明,最新的端到端模型在提问回答方面取得了显著的进展,尤其是在提取性问题的选择上。然而,先前的研究主要集中在提取性问题上,这种基于提取的方法在直接提取答案的情况下是有效的,但在涉及抽象问题且答案不可直接提取的情况下则存在不足。为了弥补这一差距,我们首次引入了第一个端到端生成式口语问答模型(GSQA),以增强系统的抽象推理能力。我们的GSQA模型训练的挑战在于缺乏口语抽象问答数据集。我们建议使用文本模型进行初始化,并利用基于提取的问答数据集将文本生成模型的知识转移到口语生成模型上。实验结果表明,我们的模型在基于提取的问答数据集上的性能超过了先前的提取性模型3%。此外,GSQA模型仅在口语提取性问答数据集上进行了微调。尽管没有见过任何口语抽象问答数据,它仍然能够与级联模型的性能高度匹配。总而言之,我们的GSQA模型展示了到广泛问题范围的泛化潜力,从而进一步扩展了抽象问答的口语问答能力。