本文旨在研究和比较不同的预训练语言模型在回答问题的能力上的表现，通过使用 Bert-BiLSTM 结构模型的效果来检验双向流的加入是否能够提高模型性能，并发现 RoBERTa 和 BART 表现最佳。

Oct, 2021

本文通过定量和定性分析现有端到端神经模型在斯坦福问答数据集上的结果，旨在理解和比较其特性，以迈向实现在多个领域中的泛化能力。研究发现，预测错误反映了某些模型特定偏差，本文对此进行了进一步讨论。

Jun, 2018

研究使用细粒度分层分类法的最大挑战数据集，与基于 BERT 模型的算法相比，可以大大提高问题分类的准确度以及进一步改善问题回答系统的性能。

Aug, 2019

通过使用单个多任务 transformer 模型，我们设计了一个统一的系统，可以迭代地检索支持事实，重新排序它们，并从所有检索的文档中预测答案，从而回答各种需要不同数量的检索步骤的开放领域问题。我们构建了一个新的基准测试 BeerQA，并证明我们的模型在现有基准测试和这个新基准测试上都表现出有竞争力的表现。

Oct, 2020

本文通过 Item Response Theory 方法对 18 个预训练 Transformer 模型在 29 个 NLP 数据集上进行实验，结果显示 Quoref，HellaSwag 和 MC-TACO 数据集更适合用于区分最先进的 NLP 模型，而 SNLI，MNLI 和 CommitmentBank 数据集已经达到饱和水平。另外观察到 QA 数据集（如 QAMR 或 SQuAD2.0）的任务形式在区分强弱模型方面非常有效。

Jun, 2021

本篇研究旨在利用标准化的 NLG 指标来检测 QGen 模型所带来的实际效果，并以教师自动生成阅读理解测试为例进行实际应用测试。虽然我们发现近期 QGen 取得了显著进展，但最佳模型仅得到了 10 名教师中的 68.4％同意接受的问题，同时也发现需要新的自动度量标准来指导 QGen 研究前进。

May, 2022

文章研究了问题回答领域（Question Answering）中各种算法模型以及增强数据方法，提出了基于 Attention-over-Attention 等方法的组合以及数据增强和集成策略，可在 SQuAD 等基准数据集上取得超人的表现。但在最新的自然问题基准数据集上，相对简单的 BERT 迁移学习方法取得了超过先前表现最优系统 1.9 F1 点的优异表现，并且添加集成策略进一步提高了 2.3 F1 点。

Sep, 2019

通过使用基于 BERT 的深度学习模型，从文本或图像中提取问题，并将其与其他基于规则和布局的方法进行比较，我们旨在提高 Edtech 组织中学生问题解答的准确性和效率。

Apr, 2024

该研究旨在通过变压器模型和提示工程找到从文本数据中生成问题的最佳方法。通过对 SQuAD 问答数据集上的预训练 distilBERT 模型的微调以生成问题，并应用 LLaMA 模型以有效地生成问题，将生成的问题与 SQuAD 数据集中的基准问题进行比较，评估了四种不同提示的有效性，其中有 30% 的提示生成的问题获得了大于 70% 的高相似度分数。

Oct, 2023

使用提取式 QA 模型进行特征提取的方法可改善德语商业文档的信息提取，并通过微调现有德语 QA 模型提高性能，同时还讨论了评估信息提取任务的相关度得分指标。

Sep, 2023