ACLApr, 2024

缓解上下文记忆以提高开放领域问答的泛化能力

PDF
TL;DROpen-domain Question Answering research investigates the generalization performance of a retrieval-augmented QA model, proposing Corpus-Invariant Tuning as an effective training strategy to mitigate knowledge over-memorization and achieve better generalizability.
open-domain question answeringknowledge corpusgeneralization performanceretrieval-augmented qa modelcorpus-invariant tuning
发现论文，激发创造
  • 对话式通用问题解答的多方面改进

    本文提出了一种用于对话式问答的多方面改进框架，通过 KL 散度正则化、后处理程序和课程学习策略等三个方面的改进，有效地解决了开放域问答过程中的一系列问题，并在公开数据集 OR-QuAC 上展现了比同类模型更好的性能表现。

    Apr, 2022

  • 基于知识的开放域问答

    本研究提出了一种知识辅助的开放域问答方法，通过考虑问题与文档之间的关系以及文档与文档之间的关系来构建问题 - 文档图和文档 - 文档图，使用知识三元组并结合文档检索和答案重新排名来提高文档检索和答案排序的性能，从而提高了开放域问答的整体性能。

    Jun, 2020

  • 开放领域问答中领域自适应挑战与干预：调整或注释？

    研究开放领域问答（ODQA）中，当应用于广泛不同的领域时，此类模型的稳健性和应用性能。该研究提出了一个更现实和具有挑战性的领域转移评估环境，并研究了端到端的模型性能。他们发现，不仅模型在推广方面表现出失败，且高检索分数通常也不能提供准确的答案预测。最后，研究提出并评估了多种干预方法，其提高了端到端答案 F1 得分，最多可达 24 个点。

    Dec, 2022

  • 上下文生成改善开放域问答

    我们提出了一个采用粗到细方法提取相关知识和回答问题的两阶段闭书问题回答框架，实验结果显示我们的方法明显优于先前的闭书 QA 方法并与利用外部知识源的开书方法相当。

    Oct, 2022

  • 关于统一选择性无特定领域的问答，何时阅读文献或 QA 历史

    本文研究了开放域问答问题，旨在利用知识资源回答各种各样的问题；提出了一种基于置信度的校准方法，可有效提高效果。

    Jun, 2023

  • 开放域问答系统综述：检索与阅读

    本文综述了 OpenQA 领域的最新研究趋势，重点关注采用神经 MRC 技术的系统，介绍了现代 OpenQA 体系结构 Retriever-Reader 及采用该体系结构的各种系统，讨论了开发 OpenQA 系统面临的关键挑战，并对常用的基准进行了分析。

    Jan, 2021

  • 通过向量化上下文改进基于检索的开放领域问答

    在大语言模型的时代，应用检索增强生成等技术可以更好地解决开放领域问题回答问题。本文提出了一种通用方便的方法来覆盖更长的上下文，以在开放领域的问答任务中应用。我们的实验证明，在精调后，在两个保留数据集、四个留存数据集和两个上下文学习设置中，性能得到了提高。

    Apr, 2024

  • C-MORE: 通过查询数百万参考文献进行预训练以回答开放领域问题

    本文介绍了一种使用维基百科引用构建大规模预训练语料库以满足开放域问答系统的需求的方法，并测试了改进后的 retriever 和 reader 在精确度和 top-20 准确率方面的表现。

    Mar, 2022

  • 基于有限文本语料库的对比领域自适应对话回答

    本研究提出了一种名为对比领域自适应问答（CAQA）的新型领域适应框架，该框架结合了问题生成和域不变学习技术，用于在文本语料库受限的情况下回答域外问题，并且相较于现有技术取得了显著的效果改善。

    Aug, 2021

  • 领域专属问答的检索增强生成

    为 Adobe 产品建立内部问答系统，提出了一种新的框架来编译大型问答数据库并发展了基于检索感知的大型语言模型微调方法，展示了微调检索器在最终生成中带来的重大改进，降低了生成过程中的幻觉并在上下文中保留了最新的检索信息以实现情境基础。

    Apr, 2024