Apr, 2024

评价树：基于树结构的动态迭代检索框架对多跳问题回答

PDF
TL;DR使用大型语言模型的知识链式推理能力解决多跳问题回答，引入检索增强的动态检索框架 Tree of Reviews，在多个数据集上实验结果显示比基线方法达到最先进的检索和响应生成性能。
发现论文，激发创造
  • 回答知识密集型复杂问题的概率思维推理

    大型语言模型（LLMs）能够用链式思维推理回答知识密集型复杂问题，但当模型的参数中缺少所需的知识或不是最新的时，它们往往会产生错误的推理步骤。本文提出一种新方法：概率思维树推理（ProbTree）。在开放领域的情境下，我们利用外部知识检索加强链式推理，通过解决从叶节点到根节点的问题，考虑问题分解和回答的置信度，在推理过程中消除了负面检索问题，并借助层次结构对非叶节点进行全局推理，从而弥补了局部错误。实验证明，我们的方法在三个复杂问答数据集上显著优于最先进方法，证明了概率思维树推理的有效性。

    Nov, 2023

  • 知识密集型多步问题的交错检索与思维链推理

    提出了 IRCoT 方法，在多步 QA 过程中使用检索和 CoT 交替进行，同时使用检索的结果来改善 CoT。在 HotpotQA、2WikiMultihopQA、MuSiQue 和 IIRC 四个数据集上，使用 IRCoT 方法取得了显著的检索和 QA 性能改进，即便是在小型模型 T5-Flan-large（0.7B）上也能奏效。

    Dec, 2022

  • 大型语言模型中多跳问答的图引导推理

    通过引入图引导的 CoT 提示方法，以问题 / 理由图为基础的图引导推理方法在多步骤推理中表现出优越性能。

    Nov, 2023

  • 消除模糊问题的澄清树：使用增强检索的大型语言模型进行回答

    通过构建一个问题的歧义消除树，利用外部知识以及少样本提示进行递归，能够在解决开放领域问题回答时提供综合的长格式答案，优于现有基准模型并超过全监督模型的效果。

    Oct, 2023

  • 学习在维基百科图上检索推理路径用于问答

    介绍了一种基于图形的循环检索方法，学习在 Wikipedia 图形上检索推理路径来回答多跳开放域问答问题。该方法在三个开放域 QA 数据集上实现了最新技术成果，特别是在 HotpotQA 中表现出显著的改进，超过了以前最好的模型 14 个百分点以上。

    Nov, 2019

  • 面向开放域问答的多跳段落检索

    本文提出了一种方法，用于在大量知识库之中检索多个支持段落，以回答所提出的问题。该方法使用联合向量表示形式，并考虑知识源中段落的上下文句子表示形式。该技术在 SQuAD-Open 和 HotpotQA 的数据集上实现了开放域问答的最新成果。

    Jun, 2019

  • RAPTOR: 递归抽象处理树形检索

    使用递归嵌入、递归摘要等方法的召回增强型语言模型可以在问题回答任务中取得卓越的结果，并在整体文档上具有整体的理解能力。

    Jan, 2024

  • 文本数据库中的图遍历检索和推理

    本文提出了 Graph-Hop 多链式及多跳式检索和推理范式，建立了新的 Benchmark ReasonGraphQA 来支持可解释的推理，论证其在推理多样性和规模方面的优势，并在现有证据检索和推理模型上进行了彻底的评估。

    May, 2023

  • 利用结构化信息进行可解释的多跳问题回答和推理

    构建和利用语义结构的多跳问题回答框架，通过神经模型和连续思维机制提高推理能力，并结合信息抽取和提取的语义结构实现更准确和可解释的问题回答。

    Nov, 2023

  • 通过思维树增强跨语言多步推理

    本研究通过一种自洽的跨语言提示机制，提出了一种跨语言多步推理方法，可以在不同语言中实现多步推理路径，从而达到解决复杂推理任务的目的，并在实验评估中表现出比现有提示方法更优的性能。

    Nov, 2023