AAAINov, 2022

DyRRen: 动态检索 - 重排 - 生成器模型 在表格和文本数据上用于数值推理

PDF
TL;DR本文提出了一种名为 DyRRen 的扩展检索 - 筛选 - 生成（retriever-reranker-generator）框架，其中每个生成步骤都通过动态的筛选和重新排序所检索到的句子来增强，可以应用于数值推理和融合表格与长文本的 AI 任务中，并在 FinQA 数据集上胜过现有的基线方法。
发现论文，激发创造
  • 一种细粒度召回器和多器生成器集成的金融问答数值推理系统

    本研究提出了一种针对金融文本和表格数据的数字推理问题回答系统，该系统包括检索器模块、生成器模块和集成模块。在私人测试集上的表现可达 69.79 个执行精度。

    Jun, 2022

  • G-Retriever：文本图理解与问答的检索增强生成

    给定具有文本属性的图，我们使用对话界面使用户能够与其图进行交流，在回答用户问题时提供文本回复并突出显示图的相关部分。通过开发我们的图问题回答（GraphQA）基准和集成 GNN、LLM 和 RAG 的 G-Retriever 方法，我们在多个领域的文本图任务中超越基准，而且可以适应更大的图大小并抗幻觉。

    Feb, 2024

  • 生成 - 检索 - 生成：一种开放领域问答的新方法

    通过结合文档检索技术与大型语言模型 (LLM)，我们提出了一种名为 Generator-Retriever-Generator (GRG) 的新方法，通过首先命令模型根据给定的问题生成上下文文档，然后使用双编码器网络从外部语料库中检索与问题相关的文档。将生成的和检索的文档传递给第二个 LLM 模型，生成最终的答案。通过结合文档检索和 LLM 生成，我们的方法解决了开放域问答的挑战，如生成信息丰富且上下文相关的答案。GRG 在 TriviaQA、NQ 和 WebQ 数据集上表现优于最先进的生成 - 阅读和检索 - 阅读流水线 (GENREAD 和 RFiD)，性能至少提高了 + 5.2、+4.2 和 + 1.6。我们提供代码、数据集和检查点。

    Jul, 2023

  • 基于图形编码器和树形解码器的表格 - 文本混合内容中的数值推理问题回答

    本文提出了一种关系图增强型的混合表文本数值推理模型，将表 - 文本混合内容的数值问题回答建模为表达式树生成任务，并在公开基准测试中验证了其性能。

    Sep, 2022

  • DRAGIN：基于大型语言模型实时信息需求的动态检索增强生成

    Dynamic Retrieval Augmented Generation framework (DRAGIN) improves the strategies for deciding when and what to retrieve during text generation by considering the real-time information needs of Large Language Models (LLMs).

    Mar, 2024

  • HYRR: 棱柱式混合再排序用于段落检索

    本文提出了一种基于 BM25 和神经检索模型的混合模型的 HYRR 框架，用于训练 reranker，并使用交叉注意力神经模型来建立一个稳健的重排模型。在 MS MARCO 和 BEIR 数据集上的实验结果表明，该模型在监督式和零样本检索任务上表现良好。

    Dec, 2022

  • 去噪表格文本检索在开放域问答中的应用

    通过使用少量错误标签的训练数据集，以及整合表级排序信息来回答需要表格推理的问题，我们提出了 Denoised Table-Text Retriever（DoTTeR），并在检索召回和下游 QA 任务中显著优于强基准方法。

    Mar, 2024

  • RAR-b: 推理作为检索的基准

    通过将推理任务转换为检索任务，我们发现，即使没有针对推理级别的语言理解进行专门训练，目前最先进的检索模型在协助 LLMs 的角色上可能仍然远离胜任，特别是在推理密集型任务中。然而，最近基于解码器的嵌入模型在弥合这一差距方面表现出巨大潜力，突显了嵌入模型实现推理级别语言理解的路径。通过微调重新排序模型将推理能力注入其中似乎比对双编码器进行类似操作更容易，我们能够在所有任务中通过微调重新排序模型实现最先进的性能。我们发布由整体任务和设置组成的推理作为检索基准（RAR-b），用于评估检索模型中存储的推理能力。

    Apr, 2024

  • MultiHiertt: 对多层次表格和文本数据的数值推理

    构建一个新的 QA benchmark (MultiHiertt)，使用金融报告构建。包含多个表以及更长的非结构化文本，大部分表格是分层的；提供了复杂的数量推理的细粒度注释；提出了一个新的 QA 模型 MT2Net，它首先应用事实检索来提取相关事实，然后使用推理模块对检索到的事实进行符号推理。与现有基线相比，实验结果表明 MultiHiertt 对现有基线提出了严峻的挑战。

    Jun, 2022

  • Re2G: 检索、排序、生成

    Re2G 利用神经检索和排名策略结合 BART 序列生成器，在零 - shot 填槽、问答、事实核查和对话等任务中取得了相对增益为 9% 至 34% 的较大提升，是目前 KILT 排行榜上最先进的模型。

    Jul, 2022