Sep, 2022

面向任务导向对话的端到端检索生成

PDF
TL;DR介绍了 AARGH，一个综合了检索和生成方法的端到端任务导向对话系统，旨在改善对话管理和输出的词汇多样性。在 MultiWOZ 数据集上，我们展示了该方法相对于最先进的基线方法可以产生更多样化的输出，同时维持或提高状态跟踪和上下文 - 响应生成性能。
dialog systemretrievalgenerativeresponse selectionmultiwoz dataset
发现论文，激发创造
  • 基於改寫的任務導向對話生成

    该研究提出了一种基于替换词增强的响应生成 (PARG) 框架，该框架联合训练了一个替换模型和一个响应生成模型，以提高对话生成的性能，并通过对话状态和对话行为标签自动构建替换培训数据集。实验结果表明，所提出的框架进一步改善了 CamRest676 和 MultiWOZ 上最先进的对话模型，并在对话生成任务中显着优于其他数据增强方法，特别是在资源不足的情况下。

    Apr, 2020

  • 面向任务的对话中基于非结构化知识的高效检索增强生成

    本文总结了我们在第九届对话系统技术挑战赛（DSTC 9）第一轨中的工作，我们提出了一种基于层次分类和序列嵌入的检索和生成方法，以实现针对任务导向对话中利用非结构化文本信息的回答生成。

    Feb, 2021

  • 端到端任务导向对话系统的检索生成对齐

    利用最大边际似然方法训练感知检索器，通过利用生成回应的信号来提高生成回应的质量，并结合元知识指导生成器，以增强知识的利用能力。

    Oct, 2023

  • ERAGent: 提升检索增强语言模型的准确性、效率和个性化

    通过引入增强型问题重写器和知识过滤器以提高检索质量，以及引入检索触发器来减少不相关的外部知识检索，ERAGent 框架在改善响应准确性，提高效率和个性化方面表现出优势，对于 RAG 领域的进展和实际系统的应用具有潜力。

    May, 2024

  • ARAGOG：高级 RAG 输出评分

    整合外部知识到大型语言模型输出，文献调研主要集中于最新方法与之前方法的比较，缺乏广泛的实验比较。本研究通过评估不同检索增强生成方法对检索精度和答案相似性的影响来填补这一空白。研究发现，Hypothetical Document Embedding (HyDE) 和大型语言模型重排能显著提高检索精度。然而，Maximal Marginal Relevance (MMR) 和 Cohere 重排在基线 Naive RAG 系统上没有明显优势，而 Multi-query 方法表现不佳。句窗检索为最有效的检索精度方法，尽管在答案相似性上表现不稳定。研究证实文件摘要索引作为一种有效的检索方法。欢迎学术界进一步探索 RAG 系统的研究，相关资源可通过我们的 GitHub 资源库 ARAGOG 进行进一步调查。

    Apr, 2024

  • 面向任务导向对话系统的双向反馈知识检索

    通过整合知识检索和回答生成，本研究提出了一种检索生成器架构，利用检索器获取相关知识并生成系统回应，并通过生成器的反馈建立检索训练标签，通过对三个基准数据集的实验结果证明了方法在任务导向对话任务中的优越性能。

    Oct, 2023

  • 面向任务导向对话的主题感知响应生成与非结构化知识访问

    本文提出一种名为 TARG 的基于主题的响应生成模型，改进了基于词或句子相似度来检测相关知识背景的方法，用主题信息来提高对话历史的理解，取得了知识选择和响应生成上的最新成果。

    Dec, 2022

  • 强化信息检索与生成的大型语言模型

    我们提出了一种迭代检索 - 生成的协作框架，该框架可以利用参数化和非参数化知识，帮助找到正确的推理路径，并显著提高大型语言模型的推理能力。实验结果显示我们的方法优于之前的基线模型，在单跳和多跳问答任务上取得了显著的改进。

    Oct, 2023

  • 检索增强生成系统：自动数据集创建、评估和布尔代理设置

    检索增强生成（RAG）系统在通过领域特定和时间敏感数据增强大型语言模型（LLM）输出方面非常受欢迎。本文提出了一种严格的数据集创建和评估工作流程，从而定量比较了不同的 RAG 策略，用于布尔代理 RAG 设置的开发和评估。我们在线发布了我们的代码和生成的数据集。

    Feb, 2024

  • 面向任务型对话的多粒度知识检索

    通过引入多层级的知识检索器 MAKER 及一种新的蒸馏目标和监督信号，对话系统中的知识检索与响应生成解耦，从而有效地检索大规模的知识库。

    May, 2023