Feb, 2024

UniRetriever：多任务候选选择用于各种上下文自适应式会话检索

PDF
TL;DR我们提出了一种多任务框架，作为会话中三个主要检索任务（个人选择、知识选择和回复选择）的通用检索器，通过设计一个双编码器体系结构来检索相关上下文，通过点积方法检索适合的候选项，并引入两个损失约束来捕捉对话上下文和不同候选项之间的微妙关系。实验证明我们的模型在训练领域内外都能取得最先进的检索质量，揭示了其成为同时用于不同候选项选择任务的通用检索器的潜在潜力和泛化能力。
conversational retrievalmulti-task frameworkdual-encoder architecturecandidate selectionuniversal retriever
发现论文，激发创造
  • 知识密集型任务的多任务检索

    本文介绍了一个多任务学习的神经检索模型，该模型在少样本、领域内外多种问题下表现良好，能够有效地检索到相关上下文信息，并且在多个基准测试中实现了与或优于目前的最新技术结果。

    Jan, 2021

  • 语义搜索中的多任务查询 - 回应交互用于聊天机器人候选人检索

    提出了一种基于多任务学习的语义搜索神经网络 (Multitask-based Semantic Search Neural Network, MSSNN) 方法，该方法通过多任务实现查询 - 响应交互，并用 Seq2Seq 模型训练优秀的查询编码器，执行单词预测任务构建响应嵌入，最后进行简单的匹配模型构建点积评分器，实验手段证明了该方法的潜力。

    Aug, 2022

  • 通过促进任务专业化来提高多任务检索

    通过选择更好的预训练模型和兼容的提示以及新颖的自适应学习方法，我们可以训练一个多任务检索器，从而促进任务专业化，并在 KILT 基准测试中表现出高性能。

    Jul, 2023

  • 面向任务型对话的多粒度知识检索

    通过引入多层级的知识检索器 MAKER 及一种新的蒸馏目标和监督信号，对话系统中的知识检索与响应生成解耦，从而有效地检索大规模的知识库。

    May, 2023

  • 面向任务导向对话系统的双向反馈知识检索

    通过整合知识检索和回答生成，本研究提出了一种检索生成器架构，利用检索器获取相关知识并生成系统回应，并通过生成器的反馈建立检索训练标签，通过对三个基准数据集的实验结果证明了方法在任务导向对话任务中的优越性能。

    Oct, 2023

  • 部署检索为基础的任务导向对话响应模型

    本文提供了一种 3 步程序来开发满足业务要求的对话模型，包括从历史对话中创建模板、使用神经网络建立对话上下文和业务约束，以及通过自我监督和受训者的方法优化模型，并进行实验验证并在人机交互的环境中应用于商业对话。

    Oct, 2022

  • Persona-Knowledge 对话多上下文检索和增强解码方法

    本文通过设计一种数据增强策略，运用神经问答检索模型，探讨了 Persona-Knowledge 的识别和响应生成任务，采用不同的解码技术进行对话生成，最终取得了 93.99% 的平均重合度和 23.62 分的 SacreBLEU 分数，成为当前 SOTA 的最佳实践。

    Jul, 2022

  • 检索增强减少对话中的幻觉

    本文研究了基于神经检索的循环架构在知识驱动的对话中的应用，将多个组件（检索器、排名器和编码器 - 解码器）结合在一起以最大化可知性并保留对话能力，在两个知识驱动的对话任务中实现了最先进的性能，并经过人工评估证实，大大减少了在最先进的聊天机器人中存在的知识幻觉问题。

    Apr, 2021

  • 个性化对话响应生成中的检索增强上下文感知前缀编码器

    本研究提出了一种基于检索增强的个性化响应生成方法，通过在对话领域数据上设计分层的 Transformer 检索器和上下文感知前缀编码器，将检索到的信息更有效地融合到解码器中，从而在英语 Reddit 对话中生成更流畅和个性化的响应，与现有技术相比性能更优。

    Jun, 2023

  • 端到端任务导向对话系统的检索生成对齐

    利用最大边际似然方法训练感知检索器，通过利用生成回应的信号来提高生成回应的质量，并结合元知识指导生成器，以增强知识的利用能力。

    Oct, 2023