ICLRJan, 2019

面向任务的对话全局到本地记忆指针网络

PDF
TL;DR该论文提出了一种名为 GLMP 网络的机制，旨在帮助解决在端到端任务导向对话中，将大型动态的知识库融入到学习框架中存在的挑战，并且通过实验证明其在模拟 bAbI 对话数据集和 Stanford 多领域对话数据集上的样本和人工评估中，都表现得比先前最先进的模型更好。
end-to-end task-oriented dialogueglobal-to-local memory pointer networksexternal knowledgecopy accuracyout-of-vocabulary problem
发现论文，激发创造
  • 基于模板导向的混合指针网络用于基于知识的任务导向型对话系统

    本研究提出了一种基于模板的指针网络模型，该模型利用预构建的特定领域会话存储库中的相关答案作为指导答案，并将指导答案并入编码和解码过程中，以提高神经网络任务导向对话系统的性能。实验表明，该模型在四个常用任务导向数据集上的表现明显优于最先进方法。

    Jun, 2021

  • 面向可扩展的神经对话状态追踪模型

    本文提出了一种新的可伸缩且准确的神经对话状态跟踪模型，基于最近由 Zhong 等人提出的全局 - 本地自注意编码器（GLAD）模型，该模型使用全局模块共享不同类型（称为 slots）对话状态估计器之间的参数，并使用局部模块学习 slot-specific 特征，相较于 GLAD 模型的全局和局部调节使用的（1+ # slots）个循环网络，我们提出的模型仅使用一个循环网络进行全局调节，平均而言在训练和推断时间方面可以减少 35% 的延迟，同时保持置信状态跟踪的表现，转向请求率为 97.38％，联合目标和准确性为 88.51％，在多领域数据集（Multi-WoZ）上的评估也表明，我们的模型在转向信息和联合目标精度上优于 GLAD。

    Dec, 2018

  • 利用异构记忆网络进行面向任务的对话生成

    介绍一种新的外部记忆网络 -- 异构记忆网络（HMNs），用于解决现有的内存网络在从不同来源利用异构信息方面表现不佳的问题。该方法背景知识元组和历史的对话串都被编码和存储到记忆中，并在译码期间使用门控机制进一步增强了上下文感知性记忆。实验结果表明，与数据驱动的最新任务导向式对话模型相比，使用 HMNs 极大地提高了模型的表现。

    Sep, 2019

  • 基于指针网络引导的知识驱动生成式对话模型 (PK-Chat)

    PK-Chat 是一种基于知识驱动的生成对话模型，通过指针网络和预训练语言模型在学术场景中进行语言生成，实现了正确且连贯的回答。

    Apr, 2023

  • ChatLLM 网络：更多的智能，更多的大脑

    本文提出 ChatLLM 网络，利用多个基于 ChatGPT 的对话语言模型协同解决问题的能力，加入了一种反向传递更新系统，展现了这个网络在问题解决方面的显著性能提升。

    Apr, 2023

  • DeepCopy: 基于分层指针网络的有根据地生成响应模型

    本文提出了一种基于指针生成网络的响应生成模型，通过加入外部知识以及对话上下文，模型能够在对话系统中生成更加准确、丰富、有趣的响应，并在 CONVAI2 数据集上与几种基准模型进行比较和评估。

    Aug, 2019

  • GLaM: 通过邻域分区和生成子图编码对领域知识图的大型语言模型进行微调

    我们介绍了一种用于开发图形对齐的语言模型（GLaM）的微调框架，该框架将知识图形转化为具有标签的问题 - 答案对的替代文本表示。我们证明，以特定基于图形的知识为基础的模型具有更强的结构化推理能力。我们的方法利用大型语言模型的生成能力创建数据集，并提出了一种效率高于检索增强型生成方法的替代方法。

    Feb, 2024

  • 面向任务的对话的多级内存

    本研究提出了一种新的多层内存体系结构，不同于三元组设计，用于建模对话上下文和知识库结果，该方法在三个公开的面向任务的对话数据集上实验，结果表明在实体 F1 和 BLEU 得分上比现有的最先进的模型提高了 15-25%。

    Oct, 2018

  • 长期人物记忆的开放域对话

    为了解决 Open Domain 对话模型在长时间对话中缺乏理解和记忆能力的问题，我们提出了一种新的任务 —— 长期记忆对话（LeMon），并构建了一个具备长期记忆机制的对话生成框架（PLATO-LTM ），允许系统在不需要多个会话数据集进行模型训练的情况下，准确提取和持续更新长期个人记忆。在 DuLeMon 的结果表明，PLATO-LTM 在长期对话一致性方面可以显著优于基线，从而导致更好的对话互动。

    Mar, 2022

  • MedKP: 医疗对话中的知识增强和临床路径编码

    通过结合医学知识图谱和内部临床路径编码，本研究提出了医学对话增强与临床路径编码（MedKP）框架，通过综合评估指标在两个大规模实际在线医学咨询数据集上的实验证明，MedKP 超过了多个基准系统，减少了产生幻觉的情况，达到了新的最先进水平，进一步的剔除研究揭示了 MedKP 每个组件的有效性，促进了可靠自动化的医学咨询响应的发展，从而拓宽了精确实时医学辅助的潜在可及性。

    Mar, 2024