EMNLPOct, 2023

井井有条：面向知识驱动对话的生成器无关知识预选择

PDF
TL;DRGATE 是一种生成器无关的知识选择方法，它通过在不同的知识结构和可变的知识需求中选择与上下文相关的知识来为后续的响应生成模型准备知识，实验证明 GATE 的优越性，表明生成前的知识选择是一种轻量且有效的方式，可以促进 LLMs 生成更具信息量的响应。
knowledge selectionknowledge-grounded dialogue systemsgenerationllmsgate
发现论文，激发创造
  • 基于知识的对话生成知识选择

    本文提出了一种生成式方法，名为 GenKS，用于在基于对话历史的语境下选择适当的知识片段，该方法通过序列到序列模型生成标识符来选择片段，捕捉片段之间的内部知识交互，并通过超链接机制显式地建模对话 - 知识交互，同时在三个基准数据集上进行实验并证明 GenKS 在知识选择和响应生成方面取得了最佳结果。

    Apr, 2023

  • 对话系统中选择相应生成知识的学习

    该论文提出了一种采用先验和后验知识分布来实现知识选择的端到端神经模型，以更好地将适当的知识整合到响应生成中。

    Feb, 2019

  • 面向知识驱动对话的顺序潜知识选择

    论文提出了一种名为 `SKT` 的序列潜变量模型，该模型可提高多轮对话的知识选择准确性，并相应地改进了话语生成的绩效；实验结果表明，该模型在大规模对话评估中取得了最先进的表现。

    Feb, 2020

  • 基于预训练语言模型的知识驱动对话生成

    我们使用预训练的语言模型来研究基于知识的对话生成，通过知识选择模块和无监督方法来优化知识选择和响应生成，实验结果表明，我们的模型在自动评估和人类判断方面都显著优于现有方法。

    Oct, 2020

  • 无监督知识选择：通过预先训练的生成模型生成响应来教我说什么，我就能学会挑选什么

    本文研究了预训练生成模型的无监督选择能力，通过在编码器和解码器之间添加得分和聚合模块。这个模型 - K-Mine - 在没有知识标签和 / 或分离的密集检索器的情况下展示了有竞争力的选择和生成性能。

    Oct, 2021

  • 基于图的任务对话系统知识选择器

    本论文基于当代最先进的语言模型构建了 Graph-Knowledge Selector（GKS）来解决对话系统中知识选择的问题，并考虑了知识之间的联系，明显优于 Ninth Dialog System Technology Challenges（DSTC9）中提出的几种最新技术模型。

    Dec, 2021

  • 基于知识的会话中的表达学习

    本研究提出一种基于变分方法的分段生成模型，使用两个序列潜状态变量分别表示响应的结构和内容风格，以探索响应中的隐含知识表达模式，并在两个基准测试中获得较好的评估结果。

    Apr, 2022

  • 千人千村：个人记忆增强的基于知识的对话

    本文介绍了将个人记忆引入知识选择的方法，以解决个性化的问题，采用变分方法建模个人记忆与知识选择之间的关系，并设计了一种学习方式，其中包括了从个人记忆到知识的前向映射和其逆向映射。实验证明，我们的方法在自动评估和人类评估方面都显著优于现有的知识驱动对话方法。

    Apr, 2022

  • 基于差异性的知识选择在知识驱动对话生成中的应用

    该论文提出了一种差异感知的知识选择方法，通过将候选知识句子与前几轮选择的知识句子之间的差异信息与上下文信息相融合或分离，从而实现更加准确的知识选择，大幅度优于现有技术基线。

    Sep, 2020

  • 多阶段提示的知识对话生成

    本研究提出一种多阶段提示方法，利用单个预训练语言模型生成知识响应，并通过对话上下文和先前生成的知识生成响应，其产生的响应知识性和参与度出色于微调对话模型。

    Mar, 2022