Sep, 2023

释放知识密集对话生成中的证据潜力

PDF
TL;DR整合外部知识进入对话生成中的关键性为提高回应的正确性，在这里，证据片段作为有根据的支持性知识碎片。本文提出一种有效地整合证据到知识密集型对话生成中的框架，通过引入自动证据生成框架和证据聚焦的注意机制，扩大了证据的潜力。实验结果表明，提出的方法在模型性能方面优于其他基准（+3~+5 分），在连贯性和事实一致性方面有进一步的分析证实。
发现论文，激发创造
  • 基于证据性引导的知识密集型自然语言处理任务生成

    本文介绍一种新的方法，通过多任务学习框架和银标签法来预测每个句子的证据性，并将其集成到生成模型的训练中，从而提高了知识密集型 NLP 任务中的生成模型的表现，尤其是在 FaVIQ-Ambig 上。

    Dec, 2021

  • 通过查询生成实现信息对话生成中的动态知识检索

    为了实现对话系统的智能回答，文中设计了 DRKQG，该系统能够根据上下文信息，在没有提前准备知识库的情况下通过搜索引擎检索相关知识，并利用生成模块同时考虑上下文信息和检索知识生成回答，实验结果表明，该模块在自动评估和人工评估两方面取得了优异的成绩。

    Jul, 2022

  • 基于预训练语言模型的知识驱动对话生成

    我们使用预训练的语言模型来研究基于知识的对话生成，通过知识选择模块和无监督方法来优化知识选择和响应生成，实验结果表明，我们的模型在自动评估和人类判断方面都显著优于现有方法。

    Oct, 2020

  • 为反驳生成增强知识检索

    通过结合知识图谱的方式，构建了一种自然语言推断模型，用于从网络的多样化来源中检索能够有效证明陈述错误的证据，从而进一步改进了证据检索系统。

    Sep, 2021

  • 利用大型语言模型增强企业知识库的问答能力

    通过使用大规模语言模型（LLMs），我们提出了一种名为 EKRG 的新型检索 - 生成框架，以极低的注释成本实现了企业知识库的问答。通过独特的指令调优方法和针对连贯性思维的微调方法，我们的框架在真实世界数据集上进行了广泛实验，并取得了显著的有效性。

    Apr, 2024

  • 基于知识的对话生成知识选择

    本文提出了一种生成式方法，名为 GenKS，用于在基于对话历史的语境下选择适当的知识片段，该方法通过序列到序列模型生成标识符来选择片段，捕捉片段之间的内部知识交互，并通过超链接机制显式地建模对话 - 知识交互，同时在三个基准数据集上进行实验并证明 GenKS 在知识选择和响应生成方面取得了最佳结果。

    Apr, 2023

  • 知识注入解码

    通过一种名为 KID 的基于强化学习的算法，将外部知识动态地注入到生成语言模型的解码过程中，以解决语境相关性和事实准确性的问题，进而在多种知识密集型自然语言生成任务中体现出比许多优化后的模型更好的性能表现。

    Apr, 2022

  • 低资源知识驱动对话生成

    在低资源环境下，通过设计一种解耦响应解码器使模型可以仅从大量未接地对话和非结构化文档中学习，而只使用有限的训练示例就能很好地拟合剩余的小参数。在两个基准测试上的评估结果表明，我们的模型仅使用 1/8 的训练数据就可以实现最先进的性能，而且对领域外知识有很好的概括能力。

    Feb, 2020

  • Grow-and-Clip: 答案解释的简明信息蒸馏方法

    本研究提出了 Grow-and-Clip 证据提取算法，通过权衡证据的信息量、简洁性和可读性，从语境中提取证据以增强问答模型的可解释性，并在 SQuAD 和 TriviaQA 数据集上进行了实验证明，证据的自动提取具有与人类相似的信息量、简洁性和可读性。

    Jan, 2022

  • 科学话语标注以实现证据提取

    通过从全文中提取文本片段，利用以生物医学为域的语料预训练的深度表征学习探讨科学论述结构的分析和证据片段的提取，以提高科学主张的质量。

    Sep, 2019