Oct, 2022

使用噪声通道模型在文档驱动对话系统中控制事实性

HTML
PDF
TL;DR本文提出了一种模型，通过Bayes定理将其分解为两个部分，其中一个是传统的非基础回应生成模型，另一个是基于对话上下文和生成的回应重建基础文档的模型。我们提出了不同的近似解码方案，并在多个开放域和面向任务的基础对话数据集上评估我们的方法，实验表明该模型在自动事实度指标方面比基线模型更为准确。此外，我们概述了如何介绍组件之间的缩放因子以控制模型输出中的事实度和流畅性之间的权衡。最后，我们将我们的方法与最近提出的用于控制基础对话中事实度的方法CTRL进行了比较，并表明这两种方法可以结合起来实现额外的改进。
发现论文，激发创造
  • 一种可控的基于 grounded 的回复生成模型

    该论文提出了一种名为可控接地响应生成（CGRG）的框架，利用词汇控制短语来提高语义控制能力，有效避免了事实准确性和信息量之间的矛盾并超越强大的生成基准线。

    May, 2020

  • 通过可控特征提高基于知识的对话的准确性

    研究知识基础对话系统，控制生成神经对话模型，加入不同的评估措施作为样式控制以鼓励模型生成有据可依的响应，并通过人类评估研究判断控制生成模型的产出通常更加客观和有据可依。

    Jul, 2021

  • 使用数据增强和噪声通道模型将基于文档的对话系统适应为口语对话

    本文介绍了我们在第十届对话系统技术挑战赛第二轨知识引导的任务导向对话建模中的提交内容。在适应ASR转录的噪声方面探索不同的方法来使得模型更加健壮，并采用噪声通道模型来适应口语交流的风格。我们的最佳系统在挑战的自动和人工评估中分别排名第一和第三。

    Dec, 2021

  • GODEL：面向目标导向对话的大规模预训练

    这篇论文介绍了 GODEL（Grounded Open Dialogue Language Model），它是一种大型预训练语言模型，用于对话。与以前的模型相比，GODEL 利用了一种新的基于 Grounded 的预训练方法，以更好地支持适应广泛的下游对话任务。实验表明，GODEL 在少样本 Fine-tuning 方式下表现优异，具备更好的实用性和信息传达特征。

    Jun, 2022

  • 基于文档支持的任务型对话系统：HLTPR@RWTH在DSTC9和DSTC10上的研究

    本文总结了我们在第9和10个对话系统技术挑战赛（DSTC9和DSTC10）的文档驱动对话任务中的贡献，包括知识选择，数据增强，响应生成和评估指标等领域。

    Apr, 2023

  • 基于点互信息度量和解码策略的文本对话生成中忠实度实现

    本文提出了一种基于点互信息的新的响应语义度量指标，并将其应用于深度学习生成模型生成对话的评估和后续的响应生成过程中，可以获得更可信和真实的自动响应。

    May, 2023

  • 评估信息查询对话中基于文档的响应生成的大型语言模型

    该论文研究了在信息寻求对话中使用大规模语言模型（LLMs）如ChatGPT进行基于文件的响应生成。通过人工评估我们发现，ChatGPT变种虽然有可能插入不在相关片段中的信息，可能存在错觉，但评分比共享任务获胜系统和人工响应更高。

    Sep, 2023

  • 对话基础：基础行为和基础单元的注释与分析

    此研究提供了通过使用对话中的对接行为和对接单元进行标注的两个对话语料库及其对接程度的度量，以测试当前的语言模型在对话的对接行为分类中的性能，并旨在进一步研究使与机器的对话更易理解和更可靠的资源。

    Mar, 2024

  • 一种融合真实性和多样性的基于知识的对话生成解码方法

    通过引入采样中的随机性，可以增加对话生成中的多样性。然而，这种采样方法可能会削弱对话生成中的真实性。为了在不依赖可疑的随机性的情况下推进创造力，并在源指向的范式中细致地协调真实性和多样性，提出了一种名为DoGe的新方法。DoGe可以根据模型的真实置信度动态地在内部参数知识和外部源知识之间进行切换。在三个广泛使用的数据集上进行的大量实验表明，DoGe不仅可以增强回答的多样性，而且可以保持真实性，并且明显优于其他各种解码策略基线。

    Jul, 2024

  • 多文档基础的多轮合成对话生成

    本研究解决了多文档生成的多轮对话中的控制与准确性问题。通过使用以分类法驱动的用户查询和实时更新文档的模拟方法，提出了一种创新的对话生成技术。结果表明，合成的对话数据在多样性、一致性和准确性方面均优于传统人类生成的数据，具有显著的应用潜力。

    Sep, 2024