May, 2023

基于主题感知语句表征的无监督对话主题分割

PDF
TL;DR本文提出一种基于邻近语句匹配和伪分割从未标记的对话数据中学习主题感知话语表示的新颖无监督对话主题分割框架，并在两个基准数据集（即 DialSeg711 和 Doc2Dial）上进行了广泛的实验，表明我们的方法显著优于强基准方法。
dialogue topic segmentationunsupervised learningutterance representationpseudo-segmentationbenchmark datasets
发现论文，激发创造
  • 对话篇章解析和主题分割的无监督共学习

    通过主题分割和话语解析，我们提出了一种无监督的两种结构的互学习框架，以实现对话系统的全局目标和话语策略的一致性。实验结果表明，我们的方法在两个对话话语数据集（STAC 和 Molweni）以及对话主题数据集（Doc2Dial 和 TIAGE）上优于所有强基准模型。

    May, 2024

  • 主题感知多轮对话建模

    本文提出了一种新颖的基于主题感知的无监督多轮对话建模方案，该方案通过无监督的主题感知分割算法和主题感知双交互匹配网络实现，在多个公共数据集上的实验结果表明 TADAM 可以胜过现有的最新方法，尤其是在出现明显主题转移的电子商务数据集上提高了 3.3％。

    Sep, 2020

  • SuperDialseg：一款大规模的用于有监督对话分段的数据集

    本文通过文件引导对话，并发布一个大规模的受监督数据集 SuperDialseg，该数据集包含基于两个流行的文件引导对话语料库的 9K 个对话。此外，我们提出了两个模型来利用对话特征，实现关于对话分割任务的表现，并提供包括 20 个模型在内的基准测试，并根据实证研究提供了一些洞见。我们相信我们的工作是对话分割领域向前迈出的重要一步。

    May, 2023

  • 语言模型在半结构化和非结构化对话数据集中的主题分割

    我们综合分析了现有的最先进主题分割模型在非结构化文本上的泛化能力，并发现充分训练目标非结构化领域的相对较小规模数据集可以显著提高分割结果。在对非结构化和半结构化聊天进行分割时，我们的实证评估表明，Focal Loss 函数是交叉熵和加权交叉熵损失函数的一个强大的替代方案。

    Oct, 2023

  • 从连续的话语中学习对话的表征

    本文介绍了一种对话句子嵌入技术（DSE），它采用自监督对比学习方法来学习高效的对话表示，经在五个下游对话任务上的实验验证，DSE 在零样本和少样本学习中都表现出优异的性能。

    May, 2022

  • 使用概率自适应度量无监督发现重复的语音模式

    本文提出了一种名为 PDTW 的概率 DTW 无监督口语术语发现方法，利用处理语料库的分布特征进行自适应评估对齐质量，系统地发现具有相似性的模式对，并在 Zero Resource Speech Challenge 2017 数据集上测试，表现出更好的检测模式覆盖率。

    Aug, 2020

  • S3-DST: 基于结构化的开放域对话分割与状态跟踪在 LLM 时代

    对于基于大语言模型的聊天系统，我们提出了一种结合对话分割和状态跟踪的方法，在开放领域对话系统中处理来自演化的大语言模型聊天系统的复杂性并提高跟踪性能。我们的方法通过引入一种新的基于先前分析的回忆的接地机制来改善对长对话上下文的跟踪，并在一系列数据集和设置中得到了出色的表现，证明了其在下一代大语言模型聊天系统中的有效性和鲁棒性。

    Sep, 2023

  • 野外话题分割：面向半结构化和非结构化聊天分割

    本文在分析当前 NLP 中的主题分割模型的通用性能力时，发现在处理非结构化文本时，预训练策略并没有提高模型在该领域的可迁移性，只用一个相对较小的与目标结构相同的训练集从头开始训练模型，可以显著改善分类结果...

    Nov, 2022

  • 针对任务导向对话的意图归纳相关话语嵌入和聚类方法分析

    本文探讨了无监督方法来克服任务导向对话结构设计的基本挑战：为每个对话轮分配意图标签（意图聚类）和生成一组基于意图聚类方法的意图（意图归纳），并且通过比较不同的 clustering 算法和嵌入方法，表明对于意图归纳任务，应当仔细考虑句子嵌入和聚类方法的组合选择，同时 MiniLM 和聚合聚类结构在意图归纳任务中显示出显著的性能提升。

    Dec, 2022

  • TaDSE: 模板感知的对话句子嵌入

    通过模板信息，利用自我学习的对比学习框架，构建模板感知的对话句嵌入方法 TaDSE，并通过合成增强数据集增强话语和模板之间的关系，数据实验结果表明 TaDSE 在五项基准数据集上均超越了现有最佳效果，并且意图分类任务的表现较一致。

    May, 2023