Mar, 2019

微博会话中话题和语篇的联合建模

PDF
TL;DR本文提出了一个无监督框架，用于共同建模微博交谈中的主题内容和话语行为。具体而言，我们提出了一个神经模型来发现表示会话涉及什么（即主题）和反映参与者表达意见的词群（即话语）。广泛的实验表明，我们的模型既能产生连贯的主题又能反映有意义的话语行为。进一步的研究表明，我们的主题和话语表征可以增强微博信息分类的性能，特别是在分类器联合训练的情况下。
发现论文，激发创造
  • 微博上对话语篇和潜在主题的联合模型

    通过使用会话树以及区分话语角色，本文提出了一个无监督模型来提取微博信息中的主题并进行总结，结果表明这个模型能够有效地发现微博会话中摘要值得关注的内容。

    Sep, 2018

  • 对话中内容和话语关系的联合建模

    该研究提出了一种联合建模方法来识别口头会议中的显著讨论点，并标记发言者之间的话语关系；对于预测内容选择和话语关系，该联合模型在两个普及的会议语料库上表现出优于现有方法的结果；同时，使用基于该模型构建的特征训练分类器相较于现有技术能够显著提高团队成员对团体决策的理解一致性预测性能。

    May, 2017

  • 使用耦合分布式主题建模在线话语

    本研究提出了一种深度、全局归一化的主题模型，该模型考虑了社交生成语料库中文档之间的结构关系，并通过加入观察到的回复链接来捕捉对话交互信息，以及使用深度体系结构排列的潜在分布式表示，以实现基于 GPU 的有效比例推理过程。我们将该模型应用于 Reddit 论坛中的新社交媒体数据集，并对多个指标进行了评估，包括困惑度和元数据预测，并定量分析了所学到的交互模式。

    Sep, 2018

  • 可解释的、话语主题感知的神经语言理解

    该研究介绍了一种将主题模型与语言模型相结合的方法，扩展了语言理解的范围，通过主题进行了文档级上下文的抽取，并提出了一种可解释的主题表征，将主题语义加入到语言模型中。通过建模每个句子中的话题，保留了句子与文档主题关联，提出了一种既有隐藏话题，同时又有可解释话题的神经组合语言模型。该模型在多项任务中展现了显著提升的能力，包括语言建模、词义消岐、文档分类、检索和文本生成。

    Jun, 2020

  • 基于查询的主题模型

    提出了一种新的查询驱动主题模型，可以允许用户指定一个简单的查询，并返回相关的主题，从而避免了领域专家的繁琐工作。实验结果表明，该模型相比于传统和神经主题模型更加有效。

    May, 2021

  • 话语结构中的潜在主题和语篇共同作用：谁回应了谁

    本研究旨在探索话语连贯中回应关系的一般性结构，并提出一种学习潜在议题和话语结构的模型，通过利用主题一致性和话语依存来预测发起 - 回应联系，实验结果表明，我们的模型在中文客服对话等任务上表现显著优于之前的方法。

    Apr, 2021

  • 神经动态聚焦主题模型

    本文提出了一种基于神经组态推断的动态聚焦主题模型，该模型能够跟踪主题的出现情况以及活跃度，并在各种任务中实现了比其他主题模型更好的泛化能力和类似的预测能力。

    Jan, 2023

  • 全局序结构下的主题和意图联合建模

    该研究提出 GMM-LDA 模型，将文档建模为主题词和修辞词的混合，通过加入有序信息分析文档意图结构，并在无监督和有监督的情况下进行实验，结果表明该模型的优越性能。

    Dec, 2015

  • 开放领域话语连贯性的神经网络模型

    本研究提出了一种无域限制的神经模型，可用于度量多个方面的连贯性，并能在生成新语句时保持连贯性，该模型包括区分性模型和生成性模型，以及一种新的基于神经潜变量马尔科夫生成模型，可捕获文本中句子之间的隐含连贯性依赖关系，并在多个连贯性评估方面取得了最先进的表现，为处理语篇上下文生成连贯性文本迈出了一步。

    Jun, 2016

  • 协同主题建模

    我们提出了一种名为 “协调主题建模” 的新问题，旨在通过复用现有知识来更加可解释地表示语料库，并设计了一种基于嵌入式的协调主题模型（ECTM），该模型通过引入主题和文档级别的监督和自训练机制来解决此问题，并在多个领域进行的广泛实验表明我们的模型优于其他基线。

    Oct, 2022