多方对话的通用依赖建模

Feb, 2023

Generic Dependency Modeling for Multi-Party Conversation

Weizhou Shen, Xiaojun Quan, Ke Yang

TL;DR为了模拟多方会话中话语之间的依存关系，我们提出了一个基于依存分析结果的简单通用框架，其中包括一种相对依存编码（ReDE）的方法，并阐述了如何通过修改自注意力的计算方式在 Transformers 中实现它。在四个多方会话基准测试中的实验结果表明，这种框架成功提升了两种基于 Transformer 的语言模型的整体性能，并且与最先进的方法相比具有相当甚至更好的性能。

Abstract

To model the dependencies between utterances in multi-party conversations, we propose a simple and generic framework based on the dependency parsing results of utterances. Particularly, we present an approach to

multi-party conversations dependency parsing transformers language models performance

发现论文，激发创造

多方响应生成与关系解缠

该研究提出了一种通过对话上下文进行关系推理来指导神经响应生成的方法，并在多方对话中展示出优于基线模型的效果。

Mar, 2024

多方对话语篇分析的深度顺序模型

本文提出了一种深度顺序模型，用于解析多方对话的话语依赖结构，并利用预测的依赖关系和结构类型共同和交替地构建话语结构，实现基于序列扫描的话语依赖树构建。实验结果表明，该模型的性能优于所有最先进的基线。

Dec, 2018

使用对话依赖关系的多轮响应选择

本文提出了一种用于将对话历史转换为线程的对话提取算法，同时采用预训练 Transformer 进行编码并通过注意力层来得到匹配分数，实验表明依赖关系有助于对话上下文的理解，此模型在 DSTC7 和 DSTC8 等任务上的表现优于现有方法。

Oct, 2020

基于依赖关系混合语言模型

本研究介绍了基于依赖关系的混合语言模型，利用神经网络训练学习未来依赖令牌的概率分布，并将其与自注意力机制混合，从而提高了神经文本生成的效果。

Mar, 2022

口语对话系统的依存句法分析

本研究提出了一种名为 SCUD 的新的语言依存注释标准，并提供了 ConvBank 数据集，以用于在人机对话方面训练依存句法分析模型。实验表明，将模型预训练于公共数据集并在 ConvBank 数据上进行微调可以取得最好的结果，达到了 85.05％的未标注和 77.82％的标注连接准确率。

Sep, 2019

将依存树整合到自注意力机制中的句子表示

提出了一种依赖转换器的模型，它采用自注意机制与关系注意机制的协同作用来编码句子依存树中节点之间的依赖关系和空间位置关系，并成功注入了语法信息，提高了模型对句子的表示能力和计算效率。

Mar, 2022

多模态对话生成中的文本视觉相互依赖建模

该论文提出了一种解决多模态对话生成的方法，可以更好地模拟真实环境中的多模态对话。通过建模文本 - 视觉特征之间的相互依赖，并研究生成与视觉背景相关的对话，大幅提升了模型性能。

May, 2021

语义依存分析的深度多任务学习

本文介绍了一种基于深度学习的语义依存图形式分析系统，该系统采用效率高且几乎拓扑结构简单的推理方法，通过组合双向 - LSTM 和多层感知机，能够在不使用手工特征或语法的情况下显著提高语义依存分析的技术水平。作者还对多任务学习策略进行了研究，并获得了新的技术成果。

Apr, 2017

基于依赖的混合树用于语义解析

本研究提出了一种新的基于依存的混合树模型，将自然语言转换成机器可解释的含义表示，并通过在标准多语言 GeoQuery 数据集上进行的大量实验证明，我们的方法能够在多种语言上实现最先进的性能。

Sep, 2018

面向会话情感识别的说话者引导编码器 - 解码器框架

本文提出了一种探索语音信息中内部和外部说话者依赖关系的新型说话者建模方案，并使用 Speaker-Guided 编码器 - 解码器框架来预测情感标签，证明了其在情感识别中的优越性和有效性。

Jun, 2022