Jun, 2021

口语问答自学习的自监督对话学习

PDF
TL;DR本研究通过自监督学习方式，包括不连贯性识别，插入检测以及问题预测，明确捕捉口语对话文档之间的指代消解和对话连贯性，提高了口语对话的意义和连贯性。在 Spoken-CoQA 数据集上取得了最先进的结果。
spoken conversational question answeringself-supervised learningdialogue coherencecoreference resolutionspoken-coqa dataset
发现论文，激发创造
  • 自监督对比跨模态表示学习用于口语问答

    本文提出了基于自监督和对比表示学习的新型语音问答培训方案，采用多元增广策略以及时间对齐注意来更有效地指导生成模型，实现最佳答案预测解决方案，在三个 SQA 基准测试上取得了最新成果。

    Sep, 2021

  • 面向端到端口语问答的数据蒸馏技术

    本研究提出了一种新的口头对话问答任务，能够使问答系统对给定的语音话语和文本语料库建模，其中使用了新的统一数据精炼方法 DDNet 直接融合音频文本特征以减少语音识别错误率，同时运用 Spoken-CoQA 数据集评估系统的对话式互动能力，并在实验中取得了优异的性能表现。

    Oct, 2020

  • 端到端口语对话问答：任务，数据集和模型

    提出了一种新的口语会话问答任务（SCQA），旨在使系统能够模拟复杂的对话流程，以便处理音频记录中的对话式问题，并探索从不同模态提供更多线索，通过 DDNet 方法有效地摄取跨模态信息以实现语音和语言模态的细粒度表示，并通过双向关注机制鼓励更好的音频和文本之间的对齐，以简化知识转移过程。通过 Spoken-CoQA 数据集，证明了跨模态信息融合的必要性，同时证明了提出的方法在口语会话问答任务中具有卓越的性能表现。

    Apr, 2022

  • 基于上下文关注机制的口语会话问答知识转移

    该研究提出了一种名为 CADNet 的方法，该方法使用上下文化注意力分层蒸馏技术，从而在 SCQA 任务中更好地抵御 ASR 噪声，最终在 Spoken-CoQA 数据集上实现了显著性能提升。

    Oct, 2020

  • 自问自答：无监督知识引导的语言模型对齐

    本文介绍了一种称为 Self-QA 的创新框架，利用大量无监督知识代替传统的人工撰写指导文件种子，从而生成更多正确和特定于领域的指导数据，以克服创建用于指导调整的监督配对问答数据所面临的挑战。

    May, 2023

  • DUAL：用于无文本口语问答的离散口语单位自适应学习

    该文提出了采用离散口语单元自适应学习（DUAL）方法，旨在解决当问答任务涉及到名称实体或生僻单词时，仍然能够从口语文本中获取正确答案的问题，同时发布了适用于更真实场景的新的 SQA 基准语料库 NMSQA。

    Mar, 2022

  • 大规模综合监督的跨语言开放领域问答预训练

    基于自我监督方法的编码器 - 解码器模型在跨语言问答中表现出色，利用维基百科的跨语言链接结构，综合生成监督信号，提高了检索和回答生成的性能，相比于其他方法，包括机器翻译，CLASS 方法在监督和零资源语言适配等方面均取得更好的效果。

    Feb, 2024

  • 自监督对话学习

    本文提出了一种自我监督的学习任务，不一致的次序检测，来明确捕获对话中的流程，通过抽样三元组引用来预测对话是否错序，进而设计一个联合的学习框架，使得 SSN 可以通过对抗训练指导对话系统实现更连贯、相关的对话学习，实验证明该方法不仅适用于开放域对话场景，而且在 OpenSubtitiles 和 Movie-Ticket Booking 数据集上达到了新的最优表现。

    Jun, 2019

  • 会话式问答中的加强问句重述技术

    使用强化学习训练重写模型，以 QA 反馈作为监督信号，能够有效提高抽取式和检索式问答中的性能，并且人工评估表明该方法能够生成更准确和详细的重写，优于人工注释。

    Oct, 2022

  • 医学问题理解和回答：基于知识基础和语义自我监督

    通过知识引导和语义自监督方法，引入了一个医疗问题理解和回答系统，该系统可以对较长、详细和非正式措辞的患者提出的问题（称为 “消费者健康问题”）进行处理。

    Sep, 2022