EMNLPSep, 2021

利用停顿信息提高实体识别的准确性

PDF
TL;DR本文阐述语言学中名词周围的语音停顿可以用于改善机器学习语言理解任务；作者的提出的一种新颖的语义嵌入模型能够用于增强浅层实体分析，结果显示此模型相比传统方法能够将误差率提高 8%。
natural language understandingdialoglinguisticsmachine learningspeech pauses
发现论文，激发创造
  • 使用预训练语言模型的时长感知暂停插入多说话人文本转语音

    本文提出一种基于预训练语言模型的更加高效的暂停插入框架，运用双向变压器编码器表示来注入演讲者嵌入以捕捉不同演讲者的特点，并使用持续时间感知的暂停插入以获得更自然的多人演讲，测试结果表明该模型提高了合成语音的节奏性、暂停插入的精度和召回率。

    Feb, 2023

  • 融合语言学知识的实证研究：个性化自然语音合成中的充填式停顿

    本研究旨在探讨基于语言知识的个性化自发性语音合成，着重针对充满话语不流畅的填充停顿进行个性化处理，通过开发一个基于多说话者语料库训练的非个性化外部填充停顿预测器的语音合成方法进行比较评估，证明了填充停顿时态与词汇的交错对自然度和个性化的必要性。

    Oct, 2022

  • 言之有物：使用暂停标记训练语言模型

    使用一个可学习的 “暂停” 标记和推迟提取模型输出的方法，我们在语言模型上执行训练和推理，并观察到模型在预训练和微调过程中实现了推理时间延迟的增益，这对各种推理、问答和基本理解任务都有积极的影响，进一步将延迟下一个标记预测的方法应用于各种应用场景可能引发更多概念性和实践性的未来研究问题。

    Oct, 2023

  • 优化韩国语 TTS 停顿生成的句法和声学线索相互作用

    通过综合建模句法和声学线索，提出了一种能够生成自然语音的新框架，有效解决高资源语言和韩语中的停顿错误问题。

    Apr, 2024

  • 基于预训练语言模型和基于停顿的韵律建模的自然语音合成 (PauseSpeech)

    本文提出了一个基于已预训练语言模型和基于停顿的语调模型的语音合成系统 PuaseSpeech，其使用编码器和预测器来实现词语分组和停顿的建模，实验结果表明 PuaseSpeech 在自然度方面优于先前的模型。

    Jun, 2023

  • PAUSE: 正向和淬火未标记句子嵌入

    本文提出了一种名为 PAUSE 的模型，它通过部分标注数据集学习高质量的句子嵌入向量，并在各种基准测试任务上达到甚至超过当前最先进水平，尤其适用于工业场景下标注数据稀缺的情况。

    Sep, 2021

  • 口语化头像系统的人类相应延迟对话回合

    通过分析谷歌自然问答数据库，本文展示了 GPT-4 可在超过 60％的时间内从问题末尾的遗漏词语有效填补丢失的上下文，并探讨了这种信息损失对发展中的角色模型质量的影响，同时提出了使用简单分类器来确定是否需要填充短语以满足人类对话时间限制的问题是否语义完整。

    Apr, 2024

  • 预测口语对话代理的启动点

    本文的研究目的是为了提高口头对话系统的自然度，通过一些预训练模型和特征，预测对话系统主动发起回合的时间点，并在 Switchboard Corpus 上实现了更好的性能表现。

    Aug, 2022

  • 双向语言模型在语义分割中改善长篇语音识别

    通过从语言模型中提炼标点符号知识，并将其应用于分割长篇语音，我们研究出一种优于其他方法的，实现了 3.2% 相对词错误率增益以及 60ms 中位端到端延迟降低的流式自动语音识别管道分割器。

    May, 2023

  • 时间瓶颈：为什么定时和重叠对于对话界面、语音识别和对话系统至关重要

    对话系统中的定时关键，6 种语言的自然对话数据的词错误率仍然糟糕，重叠问题是一个关键挑战，对话词语的识别受到影响，进而对下游意图识别产生严重后果。

    Jul, 2023