Sep, 2019

视觉语言模型中的单词识别、竞争和激活

PDF
TL;DR本文研究了如何在视觉语音循环神经网络中表示和识别单词，使用门控方法分析神经网络所学单词表征的正确性和词汇竞争过程中的单词激活方式，其结果表明当网络能接触到目标单词第一个音素时才能正确识别单词表征。
recurrent neural modelvisually grounded speechlinguisticsword representationlexical competition
发现论文，激发创造
  • 利用视觉基础的语音建模词汇学习和识别

    该研究使用视觉以及语音的统计依赖关系进行词语识别，并探究其中的单复数形式和词汇竞争效应，同时研究了矢量量化在识别词语方面是否有益。

    Mar, 2022

  • 基于循环神经网络的语音表征建模中声音学编码

    研究使用回归神经网络模型处理图像和其口述描述中语音音素的表示和编码，通过一系列实验分析了音素如何在模型的各层中编码，发现最明显的音素表示在较低层，而注意力机制则显著削弱语音学编码，并使得话语嵌入更加不变。

    Jun, 2017

  • 从音素到图像：一种循环神经模型中的表征层次结构，用于视觉语言学习

    基于堆叠门控循环神经网络的视觉语言学习模型，可以通过音素序列描述的图像描述，学习预测图像的视觉特征，并以层级结构表示语言信息。

    Oct, 2016

  • 语言表征在视觉语音信号模型中的应用

    基于视觉基础的言语知觉模型，使用多层循环高速公路网络对时间性建模，能够从输入信号中提取形式和基于含义的语言学知识，并分析了训练模型不同组件使用的表示方式。在表示层次结构的上升过程中，语义方面的编码越来越丰富，而语言输入中形式相关方面的编码在初始增加后呈现平稳或下降的趋势。

    Feb, 2017

  • 基于视觉的子词语音单元发现探索

    研究了如何使用卷积神经网络模型来关联原始语音波形和自然图像场景，探究了解释性的子词语音单位是如何出现的，可以深层次地理解中间层的激活模式，揭示出 Diphone 边界被表浅提取，表明对于字词的识别中该模型在利用这些事件，并提出了多个实验来研究这些事件所编码的信息。

    Feb, 2019

  • 使用语音到图像检索的语言学习

    本研究提出了一种改进的神经网络方法，借助多层 GRU、重要性采样、循环学习率、向量自我注意力等结构，实现了从口语训练中创建基于视觉的句子嵌入，相比较前人工作取得了显著提升的图像字幕检索性能，并且揭示了模型的哪些层更适合识别输入中的单词。

    Sep, 2019

  • 基于视觉反馈的自监督语音模型中的词语发现

    本文提出了一种可视化感知的口语术语探测方法，通过对自注意力头的训练与分析发现，在自然图像与口语字幕关联的模型中具有强大的单词分割和聚类能力，并在 Buckeye 单词分割和 ZeroSpeech 口语术语探测任务上超过了所有已发表的现有方法。

    Mar, 2022

  • 从联合音视频分析中学习类似单词的单位

    本文提出了一种通过语音信号和图像区域的语义相关性，发现连续语音信号中类似于单词的语音单元，并将其与图像区域相关联的方法。这个模型能够有效地实现一种口语语言习得的形式，不使用常规的自动语音识别或文本传输，同时丰富学习词汇的语义含义及图像联系。

    Jan, 2017

  • 神经网络方法实现口语内容嵌入

    通过使用循环神经网络 (RNNs) 改进了模型训练的效率和性能，我们提出了基于 RNNs 的新的区分性的声学词嵌入 (AWE) 和声学基础词嵌入 (AGWE) 的方法；我们将这些发展扩展到几种低资源语言，并且在有限标记数据的情况下展示了多语言训练的性能提升；我们将这些嵌入模型应用于基于示例的语音搜索和自动语音识别等下游任务；最后，我们展示了我们的嵌入方法与最近的自监督语音模型的比较和补充。

    Aug, 2023

  • 基于视觉绑定、自监督的语音模型中的音节发现和跨语言泛化

    本文提出了一种自我监督语音模型训练方法，可以自动检测语音中的音节边界并对同一音节进行聚类，该模型不仅在英语上表现优异且能够泛化到其他语言，实现了零样本学习，且在四种语言上实现了词分割任务的零样本迁移，胜过了之前的最佳成果。

    May, 2023