Dec, 2019

低资源语言中的大规模与策划嵌入比较：以约鲁巴语和特威语为例

PDF
TL;DR本论文针对两种非洲语言 —— 约鲁巴语和特威语，通过比较由无标注文本学习的词向量和有标注文本学习的词向量，以及不同深度学习模型的表现，分析公开语料库中的噪声，并收集了高质量的语料库数据和相应的测试套件，最终提供了这两种语言的语料库、嵌入向量和测试套件。
deep learning architecturesafrican languagesword embeddingslanguage-dependent processingtest suites
发现论文，激发创造
  • 结合预训练的高资源嵌入和子词表示用于低资源语言

    研究了利用字根丰富的语言和预训练字向量相结合的方法，来提高低资源非洲语言的自然语言处理精度并在 Xhosa - 英语翻译任务中取得了最佳表现。

    Mar, 2020

  • 评估无监督的荷兰语单词嵌入作为语言资源

    本文探讨使用基于计数和基于预测结构构建的多种类型词向量嵌入在两个特定任务中的表现，即关系评估和方言识别，同时展示了这些嵌入的实用性以及在下游任务中的有效性。

    Jul, 2016

  • Setswana 和 Sepedi 的低资源语言数据集创建、筛选和分类 -- 扩展摘要

    研究了自然语言处理技术在低资源语言中的应用，提出了用于塞茨瓦纳语和塞班语头条新闻的数据集及其用于新闻主题分类的基线模型，并探索了一种适合低资源语言的数据增强方法以提高分类器性能。

    Mar, 2020

  • 无监督和半监督跨语言词嵌入学习的鲁棒性研究

    本文通过大量的评估，分析了多种跨语言嵌入模型的优劣，特别是在目标语言，训练语料库和监督程度等不同方面的限制，从而对 “高质量跨语言嵌入模型可以在不需要太多监督的情况下学习到” 的观点提出了质疑。

    Aug, 2019

  • Yorùbá-English 神经机器翻译中领域和重音的影响

    本研究提出了 MENYO-20k，这是一个首个多领域平行语料库，专注于干净的约鲁巴语和英语，为基准测试提供标准化的训练集 - 测试集划分。研究人员提供了几个神经机器翻译基准测试，并将它们与流行的预训练（大规模多语种）机器翻译模型的性能进行了比较。出乎意料的是，他们的模型效果超过了谷歌（+8.7 BLEU）和 Facebook M2M（+9.1 BLEU）这样的大规模多语种模型，为未来的研究设定了高质量的基准。

    Mar, 2021

  • 低资源命名实体识别的远程监督和噪声标签学习：哈萨语和约鲁巴语研究

    研究对在开发中国家使用的 Hausa 和 Yoruba 两种语言开展命名实体识别，发现能够成功利用远程监督提高分类器的性能，并比较不同的嵌入方法。

    Mar, 2020

  • 针对低资源语言的基于锚点的双语词嵌入

    提出了一种新的构建双语词向量嵌入的方法，该方法利用高资源源语言的向量空间作为训练低资源目标语言嵌入空间的起点，并通过使用源向量作为锚点，在训练过程中自动对齐向量空间，结果表明该方法不仅提高了双语词向量的质量和双语词汇词典归纳的性能，而且提高了目标语言的单语词相似性。

    Oct, 2020

  • 利用形态和音位子单元表示将词嵌入适应新语言

    使用语言学驱动的子词单元：音素、词素和字形，提高低资源语言下的自然语言处理、实体名称识别和机器翻译表现。

    Aug, 2018

  • 声音未听到：为约鲁巴地区方言提供的自然语言处理资源和模型

    用高质量的平行文本和语音语料库 (YORÙLECT) 跨三个领域和四个地区的尼日利亚约鲁巴语方言开展研究实验，结果表明，标准尼日利亚约鲁巴语和其他方言在机器翻译、自动语音识别和语音到文本翻译等任务中存在明显的差异，在方言自适应微调的情况下，能够缩小这一差距，该研究为尼日利亚约鲁巴语及其方言以及其他非洲语言的自然语言处理工具的发展做出了重要贡献。

    Jun, 2024

  • 零资源语言的多语种音频词向量

    该研究针对缺乏已标注数据的零资源语言开发语音应用的挑战，特别使用声学词嵌入（AWE），通过多语言转移利用来自几种资源丰富的语言的已标注数据。该研究介绍了一种新的神经网络，优于现有的 AWE 模型在零资源语言上的表现，研究还探讨了资源丰富语言的选择对结果的影响。AWE 应用于斯瓦希里语广播中的仇恨言论检测的关键词识别系统，展示了在实际场景中的稳健性。此外，新颖的语义 AWE 模型提高了语义查询示例搜索的性能。

    Jan, 2024