Apr, 2022

AfriWOZ: 利用跨语言可传递性生成低资源非洲语言对话的语料库

PDF
TL;DR本文介绍了针对非洲语言首次提供的高质量对话数据集，并通过深度单语模型 DialoGPT 和 BlenderBot 以及基准模型 seq2seq 对其进行建模，利用重叠度进行效果分析，同时通过人类评估方法验证其有效性，发现深度单语模型可以学习一些泛化跨语言的抽象，人类得分最高的是奈及利亚皮钦英语。
发现论文，激发创造
  • 尼日利亚派金语的低资源跨语言自适应训练

    本研究针对低资源语言建设有效的口语处理系统提出了一个跨语言自适应训练框架，包括持续和任务自适应训练，以适应基于预训练模型的自然语言处理任务，采用英语预训练语言模型作为英语 - Pidgin 任务的强先验，取得了最高 2.38 的 BLEU 分数，加入正字法数据增强和反向翻译的任务自适应训练对模型性能有显著影响。

    Jul, 2023

  • Multi2WOZ: 一个强大的多语言数据集和面向任务型对话的预训练

    本文介绍了 Multi2WOZ 多语言多领域任务导向对话数据集，并提出了一种用于传输任意下游任务的多语言对话 PrLM 的新框架，证明了在多数情况下，最佳表现是将（I）针对目标语言的会话专业化与（ii）少次转移结合在一起，并且我们展示了针对目标语言的会话专业化可以实现下游任务的异常样本效率的少次转移。

    May, 2022

  • 面向南部非洲语言的低资源神经机器翻译

    通过比较零 - shot 学习、迁移学习和多语言学习在三种班图语（Shona、IsiXhosa 和 IsiZulu）和英语翻译中的表现，我们展示了语言相似性对英语到 isiZulu 的迁移学习性能的重要性，并证明多语言学习在我们的数据集上优于迁移学习和零 - shot 学习，其最佳模型相对于基线英语到 isiZulu 模型的 BLEU 得分提高了 9.9、6.1 和 2.0，同时超过了之前的最佳表现。

    Apr, 2021

  • X-RiSAWOZ：高质量端到端多语对话数据集和少样本代理

    本研究的目的是降低使用新語言創建數據集的成本，並通過提出一種使用機器翻譯和後編輯方法的工具集，實現建立高質量多語言對話代理的目的。

    Jun, 2023

  • 生成式对话状态跟踪器中的跨语言可转移性的实证研究

    本文研究了多语言预训练 seq2seq 模型在跨语言对话状态追踪中的可转移性，尝试了联合训练、预训练等不同设置，并发现了转化能力较低的问题。

    Jan, 2021

  • NollySenti: 基于迁移学习和机器翻译的尼日利亚电影情感分类

    本文通过跨域自适应的方式，以五种尼日利亚当地常用语言（英语，豪萨语，伊博语，奈及利亚皮钦语和约鲁巴语）为基础，创造了新的数据集 NollySenti，用来进行情感分类的任务，并通过机器学习和基于预训练模型的方式进行了广泛的实证评估。同时通过跨域自适应和跨语言自适应方法，与 Twitter 领域的表现进行比较，表明跨域转移对于同一目标领域的英语具有超过 5% 的准确度改善。而跨语言自适应的方案最大限度地降低了域差异，达到了超过 7% 的准确性提升，其中通过人的评估证实机器翻译将原始英语评论的情感保留在多数翻译语句中。

    May, 2023

  • 多语言 Transformer 模型的远程监督和迁移学习：关于非洲语言的研究

    研究了不同数量可用资源的情况下，对三种非洲语言 Hausa，isiXhosa 和 Yoruba 进行 NER 和主题分类的表现趋势，并通过远距离监督和迁移学习等方法，使用少量的标注数据达到与基线相同的性能，揭示了低资源学习中存在的挑战和机会。

    Oct, 2020

  • 塞内加尔沃洛夫语的低资源机器翻译

    本文介绍了一种基于循环神经网络（RNN）的机器翻译模型，结合次词单元和法语 - 英语语言对培训，提高了 Wolof / 法语对翻译性能。

    May, 2023

  • 跨语言迁移学习用于多语言任务导向的对话

    本文讨论了在任务导向的对话系统中如何识别用户意图和相应的插槽，并通过多种跨语言转移方法进行数据集训练比较

    Oct, 2018

  • MasakhaNER 2.0：面向非洲的命名实体识别迁移学习

    本文研究非洲语言在自然语言处理上的挑战，针对命名实体识别任务，创造了包含 20 种非洲语言的最大人工标注数据集，研究了现有跨语言传递方法的表现，并发现选择最佳传递语言相较使用英语，可以提高零 - shot F1 分数 14 点。

    Oct, 2022