ICLRMar, 2020

通过将英语数据作为转换点和自我训练生成未加监督的洋泾浜文本

PDF
TL;DR该研究致力于使用自然语言生成技术，通过建立一个能够根据结构化数据自动生成皮钦英语描述的系统，填补皮钦英语机器翻译系统和相关自然语言处理数据集的空缺。通过训练以英文为目标语的数据文本生成系统，然后采用无监督的神经机器翻译技术和自我训练等方法，我们在 Pidgin-to-English 跨语言对齐方面取得了进展。结果表明，虽然还远未达到实际使用的水平，但基于中心轴和自我训练技术可以提高皮钦文本的流畅性和相关性。
发现论文，激发创造
  • PidginUNMT：从西非皮钦语到英语的无监督神经机器翻译

    本文介绍了针对西非洋泾浜英语最常用的变体进行的第一项自然语言处理工作，提供了标准语料库、跨语言嵌入和无监督神经机器翻译模型等三个贡献，有效地降低了未来 NLP 工作的准入门槛。

    Dec, 2019

  • 尼日利亚皮钦语的监督和无监督神经机器翻译基线

    研究实现了监督和无监督神经机器翻译模型来翻译英语和尼日利亚皮钦语，比较了不同的分词方法，在英语和尼日利亚皮钦语之间建立了良好的翻译基础。

    Mar, 2020

  • 尼日利亚派金语的低资源跨语言自适应训练

    本研究针对低资源语言建设有效的口语处理系统提出了一个跨语言自适应训练框架，包括持续和任务自适应训练，以适应基于预训练模型的自然语言处理任务，采用英语预训练语言模型作为英语 - Pidgin 任务的强先验，取得了最高 2.38 的 BLEU 分数，加入正字法数据增强和反向翻译的任务自适应训练对模型性能有显著影响。

    Jul, 2023

  • 用于上下文情感分类的尼日利亚派金英语语义丰富化

    本研究探讨了如何在 Pidgin 语境下理解情感分析，提出了一个 300 词汇表和 14,000 条推文的 Nigerian Pidgin 情感标签数据集，指出了将传统英语情感分析模型直接用于 Nigeria Pidgin 文本的缺陷。

    Mar, 2020

  • AfriWOZ: 利用跨语言可传递性生成低资源非洲语言对话的语料库

    本文介绍了针对非洲语言首次提供的高质量对话数据集，并通过深度单语模型 DialoGPT 和 BlenderBot 以及基准模型 seq2seq 对其进行建模，利用重叠度进行效果分析，同时通过人类评估方法验证其有效性，发现深度单语模型可以学习一些泛化跨语言的抽象，人类得分最高的是奈及利亚皮钦英语。

    Apr, 2022

  • 模型化正字变化提升尼日利亚商业英语的 NLP 性能

    试验展示了将来自其他语料库的真实文本与合成的正字法变异相结合以增强训练数据的益处，在情感分析方面效果提升了 2.1 分，英文翻译方面效果提升了 1.4 BLEU 分。

    Apr, 2024

  • 尼日利亚皮金语的隐性篇章关系分类

    本文通过比较将尼日利亚皮金语（Nigerian Pidgin）数据翻译成英语并使用资源丰富的 Implicit Discourse Relation Classification（IDRC）工具和后向投影标签，以及创建一个皮金语的合成语料库并训练本地分类器的方法，针对隐式言论关系分类（IDRC）问题，演示了使用后一种方法训练出了比基线模型在 4 分类和 11 分类中分别高出 13.27% 和 33.98% 的 f1 分数。

    Jun, 2024

  • 生成型人工智能使用哪种尼日利亚皮欠语？: 关于多语种和资源有限语言的代表性和偏见问题

    Naija 是尼日利亚的一种混合语言，通过统计分析和机器翻译实验，证明 Naija 在 BBC 和 Wikipedia 体裁中存在语言差异，而生成型人工智能只基于 BBC 体裁的 Naija，无法代表 Wikipedia 体裁中的 Naija。

    Apr, 2024

  • 借助 GPT 作为枢纽，减轻对资源匮乏的代码混合数据问题

    通过使用 GPT 3.5 生成非洲语言中的代码切换句子，我们发现非拉丁脚本语言（如约鲁巴语）生成的句子质量明显较低，与高阿非卡语 - 英语成功率相比。因此，我们提出了一个框架来增加合成代码切换数据的多样性，并建议利用这项技术缓解低资源语言的数据稀缺，强调本地说话者在这一过程中的关键作用。

    Apr, 2024

  • 使用中间稳定化技术进行跨模态语言生成，以实现网络规模的语言覆盖

    研究问题是如何解决数据饥渴模型与缺乏非英语注释的问题，提出了一种名为 PLuGS 的方法，该方法直接利用英语注释（gold data）及其机器翻译版本（silver data）进行训练，从而在运行时生成目标语言字幕。该方法在使用 Open Images 数据集中的图像进行大领域测试时，在 5 种不同的目标语言中表现优异。此外，研究者还发现了一个有趣的现象：PLuGS 模型生成的英文字幕比原始的单语英文模型生成的副标题更好。

    May, 2020