May, 2023

全球训练，定制本地化：极简多语翻译应用于濒危语言

PDF
TL;DR针对严重低资源语言，我们使用两种方法以尽可能高的质量翻译跨语言已知的有限文本，结果表明，首先将大型预训练的多语言模型适应到有限的文本领域 / 语言，然后再针对严重低资源语言进行调整表现最好。选择最佳的种子句也可以进一步提高翻译质量，同时将种子句数量降至约 1000 句。
text-specific translation enginelimited textsseverely low resource languagesmultilingual translation enginesadaptation
发现论文，激发创造
  • 大规模多语言文本翻译低资源语言

    通过利用资源丰富的语言的翻译资源，我们可以高效地将多种已知语言的限定文本翻译成新的资源匮乏语言，从而实现与人工翻译员合作，加快翻译进程。

    Jan, 2024

  • 无人被落下的语言：人本机器翻译的扩展

    本文介绍了一项针对低资源语言的研究，使用 Sparsely Gated Mixture of Experts 模型结合新的数据挖掘技术进行训练，从而实现了机器翻译中对于低资源语言的支持并提高了 BLEU 值。

    Jul, 2022

  • 在低资源环境下利用翻译进行语音转录

    研究对濒危语言的数据采集，利用多源神经网络模型和翻译，成功提高了转录质量。

    Mar, 2018

  • 针对低资源语言家族的定向多语言适应

    对于低资源语言，通过针对性的多语言训练，依照乌拉尔语系为案例进行调整，通过实验证明适应性的词汇大小对于低资源语言的影响相对较小，低资源语言在训练阶段能够进行积极采样而对高资源语言的性能影响微乎其微，从而为特定语境中的语言适应性提供了新的最佳实践。

    May, 2024

  • LlamaTurk：为低资源语言适应开源生成型大语言模型

    通过对英语为主的生成大语言模型进行调整，以适应资源匮乏的语言，并评估了不同的策略，包括持续训练、指导微调、任务特定微调和词汇扩展。结果表明，持续训练改进了语言理解能力，任务特定微调一般提高了下游任务的性能，但扩展词汇未带来实质性的益处。此外，在适应时，较大的模型通过少样本微调可以提高任务性能，而多语言模型在适应时表现不如单语言模型。

    May, 2024

  • 利用多语言技术进行非监督式稀有语言机器翻译

    本文研究了针对低资源稀有语种的无监督翻译问题，提出了一个三阶段训练方案的多语种模型，结合了单语和辅助并行数据，取得了明显优于当前无监督基准线的效果。

    Sep, 2020

  • 低资源语言医疗翻译实现

    本研究聚焦于解决卡塔尔移民工人与医务人员之间的语言障碍问题，尤其是通过开发一种真实可行的印地语 - 英语机器翻译系统来提高医生和患者之间的交流质量，我们采用了各种方法来收集适合的训练数据，并成功地通过生成合成变量的方法自动扩充训练数据，从而实现了 BLEU 分数绝对值提高超过 3 分。

    Oct, 2016

  • 雇佣一位语言学家！：通过上下文语言描述学习濒危语言

    我们提出 LINGOLLM，一种无需训练的方法，使大型语言模型能够处理在其预训练中几乎不出现的未知语言，从而大大提高了翻译能力。

    Feb, 2024

  • 利用预训练模型进行非洲新闻翻译：几千个翻译蓝本助力一步到位

    本研究探讨了如何使用预先训练的大型模型来创建 16 种非洲语言的低资源翻译系统，并发现对于转化到新领域和语言的最有效策略是在高质量翻译数据上微调预先训练好的大型模型。

    May, 2022

  • 低资源语言方言的机器翻译

    提出了一种快速适应机器翻译系统生成不同于标准目标语言的语言变体的框架，通过对英俄翻译系统进行适应，可以生成乌克兰语和白俄罗斯语；适应英挪威博克马尔翻译系统可以生成尼诺斯克语；适应英语 - 阿拉伯语翻译系统可以生成四种阿拉伯方言，与竞争基线相比，取得了显著的改进。

    Jun, 2021