Sep, 2023

对齐目标对语码转换翻译的影响

PDF
TL;DR我们提出了一种训练单一机器翻译模型的方法，该模型能够将单语句从一种语言翻译成另一种语言，并能够翻译混合语句到任意一种语言，以应对社交媒体和用户生成内容的崛起带来的语种切换翻译需求。该模型可被视为与人类类似的双语模型，并通过生成合成的混合语数据以及对编码器进行对齐损失来更好地使用并行数据。在使用 WMT14 英法数据集进行训练后，所训练的模型在混合语翻译中大幅优于双向基线模型，并且在非混合语（单语）数据上保持了质量。
发现论文，激发创造
  • 使用神经合成数据的混合语言模型来处理句子间的平行语言切换

    为了解决训练混合语言模型的困难，本研究提出了一种基于序列 - 序列模型及 copy 机制的新型训练方法，通过有限的混合语言数据和单语数据的并行翻译生成需要的混合语言数据，且无需对齐或分析，实现了良好的表现，并显著提高了末端自动语音识别。

    Sep, 2019

  • 启用代码交替机器翻译的检查和策略

    本研究探讨了多语言神经机器翻译模型处理语种混杂文本的能力，提出了一种检测方法和简单有效的数据增强方法，同时通过对注意力模块的分析证明了这些方法的有效性。

    Oct, 2022

  • 跨语言脚本转化与对齐：用于混合编码数据的情感检测

    本研究提出了一种跨语言脚本知识共享架构，利用交叉关注和语言脚本的对齐来生成更好的文本表示，实验证明了该方法的有效性，并通过模型可解释性技术解释了语言特定表示之间的知识共享。

    Feb, 2024

  • 从机器翻译到代码转换：生成高质量的混合语言文本

    本文研究如何用神经机器翻译模型生成印地语 - 英语混合语种句子。通过预训练和使用合成数据来提高模型性能，生成的文本可用于数据增强，提高了语言模型任务和自然语言推理任务的性能，人工评估和客观指标的结果展现出了接近或优于印地语为母语的人群工作者生成的混合语种文本。

    Jul, 2021

  • EntityCS：基于实体为中心的代码切换改进零样本跨语言迁移

    本文提出了一种实体级别的语言混合方法（EntityCS），不仅可以避免语法错误，还可以提高四个实体中心下游任务的性能，在 Fact Retrieval 任务上最高可达 10%。

    Oct, 2022

  • 对比对齐何时提高多对多神经机器翻译的效果？

    在许多对多神经机器翻译中，使用单词级对比目标来利用单词对齐具有 0.8 BLEU 提升，并发现编码器的句子检索性能与翻译质量高度相关，这解释了所提出方法的影响所在，从而为未来的深入研究提出了动机。

    Apr, 2022

  • 利用语言模型进行机器翻译的上下文代码切换

    通过对比多个 LLM 模型，在机器翻译任务中，我们发现相对较简单的模型性能优于多语言大型语言模型，表明多语言大型语言模型在上下文代码切换方面的有效性受到训练方法的限制。与之相反，当相对较小的模型在定制的数据集上进行训练和微调时，可能会产生更好的结果。

    Dec, 2023

  • 使用代码转换增强预设翻译的神经机器翻译

    研究一种使用代码转换从而生成的训练数据的数据增强方法来限制大众翻译机器在本地词汇翻译方面的失误问题。

    Apr, 2019

  • CALCS 2021 共享任务：用于混合语言数据的机器翻译

    本文关注代码切换社交媒体数据的机器翻译，在监督和非监督环境下提供了英语 - 印地语 - 英语（英 - 汉格利什）、英语 - 西班牙语 - 英语（英 - 西班格利什）和英语 - 现代标准阿拉伯语 - 埃及阿拉伯语（英 - 埃语）的语言对，分享了共同创作语言评估数据时的见解和挑战，并为共享任务中的所有语言提供了基线。在共享任务的排行榜中，共有来自 5 个不同团队的 12 个系统提交。其中最佳表现分别为英语到印地语的 12.67% BLEU 分数和现代标准阿拉伯语 - 埃及阿拉伯语到英语的 25.72% BLEU 分数。

    Feb, 2022

  • 端到端的混合语言模型用于自动语音识别

    本文利用深度双向语言模型如 BERT 和其他机器翻译模型提出了一种提取单语文本的方法，以及探索从 ASR 模型中提取混合文本的不同方法，并通过比较混杂度和其他不同指标（如 WER）的结果与标准的双语文本输出来说明模型的稳健性。

    Jun, 2020