Feb, 2023

汉字级别翻译是否值得等待？字符级别与子词级别机器翻译模型的广泛比较

HTML
PDF
TL;DR通过对多种语言和实验条件下的状态-of-the-art字符-和子词级预训模型（ByT5和mT5）进行了广泛的比较，这项工作展示了前者不仅在翻译方面有效，并且在某些情况下比子词模型表现更好，特别是在训练数据有限的情况下。字符模型唯一的缺点似乎是效率低（至少慢4倍的训练和推理时间）。进一步的分析表明，字符模型能够隐含地在词或子词级别上进行翻译，从而抵消了字符级别操作的一个主要潜在弱点。
发现论文，激发创造
  • 基于字符的神经机器翻译

    本研究介绍了一种基于字符级别表示的神经机器翻译模型，该模型使用注意力机制实现从字符级别到单词级别的翻译，并具有一定的词形识别与生成能力。

    Nov, 2015

  • 不需显式分段的全字符级神经机器翻译

    该研究提出了一个无需分词的神经机器翻译模型，在WMT'15数据集上使用多语言字符级编码器和基于字符卷积神经网络的模型，不仅速度快，泛化性能好，而且能够跨多语言实现高质量普适翻译，效果优于子词级编码器。

    Oct, 2016

  • 字符级神经机器翻译的语法性如何？通过对比翻译对评估机器翻译质量

    通过对神经机器翻译实现对特定语言现象的质量评估，我们提出了一种新方法并给出了包含97000对用于WMT英语->德语翻译任务的对照翻译数据集LingEval97，对字符级别和字节对编码（BPE）分割模型的实验结果显示，前者在翻译转写方面表现更好，但在形态句法协议和翻译非连续的意义单元方面表现较差。

    Dec, 2016

  • 基于字符的神经机器翻译：容量和压缩的再思考

    本论文通过设计深度模型对字符级信息进行序列到序列建模，并且验证了该模型优于传统的基于单词片段的模型，从而为字符级神经机器翻译提供了参考。同时，通过评估多种字符级NMT技术，发现它们不能与深层字符基线模型的表现相匹配。最后，我们还在该框架内进行了针对NMT的条件计算时间的第一次评估。

    Aug, 2018

  • 论字符级神经机器翻译中词边界的重要性

    本文提出了一种更高效的字符级神经机器翻译解码方法，使用词和字符级别的分层解码结构，能够优化机器翻译性能并学习更长的上下文和语法依赖。

    Oct, 2019

  • 通过微调子词系统实现合理大小的基于字符级别的Transformer NMT

    实现字符级别的Transformer架构通常需要非常深的架构，难以训练。本文提出一种通过在模型中将分词与字元结合进行初步训练，然后在字符级别上调整，从而实现不需要分词的神经机器翻译模型的方法，并且展示了这种方法更好地捕捉了语言形态现象和更加健壮，训练的代价相对较小。

    Apr, 2020

  • 基于字符级Transformer的神经机器翻译

    本文针对机器翻译中常用的子词级神经网络模型提出了基于字符级翻译的Transformer模型，实验证明所提出的模型在训练效率和翻译质量方面是优于先前的字符级模型且与子词级模型相当的，代码和模型已经公开发布。

    May, 2020

  • 纯字符级神经机器翻译的理解：以从芬兰语到英语的翻译为例

    本文探讨了纯字符级模型在芬兰语到英语机器翻译中的效果，并证明了字符序列中不同位置的字符在学习语言知识方面扮演着不同的角色。通过实验证明，单头的基于字级别的注意力机制会导致 BLEU 分数下降 1.2 分。

    Nov, 2020

  • 为什么人们不使用基于字符级的机器翻译？

    通过文献和实证调查，我们批判性地评估了机器翻译（MT）中基于字符级建模的最新技术发展现状。尽管文献中有证据表明，与子词级方法相比，字符级系统相当可靠，但在竞争性的WMT比赛中几乎不被使用。我们的实证研究表明，尽管在自然语言处理的字符级建模方面取得了一些创新，但字符级MT系统仍然难以与基于子词的系统相匹配，也没有更好的领域稳健性或更好的形态概括性。但是，我们能够表现出对源端噪声的稳健性，并且在解码时随着Beam size的增加，翻译质量不会降低。

    Oct, 2021

  • 基于子词分割的下采样在字级别翻译中的应用

    通过引入一种新的信息量更大的降采样方法，将字符水平的机器学习模型在机器翻译领域中的表现提高到与子词水平的模型接近。

    Dec, 2022