Jun, 2023

提炼并关注：改进神经机器翻译中的实体翻译

PDF
TL;DR提出了一个提取和关注的方法来增强 NMT 中的实体翻译，方法是先从字典中提取源实体的翻译候选项，然后添加为解码器输入的前缀，以便通过自我注意力机制生成目标语句。实验证明，该方法有效地提高了实体翻译和整体翻译质量。
neural machine translationentity translationdictionarysource sentenceself-attention
发现论文，激发创造
  • 通过正确翻译命名实体来提高神经机器翻译质量

    本文介绍了一种通过将名称实体作为预处理步骤进行翻译 / 音译来提高神经机器翻译质量的方法，并进行了实验证明其性能提高。考虑了三种类型的名称实体，包括人名、地名和组织名。结果表明，该系统能够正确翻译大多数名称实体，其准确率为人名 99.86％，地名 99.63％，组织名 99.05％，总体准确率为 99.52％。

    May, 2023

  • 搜索引擎引导的非参数神经机器翻译

    本研究提出了一种基于注意力机制的神经机器翻译（NMT）模型，并允许它在训练后访问整个平行句子对训练集。该模型由两个阶段组成：检索阶段和翻译阶段，实现了在源句子和一组检索的平行句子对之间的平滑翻译。在三种语言（En-Fr，En-De 和 En-Es）上的实证评估表明，该方法显著优于基准方法，并且当检索到更相关的平行句子对时，改进效果更为显著。

    May, 2017

  • 跨语言命名实体识别中的实体投影机器翻译

    利用机器翻译提升跨语言命名实体识别中的注释映射技术并得到优越的实验结果。

    Aug, 2019

  • 神经网络名称翻译提高神经机器翻译

    本文旨在通过引入字符级的 Seqence-to-Sequence 模型来提高神经机器翻译（NMT）系统的翻译效果和识别实体名词的能力，并在双语训练中借助名称实体翻译模型来提高高质量的实体名词对齐，从而使中英翻译任务的 BLEU 分数比基础 NMT 系统提高了 2.9 个百分点。

    Jul, 2016

  • 只需 5% 的注意力：高效的长距离文档级神经机器翻译

    通过引入基于轻量级注意力的额外选择层，我们在保持翻译性能的同时加快了 20％的速度，能够实现将注意力仅集中在约 5％的令牌上，从而节省了 93％的计算成本。

    Sep, 2023

  • 神经机器翻译的覆盖率建模

    本文提出基于 coverage 的 NMT 模型通过维护一个 coverage 向量来跟踪 Attention 历史信息，帮助调整未来 Attention，从而显著提高了传统 attention-based NMT 的翻译和对齐质量。

    Jan, 2016

  • DEEP: 神经机器翻译去噪实体预训练

    该论文介绍了 DEEP 方法，借助大量单语数据和知识库，通过去噪自编码器和多任务学习的方式，提高在句子内进行命名实体翻译的准确性，实验结果表明在三种语言对翻译中 DEEP 方法相较于其他方法具有更好的表现。

    Nov, 2021

  • 神经机器翻译的交互式注意力

    本研究提出了一种名为 INTERACTIVE ATTENTION 的注意力机制，可以通过读写操作来建模解码器与源句子表示之间的交互，从而跟踪交互历史并提高翻译效果，实验结果表明，与基线和某些注意力机制的改进相比，使用 INTERACTIVE ATTENTION 的神经机器翻译系统可以在多个测试数据集上平均优于开源的 attention-based NMT 系统 Groundhog 4.22 BLEU 分数和开源短语 - based 系统 Moses 3.94 BLEU 分数。

    Oct, 2016

  • 神经机器翻译的监督注意力

    本文提出利用训练句子对齐来提高神经机器翻译的关注或对齐准确性，通过将机器关注与 “真实” 对齐之间的距离计算，并在训练过程中最小化此代价，我们的实验证明，相对于大型词汇神经机器翻译系统，我们的模型显著提高了翻译和对齐质量，超越了最先进的传统基于语法的系统。

    Jul, 2016

  • 无监督神经机器翻译

    本研究提出了一种全新的方法，在没有平行数据的情况下，只利用单语数据即可训练 NMT 系统。这种基于注意力机制的编码器解码器模型结合去噪和回译技术， 在 WMT 2014 的法英和德英翻译中获得了 15.56 和 10.21 BLEU 分数，且能够利用少量的平行数据来提高翻译质量。

    Oct, 2017