AAAISep, 2021

神经机器翻译的非参数人类反馈在线学习

PDF
TL;DR本研究提出一种新颖的非参数在线学习方法，该方法引入了两个 k 最近邻模块，一个模块记忆人工反馈，另一个模块自适应地平衡历史人工反馈和原始 NMT 模型，实验结果表明，在 EMEA 和 JRC-Acquis 基准测试中，该方法在翻译准确性上得到了实质性的改进，并实现了更好的适应性能，需要更少的重复人工纠正操作。
online learninghuman feedbackmachine translationneural machine translationk-nearest-neighbor
发现论文，激发创造
  • 神经机器翻译能否通过用户反馈进行改进？

    本研究在 ebay 电商平台上，使用了人类增强的方法来改进神经机器翻译 (NMT)，并通过通过跨语言搜索任务收集的隐式任务反馈，提高了翻译质量和任务效率。

    Apr, 2018

  • 非参数最近邻辅助微调神经机器翻译

    研究探究了在微调阶段引入 kNN 预测的统计数据来提高基线翻译模型，发现通过引入 gating 机制，kNN 的真实概率和强化学习三种方法，相比于传统的微调，可以在四个标准机器翻译数据集上实现一致的改进，尤其于翻译语法关系或功能词时表现出更大的提升。

    May, 2023

  • 一种交互式预测神经机器翻译的强化学习方法

    该研究提出了一种交互式预测神经机器翻译的方法，通过人类质量判断和基于熵的不确定性准则来降低人力需求以及实现在线模型参数的更新，模拟实验表明这种方法可以显著提高翻译质量并将人力需求控制在一个较低的水平。

    May, 2018

  • 在线学习与机器翻译评估：以最少的人力努力找到最佳系统

    基于在线学习的机器翻译自动化指标优化方法，通过对多个语言对进行评估，快速收敛于表现最佳的前三个系统。

    May, 2021

  • 搜索引擎引导的非参数神经机器翻译

    本研究提出了一种基于注意力机制的神经机器翻译（NMT）模型，并允许它在训练后访问整个平行句子对训练集。该模型由两个阶段组成：检索阶段和翻译阶段，实现了在源句子和一组检索的平行句子对之间的平滑翻译。在三种语言（En-Fr，En-De 和 En-Es）上的实证评估表明，该方法显著优于基准方法，并且当检索到更相关的平行句子对时，改进效果更为显著。

    May, 2017

  • 利用在线学习展示神经机器翻译系统给翻译人员使用

    我们介绍了一个在线学习神经机器翻译的系统，并将其与专业翻译人员最常用的 SDL Trados Studio 用户界面集成，以节省机器不断学习和适应特定领域或用户风格的人类选择所需的时间和努力。

    Jun, 2019

  • 神经机器翻译的非参数适应

    本文提出了一种半参数神经机器翻译方法，采用 n-gram 级别的检索方法和表现出色的非参数特性，针对神经网络在训练过程中的参数漂移而提出的而提高网络的鲁棒性的问题，在四种测试数据集上取得了优异的表现，进一步打开了使用非参数方法进行领域自适应的大门。

    Feb, 2019

  • 神经机器翻译的自适应学习

    本研究提出自适应学习方法来改进神经机器翻译 (NMT) 训练过程，允许 NMT 模型自动评估对训练示例的学习自信度并通过调节每次迭代的损失来灵活地控制学习，实验证明该方法在提高翻译质量和加速收敛速度方面优于强基线和人工设计课程训练的模型。

    Oct, 2020

  • 无监督神经机器翻译的实证研究：NMT 输出、模型行为和句子贡献的分析

    无监督神经机器翻译（UNMT）关注于提高无人翻译平行数据的 NMT 结果，但在突出其优势与分析除翻译准确性以外的输出方面，迄今为止还做得很少。我们聚焦于三种非常不同的语言，法语、古吉拉特语和哈萨克语，并使用不同程度的监督来训练双语 NMT 模型，并在高和低资源环境中，测量 NMT 输出的质量，并将生成的序列的词序和语义相似性与源语句和参考句子进行比较。我们还使用分层相关传播来评估源语句和目标语句对结果的贡献，并扩展了先前作品对 UNMT 范式的发现。

    Dec, 2023

  • 谷歌的神经机器翻译系统：弥合人类翻译和机器翻译之间的差距

    Google 发布的 GNMT 神经机器翻译系统采用 LSTM 深度学习网络，使用 attention 机制和残差连接，借助词元素 (wordpieces) 将单词划分为子单元，提高了稀有单词处理能力与整体系统精度。

    Sep, 2016