EMNLPSep, 2021

多语言和多域神经机器翻译训练的不确定性平衡

PDF
TL;DR本文介绍了一种能够动态调整训练数据使用的方法 MultiUAT，用于多语料机器翻译，通过信任的干净数据确定模型的不确定性，实现数据平衡，经过实验证明，MultiUAT 在多语言和多领域环境下都比现有方法表现更好。
multilingual translationmulti-domain translationdata balancinguncertainty measuresmachine translation
发现论文，激发创造
  • 多语言神经机器翻译的平衡训练

    该论文提出一种利用数据得分器来自动学习如何加权训练数据以最大化所有测试语言性能的方法，优于传统启发式方法，并提供对优化语言的灵活控制。

    Apr, 2020

  • 基于平衡和不确定性感知的部分域自适应方法

    本研究提出了一种用于解决源域与目标域类别不完全相同情况下的无监督域适应问题的方法 BA$^3$US，通过两种新技术 BAA 和 AUS 来平衡类分布并抑制不确定性的传播，在多个基准测试中，实验结果表明 BA$^3$US 优于现有方法。

    Mar, 2020

  • 神经机器翻译中的不确定性分析

    本研究提出了工具和度量方法来评估机器翻译模型中数据不确定性的捕捉，以及这种不确定性如何影响生成翻译的搜索策略。我们的结果表明，搜索功能表现出色，但模型往往在假设空间中分散了太多的概率质量。此外，我们还提出了评估模型校准的工具，并展示了如何轻松解决当前模型的一些缺陷。

    Feb, 2018

  • 神经机器翻译的不确定性感知语义增强

    本文提出了一种新的方式用于神经机器翻译的模型训练，通过对多个具有相同语义的源语言句子进行明确抓取通用的语义信息以提高模型性能。在各类翻译任务的实验中，本方法表现显著优于现有方法。

    Oct, 2020

  • 不确定性感知学习的语言模型对齐

    我们提出了一种基于样本不确定性的学习方法，通过引入更能体现样本不确定性的模型，来改善不同任务情景下的模型对齐，实验证明我们的方法能显著提高模型性能和数据效率。

    Jun, 2024

  • 非平衡训练数据情景下的无监督神经机器翻译自训练

    本文旨在解决源语言文本资源匮乏时，因失衡的训练数据导致无监督神经机器翻译系统（UNMT）性能低下的问题，提出基于自训练机制的 UNMT 系统，实验证明了其比传统 UNMT 系统的性能更好。

    Apr, 2020

  • 不确定性感知的机器翻译评估

    本研究介绍了一种基于神经网络度量的机器翻译质量不确定性评估方法，并结合蒙特卡罗 dropout 和深度集成等两种不确定度估计方法，得出质量分数以及置信区间。通过对来自 QT21 数据集和 WMT20 度量任务的多语种数据进行实验，验证了该方法的性能，进一步探讨了不依赖参考文献的不确定性评估在发现可能的翻译错误中的应用。

    Sep, 2021

  • 标注与否：用于神经机器翻译的混合主动学习

    提出了一种混合主动学习策略 HUDS，用于神经机器翻译中的领域适应，通过结合不确定性和多样性来选择待注释的句子，实验证明 HUDS 比其他强基线方法更好地提升了性能。

    Mar, 2024

  • 口语理解中的区域不可知通用领域分类模型

    本文提出了一种利用具有相同语言的多个地方可用数据的方法，以提高口语语言理解中的域分类模型准确性和用户体验，即使新的地方没有足够的数据，并减少将域分类器扩展到大量场所的成本。我们建议了一种基于选择性多任务学习的 locale-agnostic 通用域分类模型，该模型学习具有不同域集的地点上的话语的联合表示，并允许地点根据域的不同选择性地共享知识。实验结果表明，我们的方法在具有不平衡数据和不同域集的多个场所的域分类任务上是有效的。所提出的方法特别优于其他基线模型，尤其是在分类特定于本地区的领域和低资源领域时。

    May, 2019

  • 机器翻译评估中的不确定性分解

    本文提出了一种针对机器翻译 Uncertainty Prediction 的新型强大高效的不确定性预测器，在不同的数据集和应用场景中具有明显的降低计算成本和提高预测准确度的效果。

    Apr, 2022