ACLJun, 2021

BERTTune: 使用 BERTScore 微调神经机器翻译

PDF
TL;DR本文提出使用基于 BERTScore 评估指标的新型训练目标对神经机器翻译模型进行微调，以克服在训练过程中出现的过拟合偏见问题；作者提出三种生成软预测的方法，可使网络保持端到端的完全可微性，实验表明在四种不同的语言对上，微调目前具有一个强基线模型的 BLEU 分数提高了 0.58pp（3.28%），BERTScore 得分提高了 0.76pp（0.98%）。
neural machine translationfine-tuningbertscoresoft predictionsbleu score
发现论文，激发创造
  • 使用 BERT 评估文本生成

    BERTScore 是一种针对文本生成的自动评估指标，利用上下文嵌入计算 token 的相似性，能够更好地与人类判断相关，并提供比现有度量更强的模型选择性能。

    Apr, 2019

  • 一种计算 BERTScore 的新方法，用于自动评估翻译质量

    该研究旨在利用 BERTScore 度量英俄翻译中句子级别的翻译质量，并通过利用单语 BERT 模型和基于锚定标记的正交变换对齐单语言嵌入来改进模型性能，结果表明改进的方法可以提高模型预测与人类判断的相关性。

    Mar, 2022

  • KG-BERTScore：将知识图谱融入 BERTScore 用于无参考机器翻译评价

    本文研究了机器翻译自动评估方法，并将多语言知识图谱融入 BERTScore 之中，提出了一种名为 KG-BERTScore 的评估指标，通过线性组合 BERTScore 和双语命名实体匹配的结果来评估无需参考译文的机器翻译质量，并在实验中证明 KG-BERTScore 相比当前无参考机器翻译评价方法更接近于人工评估结果。同时，本文还探究了 KG-BERTScore 所用到的预训练多语言模型和线性组合参数。

    Jan, 2023

  • BERT、mBERT 还是 BiBERT？关于上下文化嵌入用于神经机器翻译的研究

    本研究通过将定制和合适的双语预训练语言模型（称为 BiBERT）的输出（上下文嵌入）作为神经机器翻译编码器的输入，展示了实现最先进的翻译性能的方法，并提出了一种随机层选择方法和双向翻译模型的概念，以确保充分利用上下文嵌入。

    Sep, 2021

  • 超越 BLEU：利用语义相似性训练神经机器翻译

    本文提出了一种基于语义相似度的代替奖励函数来优化 NMT 系统，在四种不同的语言翻译成英语的情况下，本文的方法不仅能提高 BLEU 和语义相似度的评估准确性，而且优化过程更快。

    Sep, 2019

  • 学习指标的神经机器翻译奖励优化

    研究探讨了基于模型衡量 BLEURT 度量标准是否有益于优化 NMT 并提出了一种基于对比分裂损失的奖励优化方法，结果显示 BLEURT 的奖励优化能够较大幅度提高度量分数，并且人类评估结果显示使用 BLEURT 训练的模型提高了翻译的充分性和覆盖性。

    Apr, 2021

  • 融合损失的代词目标定向 NMT 微调

    本研究引入了一类新的条件生成 - 判别混合 Loss，用于微调经过训练的机器翻译模型，通过有针对性的微调目标和直观地重复利用训练数据，从而在不使用任何其他数据的情况下提高了模型的性能。我们针对代词翻译问题进行微调，并在代词基准测试集上对模型进行评估。结果表明我们的模型在几个测试集上都实现了较高的 BLEU 分数，特别是在 IWSLT13 De-En testset 上达到了最佳效果。同时我们还在 Fr-En 和 Cs-En 上重现了该方法的改进效果。

    Oct, 2020

  • BERT 回归器用于机器翻译评估

    本文使用 BERT 对机器翻译进行度量，实验结果表明我们的度量指标在 WMT-2017 数据集的所有英翻中文语言对中的分段级度量任务中均取得了最先进的性能。

    Jul, 2019

  • 将 BERT 引入神经机器翻译

    本文提出了一个名为 BERT-fused 的算法，通过在 NMT 模型的编码器和解码器的每个层中使用 BERT 提取表示并通过注意机制融合，实现了在监督、半监督和无监督机器翻译上取得了最先进的结果。

    Feb, 2020

  • 基于上下文 BERT 调整的阅读理解自动评分

    本文介绍了一种利用在场 BERT 调整的方法来解决在多问题共享阅读材料的阅读理解测试中的自动评分问题，并证明了这种方法的有效性。

    May, 2022