本文介绍了我们在 WMT20 句子过滤任务中的提交，通过结合每种源语言的自定义 LASER 的分数、用于区分正负配对的语义对齐的分类器的分数和任务开发套件中包含的原始分数，我们在 mBART 微调设置中取得了不错的成效，在 Pashto 和 Khmer 上相对于基线分别提高了 7% 和 5% 的 sacreBLEU 分数。

Nov, 2020

本研究提出了一种新的无监督方法，通过使用单语数据来获得跨语言句子嵌入，产生了合成平行语料库，使用预训练的跨语言掩码语言模型（XLM）对其进行微调以得到多语言句子表示，并在两个平行语料库挖掘任务上评估了表示的质量，结果表明，这种方法可以比基准 XLM 模型获得高达 22 个 F1 点的改进。此外，我们还观察到，单个合成的双语语料库能够改善其他语言对的结果。

May, 2021

提出一种基于多语言句子嵌入的平行语料库过滤新方法，通过考虑给定句子对及其最接近的候选句子之间的间隔来修正余弦相似性的尺度不一致性，将结果与现有方法进行比较，结果表明该方法显著提高了翻译自动化水平。

Nov, 2018

本研究利用自定义句子分段器和两种新方法，构建一个高质量的孟加拉语 - 英语双语平行语料库，从而提高孟加拉语机器翻译的 BLEU 指标，并评估了一个包含 1000 个双语句对的测试集，释放了分段器，平行语料库和评估集，为孟加拉语以及其他低资源语言的机器翻译研究铺平了道路。

Sep, 2020

本文探讨了使用 LASER 和 LaBSE 这两种预训练模型生成不受语言限制的句子嵌入，在挖掘大型数据集以生成低资源机器翻译平行语料库方面的应用。作者测试了这两种模型在提取两种相关的低资源非洲语言 Luhya 和 Swahili 的双语数据时的表现。实验结果表明，LaBSE 在两种语言上表现优于 LASER。只是两者在对 Luhya 数据进行零射击对齐方面的表现不佳，仅可分别取得 1.5％ 和 22.0％ 的成功对齐率。作者利用极少量的平行 Luhya 句子对嵌入进行微调后的实验表明，LaBSE 的对齐精度得到了显著提高，达到了 53.3%。此外，限制 cosine 相似度大于 0.7 的句子嵌入对进行对齐也可得到超过 85% 的准确率。

Oct, 2022

我们提出了一个简单而定性的平行句子对齐算法，利用闭源 Cohere 多语言嵌入，通过与 MAFAND-MT 数据集训练翻译模型，在 FLORES 和 MAFAND-MT 上分别实现了 $94.96$ 和 $54.83$ 的 f1 分数，相较于 LASER，BLEU 分数提升了超过 5 个单位。

Nov, 2023

该研究加入对比学习以蒸馏多语言表示，并用于平行语句的质量估计。实验证明，该方法在不同的资源稀少语言上显著优于先前的句子编码器，诸如 LASER 等。

Oct, 2022

本文提出了一种利用预训练语言模型过滤爬取数据中的噪声句对的方法，并利用 BERT 的多语言能力度量语句的平行性，使用生成预训练（GPT）语言模型作为领域过滤器来平衡数据领域，通过在 WMT 2018 平行语料库过滤共享任务上的实验以及本文所提供的 Web-crawled 日译中平行语料库上的实验，证明该方法明显优于基准线，并取得了新的最新成果。

May, 2020

通过联合多语句嵌入学习并利用在不同语言中句子之间的距离来过滤嘈杂的平行数据和在大型新闻集合中挖掘平行数据。不同于翻译系统的体系结构，这种方法可以应用于多种语言对，并在 BUCC 共享任务中获得有竞争力的结果，用于识别可比较语料库中的平行句子。

May, 2018

本文使用端到端的 Siamese 双向递归神经网络从 Wikipedia 的可比较多语言文章中提取并生成平行句子，证明使用所收集的数据集可以提高低资源语言对 (英―印度语和英―泰米尔语) 上的 BLEU 分数。

Jun, 2018