ACLJan, 2020

基于跨语言句子移位距离的大规模多语言文档对齐

PDF
TL;DR本文提出一种基于跨语言句嵌入的无监督打分函数，用于计算不同语言中文档之间的语义距离，从而指导文档对齐算法以适当地匹配跨语言 Web 文档，并在不同语言对中显著提高对齐效果。
document alignmentcross-lingual sentence embeddingssemantic distanceweb documentslanguage pairs
发现论文，激发创造
  • CCAligned：大规模跨语言网页文档对集合

    利用 URL 标签指导对网络文章进行跨语言文档对齐，构建了一个大规模的网络文档数据集，使用该数据集通过基线模型进行文本内容的对齐，最终通过挖掘平行语句和测量基于挖掘数据训练的模型的机器翻译质量来证明了数据集的价值，旨在促进跨语言 NLP 研究的发展。

    Nov, 2019

  • 使用双动量对跨语言句子表示进行对齐

    本文提出一种方法，将不同语言的句子表示对齐到统一的嵌入空间中，从而计算语义相似性，并使用 MoCo 方法进一步提高对齐质量，实现了在 Tatoeba en-zh 相似度搜索、BUCC en-zh 比特语料挖掘和 7 个数据集上的语义文本相似性等多项任务中新的最先进水平。

    Sep, 2021

  • 使用潜在语义索引实现双语文档对齐

    本文研究了如何在双语文档对齐任务中应用交叉语言传递矩阵，提取出文档的重要特征，通过将两种余弦相似度变量与 URL 相似度量的结合，可以达到高精度的 Web 页面对齐。

    Jul, 2017

  • SentAlign: 准确可扩展的句子对齐

    SentAlign 是一个准确的句子对齐工具，用于处理非常大的并行文档对。在用户定义的参数下，该对齐算法评估数千个句子的大型文档中的所有可能对齐路径，并使用分治方法对包含数万个句子的文档进行对齐。评分函数基于 LaBSE 双语句子表示。在两个不同的评估数据集，即德法和英冰数据集上以及下游机器翻译任务中，SentAlign 优于其他五个句子对齐工具。

    Nov, 2023

  • 一种轻量级的跨语言语义文本相似度方法

    该研究提出了一种基于词向量的跨语义相似度计算方法，只需要一个有限的单词翻译库，能够适用于几乎所有语言对，达到与监督和资源密集型方法相近的表现，在可比较语料库中提取平行句子和跨语言抄袭检测任务中得到与现有模型相当的性能。

    Jan, 2018

  • 利用词对齐改进低资源语言的跨语言句子嵌入

    跨语言句子嵌入领域最近取得了很大的进展，但是由于平行语料的稀缺性，对于低资源语言的研究相对滞后。本文表明当前模型中低资源语言的跨语言词表示与高资源语言的对齐程度明显不足。为了解决这个问题，我们引入了一种新的框架，通过使用现成的词对齐模型，显式地对英语和八种低资源语言之间的单词进行对齐。该框架包含三个主要的训练目标：对齐的单词预测、单词翻译排序，以及广泛使用的翻译排序。我们通过在双语检索任务上进行实验证明了我们的方法，该方法在低资源语言的句子嵌入上取得了显著的改进。此外，所提出模型在高资源语言上更广泛任务的竞争性表现凸显了其实用性。

    Apr, 2024

  • 使用正则化的 Wasserstein 距离进行跨语言文档检索

    本文提出了一种新的衡量文本差异的度量方法：Word Mover's Distance，通过加入词汇权重和使用熵正则化方法，可以提高跨语言文档检索任务的效果并取得令人瞩目的改进，与多个基线相比表现提高幅度显著。

    May, 2018

  • 利用自注意矩阵提高词移距离

    本文提出一种基于 BERT 的自注意力矩阵和融合 Gromov-Wasserstein 距离的方法，用于计算两个句子之间的语义相似度，实验证明该方法可以在语义相似性和改进 WMD 方面表现优异。

    Nov, 2022

  • 利用封闭访问的多语言嵌入进行低资源语言的自动句子对齐

    我们提出了一个简单而定性的平行句子对齐算法，利用闭源 Cohere 多语言嵌入，通过与 MAFAND-MT 数据集训练翻译模型，在 FLORES 和 MAFAND-MT 上分别实现了 $94.96$ 和 $54.83$ 的 f1 分数，相较于 LASER，BLEU 分数提升了超过 5 个单位。

    Nov, 2023

  • 无监督深度跨语言实体对齐

    提出了一种简单且新颖的无监督方法，利用深度学习多语言编码器结合机器翻译器对知识图谱文本进行编码，同时考虑全局与局部对齐策略，并生成排名匹配结果。在跨语言实体对齐任务上，我们的方法在 DBP15K 数据集中的中文、日文和法文到英文对齐任务中得到了较高的准确率，超过了无监督和半监督类别的最新方法。与最新的有监督方法相比，在日文到英文和法文到英文对齐任务中，我们的方法分别提高了 2.6% 和 0.4%，在中文到英文对齐任务中略微降低了 0.2%。

    Sep, 2023