通过一种基于语言链的新方法构建多语言词嵌入（MWEs），该方法通过中间相关语言弥合远源和目标的差距。我们通过在语言链中逐个添加每种语言，从资源丰富的源语言开始，构建 MWEs。我们将半联合双语方法扩展到多种语言，以消除以前工作的主要弱点，即独立训练的单语词嵌入，并使目标语言围绕多语言空间进行锚定。我们在涉及 4 个非常低资源（<5M 令牌）和 4 个适度低资源（<50M）目标语言的 4 个语言家族的双语词典感应中评估了我们的方法，显示了两个类别的改进性能。此外，我们的分析揭示了中间语言的高质量嵌入的重要性，以及利用多语言空间中所有语言的锚点的重要性。

Nov, 2023

提出了一种全新的多语言词向量空间的无监督学习框架，该框架可以直接捕捉不同语言之间的交互关系，从而显著提高多语种单词转换和跨语种单词相似度的效果，并且比使用跨语种资源的监督式方法表现更好。

Aug, 2018

本论文提出了一种跨语言词嵌入学习框架，其综合利用相关高资源语言，以解决低资源语言跨语言表示学习中的几何结构相似度不足的问题，并通过双语词表感应和特征值相似性等多个语言对的实验验证，在新颖性和性能上均有所提升。

Mar, 2022

本文讨论了 Bilingual Word Embeddings（BWEs）的 build 方法，并提出了两种有效的 unsupervised 方法：使用相同的单词作为种子词典和使用 Romanized 单词匹配。实验结果表明这些方法在远程语言对上工作良好，并且与使用高质量词典的监督方法有竞争力。在构建 BWEs 时，这些训练信号不应被忽略，即使对于远程语言也是如此。

May, 2022

跨语言句子嵌入领域最近取得了很大的进展，但是由于平行语料的稀缺性，对于低资源语言的研究相对滞后。本文表明当前模型中低资源语言的跨语言词表示与高资源语言的对齐程度明显不足。为了解决这个问题，我们引入了一种新的框架，通过使用现成的词对齐模型，显式地对英语和八种低资源语言之间的单词进行对齐。该框架包含三个主要的训练目标：对齐的单词预测、单词翻译排序，以及广泛使用的翻译排序。我们通过在双语检索任务上进行实验证明了我们的方法，该方法在低资源语言的句子嵌入上取得了显著的改进。此外，所提出模型在高资源语言上更广泛任务的竞争性表现凸显了其实用性。

Apr, 2024

该研究针对缺乏已标注数据的零资源语言开发语音应用的挑战，特别使用声学词嵌入（AWE），通过多语言转移利用来自几种资源丰富的语言的已标注数据。该研究介绍了一种新的神经网络，优于现有的 AWE 模型在零资源语言上的表现，研究还探讨了资源丰富语言的选择对结果的影响。AWE 应用于斯瓦希里语广播中的仇恨言论检测的关键词识别系统，展示了在实际场景中的稳健性。此外，新颖的语义 AWE 模型提高了语义查询示例搜索的性能。

Jan, 2024

本文提出了一种基于无监督学习的算法，通过分布匹配和最小化回译损失来优化两种语言单词嵌入空间之间的转换函数，使用神经网络计算 Sinkhorn 距离评估性能并在跨语言词汇相似度预测和双语词汇归纳等任务中具有强大的性能。

Sep, 2018

本论文研究无监督的跨语言词向量嵌入方法，发现这些方法在需要将资源匮乏和远距离语言进行跨语言词向量嵌入时难以产生有意义的结果，表现不如弱监督的方法。作者呼吁重新审视无监督 CLWE 方法的主要动机。

Sep, 2019

研究了利用字根丰富的语言和预训练字向量相结合的方法，来提高低资源非洲语言的自然语言处理精度并在 Xhosa - 英语翻译任务中取得了最佳表现。

Mar, 2020

本文介绍了一种新的技术来创建单语和跨语言的元嵌入。通过使用多种技术、文本来源、知识库和语言创建的多个单词嵌入，使用线性变换和平均值将现有单词向量投射到公共语义空间，以保持原始嵌入的维度，并通过处理词汇表外的问题而不失去信息。经过广泛的实证评估，我们的技术在各种内在和外在的多语言评估方面表现出对以前工作的有效性，并获取了在语义文本相似性方面具有竞争力的结果，并在单词相似性和词性标注方面得到了最先进的性能（英文和西班牙文）。跨语言元嵌入还表现出优秀的跨语言转移学习能力，即我们可以利用资源丰富的语言中预训练的源嵌入来改进贫乏语言的单词表示。

Jan, 2020