本文提出了一种基于无监督自我训练并采用多语言输入编码的无监督跨语言转移方法，可用于低资源语言依赖解析。该方法在不接触源语言数据、同时支持多源转移、支持非投影解析的前提下，接受任何预训练弧分解依赖分析器，并且相比于传统的直接转移方法，能够显著提高跨语言转移的准确性。

Jan, 2021

本文提出了一种简单而有效的方法，可以在没有大量翻译数据的情况下进行跨语言的句法转移，这种方法基于三个步骤：1）推导跨语言单词簇的方法，可用于多语言解析器；2）将目标语言的词汇信息转移到源语言树库；3）将这些步骤与 Rasooli 和 Collins（2015）的密度驱动注释投影方法相结合。该方法在多个语言中实现了针对先前工作的最新进展，在只使用比利时圣经作为翻译数据的情况下，与以前的工作相比，Europarl 语料库的结果表现出额外的提升。最后，作者在通用依赖语料库的 38 个数据集上进行了结果展示。

Oct, 2016

本文提出了一种基于无监督学习的算法，通过分布匹配和最小化回译损失来优化两种语言单词嵌入空间之间的转换函数，使用神经网络计算 Sinkhorn 距离评估性能并在跨语言词汇相似度预测和双语词汇归纳等任务中具有强大的性能。

Sep, 2018

本文针对源语言和目标语言单词顺序的不同问题，提出了一种基于 “圣经” 语料库和跨语言词表示的依存句法跨语言迁移方法。该方法在训练前改变源语言语料的顺序，使得在欧洲语系以外的语言中达到更高的精度。在多语言数据集上，该方法在 68 个树库（38 种语言）的实验中表现良好，并在 12 种非欧洲语言的 16 个树库中实现了 3.3％的平均 UAS 绝对精度提高。

Mar, 2019

本文提出了一种名为 “Lexicon-Syntax 增强多语言 BERT” 的新框架，该框架结合了词汇和句法知识，并通过多种技术增强其学习能力，在零样本跨语言传递的任务中取得了优异的成绩。

Apr, 2024

本研究探讨了在跨语言依存分析中，语言的语言属性如何进行有效应用，通过使用语义知识等多种语言语料库统计数据对推理过程进行指导，使用拉格朗日松弛和后验正则化等技术来进行推理，实验表明拉格朗日松弛和后验正则化的推理显着提高了 19 个目标语言中的 15 个和 17 个的性能表现，尤其是对于源语言不同的目标语言。

Sep, 2019

本研究提出了一种新颖的基于跨语言词向量的神经网络模型，通过高覆盖的双语词典训练，利用跨语言模型转移的方法，针对低资源语言的注释预测问题提出了解决方案，并通过多种主动学习启发式方法，提升了该方法的性能。

May, 2017

使用基于注释投影的转移方法，开发了一种基于依赖关系的语义角色标注系统，在只有平行数据可用的语言中，不需要其他监督的语言信息。相比之前的工作，我们只使用了词和字符特征来避免使用监督的特征。我们的深度模型考虑使用基于字符的表示以及无监督的词干嵌入来减轻对监督特征的需求。我们的实验在通用命题库的 7 种语言中有 6 种优于使用监督词汇 - 句法特征的最先进方法。

Apr, 2019

本文提出了一种基于词向量学习架构的跨语言转移方法来诱导多种语言的 VerbNet，使用跨语言翻译对的方法将每种语言都绑定到英语的双语向量空间中，进而进行动词分类，实验结果显示该方法比现有方法在六种语言上的 VerbNet-style verb classification 任务中表现更优。

Jul, 2017

零 - shot 跨语言迁移利用多语言 LLMs 已成为一种流行的学习范式，适用于低资源语言没有标记的训练数据。然而，在涉及单词和短语细粒度预测的 NLP 任务中，零 - shot 跨语言迁移学习性能远远落后于有监督的微调方法。因此，通过使用翻译和标签映射来进一步提高性能是很常见的。本文中，我们探索了一种通过限制解码进行标签映射的新方法，克服了先前提到的问题。我们的新方法不仅能保持翻译文本的质量，还具有适用于训练和测试数据的多样性。我们在两个跨语言迁移任务上进行评估，分别是命名实体识别和事件论证抽取，涵盖了 20 种语言。结果表明，我们的方法比现有的基于标记的方法具有更好的性能，并且比依赖于外部词对齐的其他标签映射方法表现更好。

Feb, 2024