ICLRFeb, 2020

多语种上下文词表示的对齐

PDF
TL;DR提出了一种测量和加强上下文嵌入对齐的程序，证明其在分析和改进多语言 BERT 方面非常有用。在我们的对齐程序之后，BERT 在零 - shot 任务中表现显著提高。使用上下文版本的 Word Retrieval 任务，我们发现 BERT 存在系统性缺陷，在我们的对齐程序下得到了纠正。这些结果支持上下文对齐作为理解大型多语言预训练模型的一个有用概念。
multilingual bertcontextual embedding alignmentzero-shot transferword retrieval taskpre-trained models
发现论文，激发创造
  • 多语言 BERT 模型预训练后对齐

    本研究提出了一种简单的方法，作为预训练后对多语种上下文嵌入进行对齐的步骤，以提高预训练模型的零 - shot 跨语言迁移能力。该方法通过最近提出的 Translation Language Modeling 目标在词级别上对嵌入进行对齐，并通过对比学习和随机输入洗牌在句子级别上进行对齐。在下游任务的微调中，使用英语进行句子级别的代码转换。在 XNLI 上，我们的最佳模型（从 mBERT 初始化）在零 - shot 设置上比 mBERT 提高了 4.7％，在使用少于 18％的相同平行数据和 31％的模型参数的情况下，实现了与 XLM for translate-train 相当的结果。在 MLQA 上，我们的模型胜过比我们多 57％参数的 XLM-R_Base。

    Oct, 2020

  • 预训练多语言表示的语言中立性

    本文研究了多语种上下文嵌入的语言中性和词汇语义，提出了两种实现更强语言中性的方法，并展示了在不使用平行数据的情况下如何达到语言识别的最新准确率以及匹配平行句子的词对齐统计方法的性能。

    Apr, 2020

  • 跨语言调整上下文词表示对零 - shot 迁移的影响

    本研究使用已训练好的 mBERT 模型对英语模型进行零样本迁移，并尝试采用小型平行语料库进行跨语言调整以提高性能表现，结果表明跨语言调整对不同语言的自然语言处理任务表现效果显著，且可以提高语义相似词汇的嵌入向量距离。

    Apr, 2022

  • 多语言 BERT 的跨语言对齐方法：一项比较研究

    本文分析了不同形式的跨语言监督和各种对齐方法对 Multilingual BERT 在零 - shot 设置下的转移能力的影响，比较了平行语料库 vs. 字典导向的监督和旋转 vs. 微调对齐方法，针对两个任务（名称实体识别和语义槽填充），我们评估了不同对齐方法在八种语言上的性能，并提出了一种新的规范化方法，该方法不断改进基于旋转的对齐性能，特别是远距离和在语言类型上不同的语言。此外，我们还发现对于任务和转移语言的接近程度，不同的对齐方法存在偏差，平行语料库的监督力度通常优于字典对齐。

    Sep, 2020

  • 上下文词嵌入的跨语言对齐及其在零样本依赖分析中的应用

    本文提出一种使用无监督预训练的深度上下文嵌入的多语言转移方法，可以提高零样本和少样本学习的依赖解析的效果。实验结果表明，该方法在六种测试语言中持续优于之前的最新技术。

    Feb, 2019

  • 基于多语言 BERT 的跨语言跨度预测监督式词对齐方法

    本文提出了一种基于跨语言跨度预测的新型监督词对齐方法，使用基于多语言 BERT 的 SQuAD v2.0 风格问答任务解决了此问题，并在中英、日、德、罗、法等五个词对齐数据集上实验证明，该方法显著优于以前的监督和非监督方法，而无需使用双语语料进行预训练。

    Apr, 2020

  • 使用上下文词对齐引导多语言 AMR

    本研究通过弱监督的方法将英语的 AMR 注解与其他语言进行投射，使用跨语言的 RoBERTa (XLM-R large) 来引导多语言单词嵌入的投射过程，并使用一种新的技术来实现外文文本与英语 AMR 的对齐，通过上下文的单词对齐来弱监督跨语言 AMR 标注，实现了高性能的跨语言 AMR 标注。研究结果表明，本文方法在德语、意大利语、西班牙语和中文等四种语言上的表现已经超过了先前最好的实验结果。

    Feb, 2021

  • 使用上下文嵌入进行对抗学习，实现零资源跨语言分类和命名实体识别

    通过对抗性学习提高多语言 BERT 的无资源跨语言性能，并通过多语言 MLDoc 文本分类和 CoNLL 2002/2003 命名实体识别任务来证明这一改进。此外，我们证明语言对抗性训练鼓励 BERT 对齐英文文档及其翻译，并解释了观察到的性能提升的原因。

    Aug, 2019

  • 多语言 BERT 中跨语言能力和语言特异信息的研究

    本研究针对跨语言能力对多语言 BERT 进行了深入实验研究，发现数据大小和上下文窗口大小是跨语言能力的关键因素，探讨了多语言 BERT 中的语言特定信息，通过操作潜在表示控制多语言 BERT 的语言输出，实现了无监督令牌翻译，并提出了一种计算成本低但有效提高多语言 BERT 跨语言能力的方法。

    Apr, 2020

  • 使用上下文和非上下文表示的序列标注：一项多语言评估

    本文对多语种命名实体识别和词性标注任务中预训练的 BERT、BPEmb 和 FastText 非上下文子词嵌入进行系统性评估，发现对于跨语言和任务而言，BERT、BPEmb 和字符表示的组合效果最佳，但在资源匮乏的情况下，非上下文子词嵌入的表现更加优秀。

    Jun, 2019