本文介绍了一种新的技术来创建单语和跨语言的元嵌入。通过使用多种技术、文本来源、知识库和语言创建的多个单词嵌入，使用线性变换和平均值将现有单词向量投射到公共语义空间，以保持原始嵌入的维度，并通过处理词汇表外的问题而不失去信息。经过广泛的实证评估，我们的技术在各种内在和外在的多语言评估方面表现出对以前工作的有效性，并获取了在语义文本相似性方面具有竞争力的结果，并在单词相似性和词性标注方面得到了最先进的性能（英文和西班牙文）。跨语言元嵌入还表现出优秀的跨语言转移学习能力，即我们可以利用资源丰富的语言中预训练的源嵌入来改进贫乏语言的单词表示。

Jan, 2020

通过元迁移学习的新学习方法提取高资源单语数据信息，条件化优化混合语音识别数据，从而在低资源环境下实现混合语音识别，实验结果表明，我们的模型在语音识别和语言建模任务方面优于现有基线模型，并且收敛速度更快。

Apr, 2020

本文提出一种基于 LSTM 模型的层次结构，在命名实体识别中使用双语字符表征和迁移学习来解决词汇表外单词的问题，并提出使用标记替换和规范化减轻数据噪声。在第三届计算语言代码切换共享任务中，我们在不使用任何专用词典和基于知识的信息的情况下，在英语 - 西班牙语语言对中获得了第二名，和 62.76% 的谐波平均 F1 分数。

May, 2018

本文研究了多语言语言模型在代码切换任务中的应用效果，通过研究实验得出使用元嵌入方法能够在参数数量减少的情况下取得类似的结果。

Mar, 2021

采用分层变压器的架构（HIT）学习混合代码语言的语义和语法结构，在 17 个数据集和 9 个自然语言处理任务中，HIT 模型都表现出超越最先进的代码混合表示学习和多语言模型的性能。

Apr, 2022

本研究利用多语言文本嵌入来对平行数据进行最近邻挖掘，通过三种不同的文本层级表示方法，发现用 HiDE 训练产生的文档嵌入结果表现最佳，达到了 UN 平行文档挖掘的最新成果。

Jun, 2019

本研究介绍了一种使用多任务学习方式训练的分层模型，在一组精心选择的语义任务上取得了最新领先的结果，包括命名实体识别、实体提及检测和关系提取，无需手工设计特征或使用外部 NLP 工具，同时在模型的底层引入归纳偏差，促使模型产生共享语义表示。

Nov, 2018

本研究通过分析逐渐增长的跨语言代码模型的代码嵌入，展示了代码嵌入包含两个不同组成部分，一个与特定语言的细微差别和语法紧密相连，另一个则与此类细节无关，主要关注语义。此外，我们证明在去除特定语言组成部分后，下游代码检索任务有着显著改进，平均逆向排名 (MRR) 可达 + 17 的绝对增益。

Oct, 2023

本文为填补学界在 Meta-embedding learning 系统调查领域的空白着重于分类 Meta-embedding learning 方法，并在讨论其限制和未来研究方向时，探究了该方法在多源嵌入语义中的优势。

Apr, 2022

本文介绍了一种基于 Spanglish 语料库训练的词向量模型，用于混合代码的文本的情感分析，并在 SemEval 2020 任务上取得了较好的效果。

Jun, 2020