本文提出了一种基于对抗训练的后加工特化方法，通过整合外部词汇知识到整个分布式语义空间中，利用资源中出现的词作为训练样例，结合标准 L2 距离和对抗损失，学习全局特化函数，表现良好并提高了词相似度、对话状态跟踪和词汇简化等任务的效果，并提出了一种零射击专业化的跨语言转移方法。

Sep, 2018

提出了一种用于词向量表示的语义专业化的有效方法，使用传统的词嵌入并应用专业化方法以更好地捕捉单词之间的语义关系，结合来自丰富词汇资源（如 BabelNet）的外部知识，以及使用基于对抗式神经网络及 Wasserstein 距离的后处理专业化方法，证明在两个任务上（单词相似性和对话状态跟踪）实现了大于现有方法的改进。

May, 2020

本文提出了一种新的 Word embeddings 改进技术：extrofitting，它可以在不使用外部语义词典的情况下提高 word similarity 任务的表现，并且使用 deep extrofitting 可进一步提升表现。同时，我们证明了这种改进方法可以提高文本分类任务的效果。

Aug, 2018

本文提出了一种利用词典等词汇资源，采用图嵌入和跨语言向量空间转换技术，为未见过的单词诱导嵌入的方法，对多个基准测试进行了优化，表现出一致的性能提升。

Nov, 2018

本文提出了一种名为 extrofitting 的后处理方法，使用语义词典丰富单词表示和其向量空间，包括向所有单词向量上扩展 1 个或多个维度，填充代表值并将语义知识传输到这些扩展的维度。此外，采用线性判别分析进行向量空间映射，得到最终的词向量表示。实验证明，该方法在一些单词相似度任务上胜过 Faruqui 的后调方法，并对其维度、词汇表大小等进行了进一步的分析。

Apr, 2018

本文提出了一种基于语义词典的关系信息来改进词向量表示的方法，并在多种语言的标准词汇语义评估任务中获得了显著的改进，其方法超越了以往词向量训练算法中融入语义词典的技术。

Nov, 2014

该论文提出了一种新的后处理方法 LEAR（词汇蕴涵吸引 - 排斥），将任何输入的词向量空间转换为重视词汇蕴涵关系（LE）的不对称关系，通过将外部语言约束（例如 WordNet 链接）注入到初始向量空间中，LE 特化过程将真正的下位词 - 上位词对在转换后的欧几里得空间中靠近。同时，联合目标使用对称余弦距离来强制实施语义相似性，从而使向量空间同时专门用于词汇关系。LEAR 专业化模型在上位词方向性，上位词检测和分级词汇蕴涵任务中实现了最先进的性能，证明了所提出的不对称专业化模型的有效性和鲁棒性。

Oct, 2017

提出了一种新颖的基于词形的约束方法，通过使用简单的语言特定规则来改进分布向量空间的语义质量，这种方法可以提高低频词估计的准确性，并在解决语言理解任务的长尾现象方面取得显著的效果。

Jun, 2017

通过将上下文信息与传统静态嵌入相结合，以及使用预先的同义词知识和加权向量分布来提高词嵌入的效果。

Oct, 2022

该研究提出了一种注入反义词和同义词约束条件以提高向量对语义相似性判断能力的新型 Counter-fitting 方法。将该方法应用于公开预训练的词向量，可在 SimLex-999 数据集上达到新的最高性能水平。研究还展示了如何使用该方法来调整词向量空间以用于下游的对话状态追踪任务，使结果在不同的对话领域都得到了可靠的改进。

Mar, 2016