我们探索了不同语言中词嵌入的稳定性，并讨论了与稳定性相关的语言属性，如词缀和语言性别系统等，这对于研究语言趋势的词嵌入应用具有重要意义。

Apr, 2020

本文提出了一个通用框架，用于支持使用单词嵌入进行跨语料库的语言研究，其中可以比较从不同语料库生成的嵌入项，以找出语料库之间的含义对应和差异。该框架的核心组件是 CADE，重点解决了从不同语料库生成的嵌入项的对齐问题。经过实验，结果表明 CADE 在时间词嵌入，语言本地化和主题分析等各个领域都达到了最先进或更优异的性能。

Apr, 2020

本文提出基于语境化词向量范数的语义差异发现方法，他们不需要先前方法中对单词和语料库进行比较的假设，对于语料库大小的偏斜鲁棒，能够检测不频繁出现的单词的语义差异，有效地找出在两个语料库之一缺失含义的单词实例。

May, 2023

提出了一种新的计算方法，用于跟踪和检测单词的语义和用法中的统计显着语言转变，并对一定时间内的单词用法进行了分析，最终使用深度人工神经网络模型，构建了时间序列，使用其跟踪了语言变化趋势。

Nov, 2014

研究表明，基于单词嵌入的相似性度量方法在无监督语义文本相似性（STS）任务中正在与更复杂的深度学习和专家设计的系统轻松竞争。通过将一个单词嵌入视为标量随机变量的例如 300 个观测值，我们避免了传统的几何方法，使用于基本汇集运算和经典相关系数得到的相似性效果很好，胜过许多最近的方法，同时速度更快且实现容易。此外，研究认为通过重新生成核希尔伯特空间之间的相关算子，可以避免汇集运算并直接比较词嵌入集。正如余弦相似性用于比较单个单词向量一样，我们介绍了中心核对齐（CKA）的一种新颖应用，作为平方余弦相似性的集合的自然推广。同样，CKA 非常易于实现，并享有非常强的实证结果。

Oct, 2019

分析语义变化的模式在长篇实际文本（如书籍或记录）中是有趣的，从文体、认知和语言的角度来看。这项研究也对应用领域，如文本分段、文档摘要和语义新颖性检测是有用的。本文通过时间序列的语义相似性以及多本文学作品的两两句子相似性矩阵比较了几种最近的句子嵌入方法。与以前使用目标任务和精心策划的数据集比较句子嵌入方法的研究不同，我们的方法提供了对方法在现实情境的评估。我们发现，大部分句子嵌入方法确实能够在给定文档中推断出高度相关的语义相似性模式，但也存在有趣的差异。

Aug, 2023

本文提出了一种利用词典等词汇资源，采用图嵌入和跨语言向量空间转换技术，为未见过的单词诱导嵌入的方法，对多个基准测试进行了优化，表现出一致的性能提升。

Nov, 2018

该研究应用上下文化词嵌入到 SemEval-2020 Shared Task 1 的词汇语义变化检测中，着重于子任务 2，在两种上下文化体系结构（BERT 和 ELMo）和三种变化检测算法方面，分析了其性能。我们发现，最有效的算法依赖于平均令牌嵌入之间的余弦相似度和令牌嵌入之间的成对距离。他们比强基线模型高出很大的差距，但是有趣的是，选择特定算法取决于测试集中金标准分数的分布。

Apr, 2020

使用上下文嵌入测量语义变化的简化方法，仅依赖于最可能替代被遮盖术语的方法，不仅这种方法可直接解释，而且在存储效率、性能及变化细致调查方面均表现优越。

Sep, 2023

本文介绍我们在 SemEval2020 任务 1 中创造性的提出了语义变化检测方法，该方法是全自动的，不需要人工干预，且独立于语言；我们利用标准相关分析和正交变换计算语义空间之间的线性变换，并通过比较早期和晚期语料库中目标单词的向量之间的余弦相似度来检测语义变化。

Nov, 2020