提出了一个新的框架 DPE，通过结合远程监督和语料库级别统计的分布特征和局部上下文的文本模式来相互补充信号，从而发现特定领域知识库实体的同义词。

Jun, 2017

使用新型的具有实体感知的适配器结构，将多领域的同义词知识注入预训练语言模型，既可解决同义词语义模糊性的问题，又不会破坏 PLM 的原始语义理解，从而能有效提升各类文本任务的性能。

Nov, 2022

本研究提出了一种新的同义词泛化（SynGen）框架，使用基于跨度的预测识别输入文本中包含的生物医学概念。 通过引入同义词距离正则化器和噪声扰动正则化器，该框架能够降低同义词泛化误差。本研究在多个基准测试中广泛评估了我们的方法，结果表明，SynGen 表现出比以前的基于字典的模型更优异的性能。

May, 2023

本研究提出了一个自我监督的预训练方法，利用浅层匹配的数据进行训练，能够检测出上下文同义词，该方法在稀疏多类设置（超过 15,000 个概念）中应用于从电子病历中提取表观信息，并通过数据增强技术解决类稀疏问题，实现了无监督表观概念注释的新 SOTA，精度和召回率的增益分别高达 4.5 和 4.0 个点，表明模型表现优异。经过少量标注数据的微调后，该模型在 BioBERT 和 ClinicalBERT 之上表现更出色，并且外部评估在三个 ICU 基准测试中也显示出使用我们的模型注释的表型作为特征的益处。

Sep, 2021

本文提出了一种新的方法来解决生物医学实体链接的问题，利用基于知识库的预训练和微调，以及多种类似词的构建方式来进行模型训练，这种方法在多项实验中都取得了最优结果。

Apr, 2022

通过本文，我们引入了概念归纳这个非监督任务，从数据中学习一组定义概念的词语软聚类，该任务概括了词义归纳的任务。我们提出了一种双层方法来进行概念归纳，充分利用了本地词元为中心和全局跨词库视角来引导概念的生成。我们在 SemCor 的注释数据上评估所得到的聚类，并获得了良好的性能（BCubed F1 大于 0.60）。我们发现在我们的设置中，本地和全局层次相互有益于概念和词义的生成。最后，我们创建了表示我们引入的概念的静态嵌入，并在上下文任务中使用它们，取得了与现有技术相媲美的性能。

Jun, 2024

通过深度度量学习进行后处理可以提高神经语言模型中语义相似度推断的效果，并将层次拟合用于建模 IS-A 层次中的语义相似性细微差别。

Oct, 2022

本文提出了一种基于上下文概率比较的新框架来解决语句相似度计算中受限于有标签数据大小以及无监督语言建模中训练和测试之间的差距的两大挑战，能在无监督学习中生成高质量语义相似性分数数据集并在不同数据集中显著提高了现有基线的性能。

May, 2021

本文研究了语境化语言模型的多义词辨别能力。作者提出了一个人工注释的数据集，用于评估多义词词义的相似性，发现多义词的词义相似性介于相同和同音异义之间，并呈现出一定的词义变化规律性。BERT Large 在相似性等级方面表现最佳，但无法一致地复制观察到的相似性模式，并且在某些类型的多义词变化上存在问题。

Sep, 2021

本文研究了向量空间模型在自然语言处理领域的一些应用，通过比较不同模型在 TOEFL 同义词检测中的效果，发现在计算分布相似度时，句法依赖可以更好地解释词汇语义，同时将人工语义知识注入到神经嵌入中可以显著提高同义词检测的效果。

Sep, 2022