ACLFeb, 2024

基于图的聚类方法用于检测跨时间和语言的语义变化

PDF
TL;DR该研究提出了一种基于图的聚类方法，旨在捕捉各种高频和低频单词感知的微妙变化，包括这些感知随时间的获得和丧失。实验结果表明，该方法在四种语言的 SemEval2020 二元分类任务中显著超过了以前的方法。此外，我们展示了该方法作为一种多功能可视化工具，在语言内部和语言之间设置中检测语义变化的能力。我们已公开提供代码和数据。
contextualized embeddingssemantic changeclustering methodsgraph-based clusteringsemantic changes
发现论文，激发创造
  • 在词使用中捕获进化：只需增加更多聚类吗？

    本文旨在研究语义演变在文本数据中的检测与分析方法，特别是基于上下文嵌入的新方法，通过对比多个方法的表现以及提出相关改进策略，显著提高了现有方法的性能。

    Jan, 2020

  • 上下文化语言模型用于语义变化检测：经验教训

    本文研究使用基于上下文嵌入方法进行检测历时语义变化的可能存在的输出错误。通过引入单一方法并进行深入的分析，作者发现这种方法可能会将词汇的词典含义变化与上下文语境的变化混淆，同时将词汇实体的句法和语义方面合并在一起。本文提出了一些解决这些问题的未来可能方案。

    Aug, 2022

  • 论语义变化的线性性：利用动态图模型研究含义的变化

    通过两种图形模型，本文研究语义变化，发现语义变化是线性的，发现了语义变化的两个新规律 / 假设。

    Apr, 2017

  • 使用上下文化的单词表示来分析词汇语义的变化

    本文提出了第一种使用上下文词表示进行无监督词汇语义变化的方法。利用 BERT 神经语言模型来获取单词用法的表示，将这些表示聚类到用法类型，并用三种提出的度量方式衡量关于时间的变化。创造了一个新的评估数据集，并表明模型表示和检测到的语义转移与人类判断之间呈正相关。 extensive 的定性分析表明，我们的方法捕捉了各种同步和历时语言现象。我们期望我们的工作将激发进一步的研究。

    Apr, 2020

  • 基于代替的语义变化检测使用上下文嵌入

    使用上下文嵌入测量语义变化的简化方法，仅依赖于最可能替代被遮盖术语的方法，不仅这种方法可直接解释，而且在存储效率、性能及变化细致调查方面均表现优越。

    Sep, 2023

  • SST-BERT 在 SemEval-2020 Task 1 中的应用：基于 BERT 嵌入空间的语义漂移追踪

    本文讨论了关于词汇语义变化检测的方法，并提出了使用基于 BERT 的上下文化嵌入来对每个目标词的不同出现之间进行聚类，从而量化每个目标词的语义变化水平的方法，并在四种目标语言中取得了良好的表现，超过了所有提供的 SemEval 基线。

    Oct, 2020

  • 分布式表示评估的多语言聚类自动生成

    本研究提出了一种跨语言的自动生成具有语义相似性的实体簇集的方法，并通过产生的异常点元素集合用于在离群值检测任务中进行单一内在评估。使用这个方法生成了一个金标准数据集名称为 WikiSem500，并评估了多个最先进的嵌入方法。结果显示这个数据集上的性能与情感分析上的性能之间存在相关性。

    Nov, 2016

  • UWB 在 SemEval-2020 任务 1 中的词汇语义变化检测

    本文介绍我们在 SemEval2020 任务 1 中创造性的提出了语义变化检测方法，该方法是全自动的，不需要人工干预，且独立于语言；我们利用标准相关分析和正交变换计算语义空间之间的线性变换，并通过比较早期和晚期语料库中目标单词的向量之间的余弦相似度来检测语义变化。

    Nov, 2020

  • UiO-UvA 在 SemEval-2020 任务 1 中：用于词汇语义变化检测的上下文嵌入

    该研究应用上下文化词嵌入到 SemEval-2020 Shared Task 1 的词汇语义变化检测中，着重于子任务 2，在两种上下文化体系结构（BERT 和 ELMo）和三种变化检测算法方面，分析了其性能。我们发现，最有效的算法依赖于平均令牌嵌入之间的余弦相似度和令牌嵌入之间的成对距离。他们比强基线模型高出很大的差距，但是有趣的是，选择特定算法取决于测试集中金标准分数的分布。

    Apr, 2020

  • 使用同层嵌入的分布进行无监督语义变化预测

    本文介绍了一种利用目标词的词汇上下文嵌入组成的同义分布来预测语义变化的方法，在 SemEval-2020 任务 1 基准数据集上实验证明了该方法优于使用平均嵌入表示的先前方法，并且与当前的最先进技术持平。此外，定性分析表明该方法能够检测到现有方法未能捕获的词语重要语义更改。

    May, 2023