该研究通过发展一种动态统计模型学习时态感知的词向量表示,并实现了 “对齐问题” 的解决,从而可以可靠地捕捉时间上的语言演变,并在语义准确性和对齐质量方面持续优于现有的时间嵌入方法。
Mar, 2017
该研究提出了一种基于概率的语言模型,可以跟踪个别单词随时间的语义演变,并通过嵌入空间中的潜在轨迹表示单词和上下文。研究发现,该动态模型推断的单词嵌入轨迹更易解释,并且具有更高的预测性可能性。
Feb, 2017
本研究提出基于预训练语言模型的动态情境词向量,能够以语言和非语言环境为依据来表征单词的含义变化,并在四个英文数据集上做出定性和定量分析,以彰显其应用潜力。
Oct, 2020
本文提出了一个统一动态嵌入模型,它能学习属性特定的单词嵌入,在历史语料库中调查了性别、种族和难民等方面的偏见。结果发现,动态嵌入模型与独立向量空间模型相比,在表示语言偏见方面更具优越性或更劣。
Apr, 2019
通过评估 PPMI,SVD 和 word2vec 等词嵌入模型来量化语义变化的方法,我们提出并验证了语义演化的两个定量化规律:与频率呈反幂律相关的语义变化率规律和与多义性无关的语义变化率规律。
May, 2016
本文提出了基于指数族分布的 Word Embeddings 方法,并在神经科学、市场篮子分析和电影推荐系统等领域进行了应用实例研究。该方法能更好地重构保持数据并找到有趣的定性结构。
Aug, 2016
介绍了一种通过神经网络自行学习嵌入向量的方法 —— 动态元嵌入,该方法在同一模型类别下,在各种任务中实现了最先进的性能,并展示了该技术如何在 NLP 系统中应用嵌入向量。
Apr, 2018
本文研究动态网络嵌入的问题,通过应用已建立的静态网络嵌入方法到扩展的展开邻接矩阵,实现对动态网络中节点的解释性和强大的嵌入表示,提供理论保证和假设测试框架以评估动态网络嵌入质量,并证明我们提出的稳定展开方法不仅更易解释,而且比不稳定方法更有表现力。
Nov, 2023
本文综述了当前关于使用预测型词嵌入模型追踪词汇语义时序变化和语义漂移检测的学术研究现状,并讨论了该领域的挑战和应用前景。
Jun, 2018
研究使用指数族嵌入的结构化指数族嵌入方法,成功地发现与相关数据组不同的嵌入。 研究表明,这种方法具有共享统计信息的优势,并且以国会演讲、购物和摘要等作为实证研究的应用场景。
Sep, 2017