Apr, 2015

用词典嵌入学习理解短语

PDF
TL;DR使用字典中的定义作为桥梁，将定义（短语）映射到单词的词汇表达式上，利用这种方式进行训练的神经嵌入模型能够有效地解决短语和句子的语义表示问题，并具有广泛应用前景。
nlp researchneural language embedding modelsdictionary definitionsreverse dictionariescrossword question answerers
发现论文，激发创造
  • 学习表示双语词典

    该研究提出了一种神经嵌入模型，利用双语词典将文字定义映射到双语目标词汇，探索不同的句子编码技术以及采用多任务学习和联合学习等关键学习策略来增强学习过程，实验结果表明，该模型在跨语言反向字典检索任务和双语释义识别问题上表现优异，并有效地解决了双语释义识别问题。

    Aug, 2018

  • 定义建模：学习在自然语言中定义词嵌入

    本文研究如何利用分布式表示生成单词的字典定义，介绍了几种基于 RNN 的定义模型，探讨了字母级别卷积层对词级嵌入的补充，最终通过错误分析揭示了模型的缺陷。

    Dec, 2016

  • 利用蕴涵的分布式语义学学习上下位词的词嵌入

    该研究提出了一种基于向量空间的框架来对词汇包容性建模的分布语义模型，利用伪短语中邻近的两个词向量提出了一种隐向量，并探究了模拟词作为证据或词作为后验分布的优缺点。实验表明，所得到的词嵌入模型优于之前预测词之间下义词关系的最佳结果。

    Oct, 2017

  • 注入词库的短语嵌入用于命名实体识别

    本文提出了一种新的学习单词嵌入的方法，可以利用相关词汇表的信息来改进单词表示，并使用神经单词嵌入在 CoNLL 和 Ontonotes NER 中实现了最先进的结果。在公共数据上取得了 90.9 的 F1 评分，优于以前的任何系统，并与使用私有工业查询日志数据的系统匹配。

    Apr, 2014

  • SemEval2022 任务 1 中的 IRB-NLP：探索词语和它们的语义表示之间的关系

    本篇论文研究了词与其描述或嵌入之间的关系，探索了定义建模和反向字典两个学习任务之间的关系，旨在探讨词语及其语义表示之间的关系，并在 CODWOE 数据集上展示了定义建模和反向字典任务系统的设计及实验结果。

    May, 2022

  • 词汇语义增强的神经词向量

    通过深度度量学习进行后处理可以提高神经语言模型中语义相似度推断的效果，并将层次拟合用于建模 IS-A 层次中的语义相似性细微差别。

    Oct, 2022

  • 学习将单词嵌入上下文以执行句法任务

    我们提出了一种基于标准神经网络架构的简单，高效的令牌嵌入模型，并通过大量未注释的文本学习了令牌嵌入，评估它们作为基于少量注释的数据训练的词性标注器和依存分析器的特征，发现词嵌入在各种上下文窗口和训练集大小下都能一致优于基准预测模型。

    Jun, 2017

  • 从释义学习概率句子表示

    本文定义了能够为句子产生分布的概率模型，最佳表现的模型将每个单词视为线性转换算子应用于多变量高斯分布，并通过从定义的模型中进行训练，演示了实现句子特定性的自然方式。虽然我们的模型是整体最佳表现的，但通过句子向量的范数表示来表示句子的特异性的简单架构也能够表现句子的特异性。质性分析表明，我们的概率模型捕获了句子涵盖并提供了分析单词特异性和精确性的方法。

    May, 2020

  • 反向词典和定义建模的统一模型

    本研究提出了一种用于检索词汇和生成定义的双向神经词典，通过共享层将词或定义映射到相同的表示空间，以多任务方式生成另一种形式，通过嵌入处理未知的单词，结果显示多个目标有助于学习，达到了有前景的自动化得分，并得到了实践验证和人工评估者的认可。

    May, 2022

  • 用于生成意大利语复杂概念描述的领域嵌入

    提出了一种分布语义资源，该资源包含从电子词典提取的语言和词汇信息，通过领域特定的共现矩阵来桥接分布向量和一般语义理论之间的差距，并通过两个实验验证了该资源的有效性，实现了动物名词的自动分类和特征提取。

    Feb, 2024