Feb, 2015

面向任务的词向量学习用于语义关系分类

PDF
TL;DR本文介绍了一种新颖的学习方法，用于关系分类的单词嵌入训练，并使用无标注语料库上的词汇关系特定特征预测名词对之间的单词，以将关系特定信息显式地纳入单词嵌入中。通过使用所学习的单词嵌入来构建特征向量，用于关系分类模型。在一个基于语义关系分类任务中，我们的方法表现显著优于基于之前介绍的单词嵌入方法的基准线，并与使用句法信息或手动构造的外部资源的先前最先进的模型相比，表现出了比较良好的结果。
发现论文，激发创造
  • 神经网络时间关系分类的词级损失扩展

    本文介绍了一种利用无标签文本数据的无监督预训练词向量，通过加入未监督辅助损失（unsupervised auxiliary loss）来扩展分类模型的任务损失，确保学习到的词表示包含了从监督损失组件中学到的 task-specific 特征和从未监督损失组件中学到的更通用的特征，并在临床记录的叙述包含关系抽取任务上对其进行了评估，使用通用类型的词性标注器作为语言资源，在 THYME 数据集上实现了技术上的提高。

    Aug, 2018

  • 将语义关系嵌入到词表示中

    通过提取语料库中词汇的共现模式来实现无监督学习，学习不仅代表个体单词的表示，还明确捕捉代表单词间语义关联的词向量表示，并通过联合权重和二元分类器来描述单词间的语义关系，取得了普遍类比检测三个基准数据集中的显著性优势。

    May, 2015

  • 学习将单词嵌入上下文以执行句法任务

    我们提出了一种基于标准神经网络架构的简单，高效的令牌嵌入模型，并通过大量未注释的文本学习了令牌嵌入，评估它们作为基于少量注释的数据训练的词性标注器和依存分析器的特征，发现词嵌入在各种上下文窗口和训练集大小下都能一致优于基准预测模型。

    Jun, 2017

  • 文字分类的词与标签联合嵌入

    采用标签 - 词汇联合嵌入法和注意力机制的词嵌入模型，用于文本分类并保持了词嵌入的可解释性，同时提供了利用其他信息的能力。在多个大型文本数据集上实验表明，该方法在准确率和速度方面均优于现有最先进方法。

    May, 2018

  • 关系词嵌入

    本文中，我们提出了一种用于编码关系性知识的词嵌入方法，其旨在为已有的标准词嵌入方法提供一种补充。通过从共现统计数据中学习出这种关系性词向量，我们发现它确实捕捉到了非常有用的补充信息。

    Jun, 2019

  • 基于相关性的词嵌入

    本文提出两种具有不同目标函数的学习模型，用于基于查询 - 文档相关性信息学习单词表示，实验结果表明相对于 Word2vec 等基于词语相似度的模型，基于相关性的单词嵌入模型在查询扩展和查询分类等信息检索任务上具有显著优越性。

    May, 2017

  • 将未见过的单词映射到任务训练的嵌入空间

    该研究在监督式训练中，通过利用神经网络将词向量映射到任务特定的向量空间，以解决测试集中新词的嵌入问题。实验结果表明，该技术可以显著提高依赖分析和情感分析的效果。

    Oct, 2015

  • SEE: 基于语法感知的实体嵌入用于神经关系抽取

    本文提出了一种基于语法树和句子嵌入的远程监督关系抽取方法，使用句子和实体的嵌入对关系进行分类，实验结果表明这种方法在真实数据集上取得了最佳的性能。

    Jan, 2018

  • 无监督开放式关系抽取

    在无监督环境下，我们探讨了从自由文本中提取命名实体之间关系的方法。除了标准特征提取外，我们还开发了一种重新加权词嵌入的新方法。我们使用单个特征降维缓解了特征稀疏性问题。我们的方法在 NYT-FB 数据集上获得了 F1-score 为 0.416 的显着提高，优于现有技术水平 5.8%。

    Jan, 2018

  • 利用知识图谱嵌入增强关系抽取的上下文表示

    本论文使用预训练的知识图谱嵌入模型，结合文本语料库的句子级上下文表示，实现了较高性能的关系抽取模型，并通过实验验证了该方法的有效性和出色性能。

    Jun, 2023