Feb, 2019

实体标注文本的词嵌入

PDF
TL;DR本文研究了在大型语料库上联合训练单词和实体嵌入的方法以及它们在各种自然语言处理任务上的表现，发现仅仅在注释语料库上训练流行的单词嵌入模型无法创建具有可接受性能的实体嵌入，而我们的实体共现图嵌入方法能够恢复性能。
word embeddingsnamed entitiesco-occurrence graphnatural language processingentity-specific tasks
发现论文，激发创造
  • 利用远程监督联合嵌入实体和文本

    本文提出了一种基于远程监督的方法，从未注释的语料库中仅使用实体和表面形式之间的映射列表，联合学习实体和文本的嵌入。与仅依赖于人类注释文本或大型知识图谱结构的先前方法相比，实验结果表明，我们的嵌入可更好地捕捉实体的相似性和关联性。

    Jul, 2018

  • 注入词库的短语嵌入用于命名实体识别

    本文提出了一种新的学习单词嵌入的方法，可以利用相关词汇表的信息来改进单词表示，并使用神经单词嵌入在 CoNLL 和 Ontonotes NER 中实现了最先进的结果。在公共数据上取得了 90.9 的 F1 评分，优于以前的任何系统，并与使用私有工业查询日志数据的系统匹配。

    Apr, 2014

  • 检索多实体关联性：词嵌入组合模式的评估

    本研究探讨了基于流行的嵌入方法训练矢量表示的实体注释新闻语料库的应用，以预测实体参与新闻事件，并测试了一些嵌入矢量的组合模式以支持多参与实体事件查询。我们发现，虽然单一的基于词嵌入的组合模式并不能完全达到传统词共现网络的水平，但不同的嵌入方法对不同类型的关系进行了建模，因此有可能实现集成方法。

    May, 2019

  • 通过联合知识增强训练将词语和意义嵌入在一起

    提出一种新模型共同学习单词和语义嵌入，以解决现有方法无法区分单词不同含义的问题，利用大规模预料库和语义网络优化嵌入空间，并在各种任务中评估了该方法的优点。

    Dec, 2016

  • 文字分类的词与标签联合嵌入

    采用标签 - 词汇联合嵌入法和注意力机制的词嵌入模型，用于文本分类并保持了词嵌入的可解释性，同时提供了利用其他信息的能力。在多个大型文本数据集上实验表明，该方法在准确率和速度方面均优于现有最先进方法。

    May, 2018

  • 超越词嵌入：从大规模知识库中学习实体和概念表示

    本文提出了一种新颖而简单的技术，将来自不同结构的两个大型知识库中的概念知识（Wikipedia 和 Probase）整合起来，学习概念表示，并在两个任务上评估了概念嵌入模型：类比推理和概念分类，并展示了无监督环境中用于神经语义分析的参数识别的案例研究，相对于 gazetteer 和正则表达式等繁琐易出错的方法，我们的无监督方法具有更好的泛化能力。

    Jan, 2018

  • 命名实体识别中的上下文嵌入：一项关于泛化的实证研究

    本文通过经验分析，将提到的未知名称根据新奇性和域外评估进行分离，并证明了最新情境嵌入模型在发现前所未见的名称方面特别有益，尤其是在域外评估中。

    Jan, 2020

  • 学习将单词嵌入上下文以执行句法任务

    我们提出了一种基于标准神经网络架构的简单，高效的令牌嵌入模型，并通过大量未注释的文本学习了令牌嵌入，评估它们作为基于少量注释的数据训练的词性标注器和依存分析器的特征，发现词嵌入在各种上下文窗口和训练集大小下都能一致优于基准预测模型。

    Jun, 2017

  • 探索词语和关系的理论表示

    该研究提出了一种理论方法，将词嵌入和知识图谱中的实体及其关系的几何形状联系起来，以便更好地理解它们的语义结构和性能。

    Feb, 2022

  • NSEEN：面向实体归一化的神经语义嵌入

    本研究基于深度单妻神经网络模型，将实体及其语法变化的语义信息嵌入到嵌入向量中，以实现对大型参考集的新实体实现快速映射，并在挑战性的生物实体规范化数据集中证明了框架的有效性。

    Nov, 2018