Feb, 2023

文本和知识图谱的联合表示用于检索和评估

PDF
TL;DR本文提出一种利用对比训练和数据增强技术在 KB 图和文本对之间训练嵌入模型，以获得对齐的跨模态表示，进而 fine-tune 可以与人类判断相匹配的相似度度量，最终在无需参考文本的情况下超过或匹配现有的基准度量。
neural modelssemantic vector representationsknowledge base (kb) elementsembedding modelssimilarity metric
发现论文，激发创造
  • 从知识库中学习文本和实体的分布式表示

    我们提出了一种神经网络模型，该模型可共同学习文本和知识库实体的分布式表示。我们使用基于维基百科的大量文本和其实体注释来训练模型，并在涉及无监督和有监督设置的三个重要 NLP 任务（即句子文本相似性，实体链接和短问答）上进行了评估。在所有三个任务上，我们都取得了最先进的结果。

    May, 2017

  • 通过链接预测从文本中归纳实体表征

    本文通过一个综合评估协议，探讨了使用预测链接的实体表示学习，并考虑了线性预测和实体分类任务以及针对面向实体的搜索的信息检索任务，通过一个预训练的语言模型体系结构，证明这些学习的表示不仅适用于 KG 特定任务，还具有比之前的方法更强的泛化性能，同时也在其他任务方面表现出色。

    Oct, 2020

  • 知识图谱完善的文本和知识联合表示学习

    提出一种新的框架，将词汇、实体和关系嵌入到同一连续向量空间中，通过对知识图谱和纯文本的联合学习，可以更准确地完成知识图谱补全，实现实体预测、关系预测和关系分类等任务，并且相比其他基线模型，在三项任务上均可以显著且持续地提高性能。

    Nov, 2016

  • 通过序列文本和知识图谱联合学习进行知识表示

    本论文提出一种基于顺序文本的知识表示学习方法，通过循环神经网络、注意力机制等实现对实体语义信息的编码和选取信息量高的语句，以及在三元组分类和链接预测任务中实现了优异的效果。

    Sep, 2016

  • 文本到知识图谱对齐：在分类任务中比较现有方法

    本文研究了知识图谱和预训练语言模型相结合的文本分类任务，对常见的文本到知识图谱对齐方法进行了评估，结果表明当前的方法相对于完全相关的查询子图存在一定的局限性。

    Jun, 2023

  • 联合结构和文本编码的知识图谱表示

    本文提出一种新颖的深度架构，以利用实体的结构和文本信息的宝贵信息。其中，注意力模型可以选择所需的相关信息，并应用门控机制将结构和文本的表征集成到一个统一的架构中。实验表明，我们的模型在链接预测和三元组分类任务上的表现优于基线。

    Nov, 2016

  • 使用异构表示法连接语言和知识进行神经关系抽取

    本文介绍一种统一 Relation Extraction 和 KB Embeddings 的学习框架，并证明在知识库更新任务中取得了显著进展。

    Mar, 2019

  • 知识库描述中实体和文档的表示学习

    本文介绍了 TextEnt，一种神经网络模型，它直接从知识库（KB）中学习实体和文档的分布式表示。通过训练我们的模型来预测文档所描述的实体并将文档和目标实体映射到连续向量空间中，其性能得到了良好的评估。

    Jun, 2018

  • 为语言模型赋予多模态知识图谱表达

    本文提出使用外部知识图谱作为存储知识，并使用密集索引来检索以提高自然语言理解模型的参数效率，并通过两项下游任务证明了学习到的实体表示的实用性。

    Jun, 2022

  • 知识增强的上下文词表示

    提出了一种用多个知识库来加强大型模型表示的方法，每个知识库都通过一个集成实体链接器来检索相关实体嵌入，然后通过单词与实体关注的形式更新上下文单词表示，经实验发现知识增强的 BERT 模型具有更好的性能，且运行时间与 BERT 相当。

    Sep, 2019