Dec, 2023

KBFormer：用于结构化实体补全的扩散模型

PDF
TL;DR我们开发了一种生成式基于注意力的方法，用于对结构化实体进行建模，这些实体包括不同类型的属性，如数值、分类、字符串和组合。我们的方法可以处理这种异构数据，并通过连续 - 离散的扩散过程来对属性进行建模。我们的灵活框架可以对具有任意层次属性的实体进行建模，从而能够应用于结构化知识库实体和表格数据。我们的方法在 15 个数据集中的大多数情况下都获得了最先进的性能。此外，通过设备知识库和核物理数据集的实验，证明了该模型在各种环境中学习有用的实体补全表示的能力。这对模型的固有概率特性来说非常重要，在科学应用中对数值属性进行高准确性建模也有很大好处。
generative attention-based approachstructured entitiesheterogeneous datatabular dataentity completion
发现论文，激发创造
  • 文本和基于结构的模型的集成用于知识图谱补全

    我们研究了两种知识图谱补全方法：依赖文本实体描述的文本模型和利用知识图谱的连接结构的基于结构的模型。我们通过集成的方式结合了这两种方法，提出了一种新颖的方法来学习查询相关的集成权重，并在三个标准知识图谱补全数据集上取得了最先进的结果。

    Nov, 2023

  • 一个可解释的知识迁移模型用于知识库完成

    本研究提出了一种新的嵌入模型 ITransF，它通过稀疏注意机制来完成知识库的补全，并在两个基准数据集（WN18 和 FB15k）上进行了评估，相对于没有使用额外信息的所有基线，ITransF 在知识库补全任务上都显示出了更好的性能。

    Apr, 2017

  • 邻域混合模型用于知识库补全

    本文介绍了一种新的实体表示方法，并将其应用于知识库补全中的 TransE 嵌入模型，实验证明这种方法可以明显提高 TransE 模型在三种基准数据集上的性能。

    Jun, 2016

  • 具备实体一致性的端到端任务导向对话系统与知识库检索器

    本文提出了一种新的框架，通过两个步骤查询知识库以提高生成的实体的一致性，第一步是使用 KB 检索组件检索最相关的 KB 行，以过滤 Seq2Seq 响应生成模型中的无关实体，第二步则进一步执行关注机制以解决相关的 KB 列。两种方法被提出来使训练可行，包括远程监控和 Gumbel-Softmax 技术。在两个公共数据集上进行的实验表明，我们的模型通过优于基准系统，在生成一致实体响应方面具有较好的效果。

    Sep, 2019

  • 从知识库中学习文本和实体的分布式表示

    我们提出了一种神经网络模型，该模型可共同学习文本和知识库实体的分布式表示。我们使用基于维基百科的大量文本和其实体注释来训练模型，并在涉及无监督和有监督设置的三个重要 NLP 任务（即句子文本相似性，实体链接和短问答）上进行了评估。在所有三个任务上，我们都取得了最先进的结果。

    May, 2017

  • 端到端任务导向对话系统中基于约束知识库的蒸馏

    论文利用基于余弦相似度的滤波技术以及辅助损失函数构建了一个新的关于任务导向型对话系统和知识库之间的信息筛选模型，并提出了一个解决现有实体 F1 指标正确性问题的新指标 multiset entity F1。实验结果表明该模型比现有的最先进模型表现更好。

    Sep, 2021

  • 基于卷积神经网络的知识库补全新嵌入模型

    本文提出了一种名为 ConvKB 的嵌入模型，通过卷积神经网络来捕获知识库中实体和关系之间的全局关系和转换特征，并在两个基准数据集上实现了比以前最先进的嵌入模型更好的链接预测性能。

    Dec, 2017

  • 为知识库补全嵌入多模态关系数据

    该研究提出了一种使用多种神经编码器的多模态知识库嵌入方法，将它们与现有关系模型相结合，学习实体和多模态数据的嵌入，进而提出了一种新的多模态插值模型，用于从知识库中的信息生成丢失的多模态值，并通过用户研究评估了其生成的多模态值的质量。

    Sep, 2018

  • 基于知识库推理的实体消歧方法改进

    提出了一种可在符号知识库中通过推理以完全可微的方式连接实体的实体消歧模型，该模型可以使用所有 KB 信息，超过六个著名实体消歧数据集中的现有模型，并在基于不常见和模糊实体的 ShadowLink 数据集中提高 12.7 F1。

    Jul, 2022

  • 描述知识库

    利用指针网络，通过两个注意力机制（槽感知注意力、表位置自注意力），自动生成关于结构化知识库的自然语言描述，并提出基于 KB 重构的评估方法。实验表明，与现有最先进方法相比，该方法的性能显著提高，重构后的 KB 达到了 68.8％-72.6％的 F - 分数。

    Sep, 2018