AAAIOct, 2019

基于结构和语义上下文的常识知识库完善

PDF
TL;DR该研究提出了新的知识库补全模型，它可以通过利用节点的结构和语义上下文来解决本体库完整性问题。该模型不仅学习了本地图结构，而且还利用了预先训练的语言模型的转移学习来增强对知识的上下文表示，进而显著提高了链路预测能力，并对常识知识的类型进行了分析。
发现论文，激发创造
  • COMET: 用于自动知识图谱构建的常识 Transformer

    我们提出了 COMET，一种生成通用语言的丰富多样的常识知识描述的模型，并在 ATOMIC 和 ConceptNet 这两个通用常识图的自动知识库构建方面取得了优秀的结果。

    Jun, 2019

  • 关于符号和神经常识知识图谱的 COMET-ATOMIC 2020

    本文提出一个新的评估框架，以测试知识图谱的效用，该框架基于从中可以从中学习隐式知识表征的效果。基于这个新目标，我们提出了一个新的通用常识知识图谱 ATOMIC 2020，其中包含预训练语言模型中不易获得的知识，并用其他主要的常识知识资源进行比较。通过人类评估，我们显示出基于 ATOMIC 2020 训练的知识模型的少数情况下的表现比 GPT-3（175 亿个参数）使用 430 倍少的参数。

    Oct, 2020

  • Few-shot 知识图谱补全中的结构和常识知识调查

    本研究通过对少样本知识图谱自动补全任务的学习方法、任务应用、以及未来研究领域的调查和总结，提出了一种使用图形表示学习和少样本学习优势的 FKGC 方法，以期解决常规 KG 和 CKG 补全任务中长尾关系及新关系的问题，并在不同领域的预测任务中应用 FKGC 模型。

    Jan, 2023

  • 基于结构增强的文本表示学习用于高效的知识图谱补全

    本研究旨在整合知识图谱的图嵌入和文本编码技术，以提高自动完成知识图谱的性能，实现更精确的链接预测和结构学习。实验结果表明，该方法能实现与文本编码方法相比 1-2 个数量级的推理成本减少和最先进的性能表现。

    Apr, 2020

  • 基于图的异构外部知识推理用于常识问答

    本文提出了一种基于知识库和维基百科文本的异构证据自动提取方法以回答常识问题，通过构建图形结构并使用图形卷积网络对邻居信息进行编码并利用图形注意力机制聚合证据来预测最终答案，成功地提高了 CommonsenseQA 数据集上的准确性达到了最先进水平。

    Sep, 2019

  • 知识图谱补全的联合语义和结构嵌入

    本文提出了一种采用预训练语言模型的方法，将知识三元组的语义信息与其结构信息一起嵌入到自然语言描述中，以提高知识图谱补全任务的性能，特别是在低资源环境下表现更佳。

    Sep, 2022

  • 在预训练模型中加入常识知识图谱以进行社交常识任务

    该研究提出了两种方法，通过外部常识知识图谱，隐式或显式地融入到预先训练好的自然语言处理模型中，以提高社交智能，这种方法对社交常识推理任务 SocialIQA 的表现在有限和完整的训练数据制度下都表现出良好的效果。

    May, 2021

  • Dense-ATOMIC: 在 ATOMIC 基础上构建密集连接和多跳常识知识图谱

    本文提出了一种基于关系预测模型的常识知识图谱完备性方法，用于填补常识知识图谱中双方之间缺失的知识链接，并构建了一种密集连接和多跳的常识知识图谱 Dense-ATOMIC，实验证明该方法提高了 ATOMIC 的效率。

    Oct, 2022

  • 通过对比预训练和节点聚类完成常识知识图补充

    本研究提出了基于对比预训练和节点聚类的新型 CSKG 完善框架，通过对比学习获得更好的语义节点表示，聚合相同概念的节点来协助 CSKG 完善任务，实验证明该方法显著提高了 CSKG 完善的性能。

    May, 2023

  • 将上下文融入知识图谱以用于常识问答

    本文提出一种通过利用外部实体描述来为知识理解提供上下文信息的方法，将其作为预训练语言模型的附加输入，以解决知识图谱融合到语言建模中的问题，并获得了常识 QA 数据集中最先进的结果和 OpenBookQA 中非生成模型中最好的结果。

    Dec, 2020