Oct, 2020

关于符号和神经常识知识图谱的 COMET-ATOMIC 2020

PDF
TL;DR本文提出一个新的评估框架，以测试知识图谱的效用，该框架基于从中可以从中学习隐式知识表征的效果。基于这个新目标，我们提出了一个新的通用常识知识图谱 ATOMIC 2020，其中包含预训练语言模型中不易获得的知识，并用其他主要的常识知识资源进行比较。通过人类评估，我们显示出基于 ATOMIC 2020 训练的知识模型的少数情况下的表现比 GPT-3（175 亿个参数）使用 430 倍少的参数。
commonsense knowledge graphsimplicit knowledge representationsatomic 2020knowledge modelsfew-shot performance
发现论文，激发创造
  • COMET: 用于自动知识图谱构建的常识 Transformer

    我们提出了 COMET，一种生成通用语言的丰富多样的常识知识描述的模型，并在 ATOMIC 和 ConceptNet 这两个通用常识图的自动知识库构建方面取得了优秀的结果。

    Jun, 2019

  • Dense-ATOMIC: 在 ATOMIC 基础上构建密集连接和多跳常识知识图谱

    本文提出了一种基于关系预测模型的常识知识图谱完备性方法，用于填补常识知识图谱中双方之间缺失的知识链接，并构建了一种密集连接和多跳的常识知识图谱 Dense-ATOMIC，实验证明该方法提高了 ATOMIC 的效率。

    Oct, 2022

  • 基于结构和语义上下文的常识知识库完善

    该研究提出了新的知识库补全模型，它可以通过利用节点的结构和语义上下文来解决本体库完整性问题。该模型不仅学习了本地图结构，而且还利用了预先训练的语言模型的转移学习来增强对知识的上下文表示，进而显著提高了链路预测能力，并对常识知识的类型进行了分析。

    Oct, 2019

  • 通过概念化获取和建模抽象常识知识

    通过使用抽象概念的方法，建立了一个可适用于人类常识推理的抽象通识知识图谱，并通过基于语言特征的启发式规则和神经模型计算与验证其抽象知识的有效性。

    Jun, 2022

  • ATOMIC: 机器常识图谱用于 If-Then 推理

    ATOMIC 是一种以常识推理为组织形式的图表，其中包括了 877k 个基于变量的 if-then 关系类型，使用这种类型，神经模型可以获得简单的常识能力并进行推理，证实了将多任务模型引入到 if-then 关系结构中可以得到比独立训练的模型更准确的推论。

    Oct, 2018

  • NovaCOMET: 具有符号知识精华的开放常识基础模型

    NovaCOMET 提供了一个开放的常识知识模型，结合了知识和一般任务模型的最佳方面。与以前的知识模型相比，NovaCOMET 允许开放格式关系，可直接应用于推理任务；与 Flan-T5 等一般任务模型相比，它明确地聚焦于知识，从而实现了卓越的常识推理性能。

    Dec, 2023

  • DISCOS: 架桥于话语知识与常识知识之间

    本文提出了一种基于 DISCOS 算法的常识知识获取框架，能够将更昂贵的复杂常识知识自动转化为更可承担的语言知识资源，以此来获取大规模常识推理知识。此方法在 novelty 和 diversity 方面表现优越，拥有着与监督学习方法相当的质量。

    Jan, 2021

  • 常识知识的整合

    通过对常识知识源进行调查，本文提出了构建通识知识图谱的原则、表示模型，将七个独立的常识知识源整合到了第一版集成的通识知识图谱中，并分析了它在四个问答数据集上的应用统计结果和所得到的经验教训。

    Jun, 2020

  • KagNet: 基于知识的图网络用于常识推理

    该研究提出了一种基于知识图谱的语义推理框架，以解决常识性问题，并通过引入 KagNet 模型和 ConceptNet 外部资源，取得了在常识 QA 数据集上的最佳表现。

    Sep, 2019

  • 在预训练模型中加入常识知识图谱以进行社交常识任务

    该研究提出了两种方法，通过外部常识知识图谱，隐式或显式地融入到预先训练好的自然语言处理模型中，以提高社交智能，这种方法对社交常识推理任务 SocialIQA 的表现在有限和完整的训练数据制度下都表现出良好的效果。

    May, 2021