ACLJun, 2019

COMET: 用于自动知识图谱构建的常识 Transformer

PDF
TL;DR我们提出了 COMET，一种生成通用语言的丰富多样的常识知识描述的模型，并在 ATOMIC 和 ConceptNet 这两个通用常识图的自动知识库构建方面取得了优秀的结果。
knowledge base constructionatomicconceptnetgenerative modelscommonsense completion
发现论文，激发创造
  • 关于符号和神经常识知识图谱的 COMET-ATOMIC 2020

    本文提出一个新的评估框架，以测试知识图谱的效用，该框架基于从中可以从中学习隐式知识表征的效果。基于这个新目标，我们提出了一个新的通用常识知识图谱 ATOMIC 2020，其中包含预训练语言模型中不易获得的知识，并用其他主要的常识知识资源进行比较。通过人类评估，我们显示出基于 ATOMIC 2020 训练的知识模型的少数情况下的表现比 GPT-3（175 亿个参数）使用 430 倍少的参数。

    Oct, 2020

  • 基于结构和语义上下文的常识知识库完善

    该研究提出了新的知识库补全模型，它可以通过利用节点的结构和语义上下文来解决本体库完整性问题。该模型不仅学习了本地图结构，而且还利用了预先训练的语言模型的转移学习来增强对知识的上下文表示，进而显著提高了链路预测能力，并对常识知识的类型进行了分析。

    Oct, 2019

  • NovaCOMET: 具有符号知识精华的开放常识基础模型

    NovaCOMET 提供了一个开放的常识知识模型，结合了知识和一般任务模型的最佳方面。与以前的知识模型相比，NovaCOMET 允许开放格式关系，可直接应用于推理任务；与 Flan-T5 等一般任务模型相比，它明确地聚焦于知识，从而实现了卓越的常识推理性能。

    Dec, 2023

  • 带有循环记忆的段落级通识理解 Transformer

    我们提出了一种任务，即基于语篇的通识推理，在保持与叙述其余部分的一致性的同时，在预定义的维度上生成常识推断。使用可用的句级注释，我们有效且自动地构建了一个远程监督语料库，使用该语料库，我们训练了 PARA-COMET，这是一种基于语篇的模型，它捕获关于先前世界知识的语义知识和涉及如何将当前事件与叙述中先前和未来事件相关联的情节知识。我们的结果表明，PARA-COMET 在生成既连贯又新颖的推断方面优于句级基准。

    Oct, 2020

  • DiffuCOMET：上下文常识知识扩散

    利用扩散学习重建叙事背景和相关常识之间的内在语义联系，我们开发了一系列以 DiffuCOMET 为基础的知识模型，为推断上下文相关和多样性常识提供了一种解决方案。我们的方法逐步优化了与叙事相关的常识事实表示，产生了与输入上下文相关且多样化的常识推论。在 ComFact 和 WebNLG + 两个基准测试上的结果表明，DiffuCOMET 产生的常识在常识多样性、上下文相关性和与已知参考文献的一致性方面的平衡优于基准知识模型。

    Feb, 2024

  • DISCOS: 架桥于话语知识与常识知识之间

    本文提出了一种基于 DISCOS 算法的常识知识获取框架，能够将更昂贵的复杂常识知识自动转化为更可承担的语言知识资源，以此来获取大规模常识推理知识。此方法在 novelty 和 diversity 方面表现优越，拥有着与监督学习方法相当的质量。

    Jan, 2021

  • TransOMCS: 从语言图到常识知识

    本文探讨了从语言图中挖掘常识知识的实用方法，将由语言模式获得的便宜知识转化为昂贵的常识知识，转换为与 ConceptNet 相同的表示方式的 TransOMCS 资源，并证明了语言知识对常识知识的可转移性和提出的方法在数量、新颖性和质量方面的有效性。

    May, 2020

  • KagNet: 基于知识的图网络用于常识推理

    该研究提出了一种基于知识图谱的语义推理框架，以解决常识性问题，并通过引入 KagNet 模型和 ConceptNet 外部资源，取得了在常识 QA 数据集上的最佳表现。

    Sep, 2019

  • 在预训练模型中加入常识知识图谱以进行社交常识任务

    该研究提出了两种方法，通过外部常识知识图谱，隐式或显式地融入到预先训练好的自然语言处理模型中，以提高社交智能，这种方法对社交常识推理任务 SocialIQA 的表现在有限和完整的训练数据制度下都表现出良好的效果。

    May, 2021

  • 通过概念化获取和建模抽象常识知识

    通过使用抽象概念的方法，建立了一个可适用于人类常识推理的抽象通识知识图谱，并通过基于语言特征的启发式规则和神经模型计算与验证其抽象知识的有效性。

    Jun, 2022