AAAIOct, 2018

ATOMIC: 机器常识图谱用于 If-Then 推理

PDF
TL;DRATOMIC 是一种以常识推理为组织形式的图表，其中包括了 877k 个基于变量的 if-then 关系类型，使用这种类型，神经模型可以获得简单的常识能力并进行推理，证实了将多任务模型引入到 if-then 关系结构中可以得到比独立训练的模型更准确的推论。
atomiccommonsense reasoninginferential knowledgeneural modelsmultitask models
发现论文，激发创造
  • Dense-ATOMIC: 在 ATOMIC 基础上构建密集连接和多跳常识知识图谱

    本文提出了一种基于关系预测模型的常识知识图谱完备性方法，用于填补常识知识图谱中双方之间缺失的知识链接，并构建了一种密集连接和多跳的常识知识图谱 Dense-ATOMIC，实验证明该方法提高了 ATOMIC 的效率。

    Oct, 2022

  • 关于符号和神经常识知识图谱的 COMET-ATOMIC 2020

    本文提出一个新的评估框架，以测试知识图谱的效用，该框架基于从中可以从中学习隐式知识表征的效果。基于这个新目标，我们提出了一个新的通用常识知识图谱 ATOMIC 2020，其中包含预训练语言模型中不易获得的知识，并用其他主要的常识知识资源进行比较。通过人类评估，我们显示出基于 ATOMIC 2020 训练的知识模型的少数情况下的表现比 GPT-3（175 亿个参数）使用 430 倍少的参数。

    Oct, 2020

  • 通过概念化获取和建模抽象常识知识

    通过使用抽象概念的方法，建立了一个可适用于人类常识推理的抽象通识知识图谱，并通过基于语言特征的启发式规则和神经模型计算与验证其抽象知识的有效性。

    Jun, 2022

  • DISCOS: 架桥于话语知识与常识知识之间

    本文提出了一种基于 DISCOS 算法的常识知识获取框架，能够将更昂贵的复杂常识知识自动转化为更可承担的语言知识资源，以此来获取大规模常识推理知识。此方法在 novelty 和 diversity 方面表现优越，拥有着与监督学习方法相当的质量。

    Jan, 2021

  • COMET: 用于自动知识图谱构建的常识 Transformer

    我们提出了 COMET，一种生成通用语言的丰富多样的常识知识描述的模型，并在 ATOMIC 和 ConceptNet 这两个通用常识图的自动知识库构建方面取得了优秀的结果。

    Jun, 2019

  • CAT: 一种基于语境的通识推理的概念化和实例化框架

    CAT 是一种语境化的概念归纳和实例化的半监督学习框架，可大规模概念化常识知识库，并通过实验证明，其获得的抽象常识知识可以显著提高常识推理建模的准确性。

    May, 2023

  • 打下基础先？研究原子技能对复杂推理任务的普遍化

    目前的语言模型在基本推理方面已经展示了它们的能力，但在需要结合原子技能的更复杂的推理任务上却存在困难，比如需要算术和单位转换等技能的数学问题。本文首先提出了一个探测框架，以研究原子技能是否能自主泛化到复杂推理任务。然后，引入了分层课程学习训练策略来实现更好的技能泛化。在我们的实验中，我们发现原子技能无法自主泛化到组合任务。通过利用分层课程学习，我们成功诱导了泛化，在复杂推理任务上显著提高了开源语言模型的性能。有希望的是，这种技能的泛化在跨数据集和跨领域的场景中也是有效的。复杂推理也有助于增强原子技能。我们的研究结果为设计更好的复杂推理任务训练策略提供了有价值的指导。

    Mar, 2024

  • 神经语言表征是否学习了物理常识？

    本文研究了目前最先进的神经语言表示在物理常识推理方面的表现，结论显示，尽管神经语言模型在各种自然语言推理任务上表现出色，但在物理常识方面仍然只能学习到现有的明确规则和关联性。

    Aug, 2019

  • 基于原子知识库的机器翻译的规则学习

    机器学习模型，特别是语言模型，被应用于需要推理的各种任务。我们探索了 transformers 将自然语言中表达规则的句子翻译成逻辑规则的能力，以便进行可信的和受控制的逻辑推理。通过使用 DKET 数据集和基于 Atomic 知识库的语言到逻辑翻译数据集进行实验。

    Nov, 2023

  • 谈话式神经符号常识推理

    为了能让对话式 AI 系统拥有更自然和广泛的对话，需要更多常识，包括识别对话伙伴的不明说的假设。本研究提出了一个基于神经符号定理证明器的多跳推理链提取方法来理解这类不精确陈述的自然语言命令，并提供一个交互式对话框架来从人类中挖掘常识知识来完善其推理链。

    Jun, 2020