WWWJan, 2021

DISCOS: 架桥于话语知识与常识知识之间

PDF
TL;DR本文提出了一种基于 DISCOS 算法的常识知识获取框架，能够将更昂贵的复杂常识知识自动转化为更可承担的语言知识资源，以此来获取大规模常识推理知识。此方法在 novelty 和 diversity 方面表现优越，拥有着与监督学习方法相当的质量。
commonsense knowledgeartificial intelligence systemsdiscosaseratomic
发现论文，激发创造
  • COMET: 用于自动知识图谱构建的常识 Transformer

    我们提出了 COMET，一种生成通用语言的丰富多样的常识知识描述的模型，并在 ATOMIC 和 ConceptNet 这两个通用常识图的自动知识库构建方面取得了优秀的结果。

    Jun, 2019

  • TransOMCS: 从语言图到常识知识

    本文探讨了从语言图中挖掘常识知识的实用方法，将由语言模式获得的便宜知识转化为昂贵的常识知识，转换为与 ConceptNet 相同的表示方式的 TransOMCS 资源，并证明了语言知识对常识知识的可转移性和提出的方法在数量、新颖性和质量方面的有效性。

    May, 2020

  • 利用常识知识增强端到端对话系统

    本文研究了将常识知识有效地集成到对话模型中的影响，并在基于检索的情境下提出了 Tri-LSTM 模型，将消息和常识联合起来选择适当的响应，实验证明知识增强模型比无知识模型在自动评估中表现更好。

    Sep, 2017

  • 关于符号和神经常识知识图谱的 COMET-ATOMIC 2020

    本文提出一个新的评估框架，以测试知识图谱的效用，该框架基于从中可以从中学习隐式知识表征的效果。基于这个新目标，我们提出了一个新的通用常识知识图谱 ATOMIC 2020，其中包含预训练语言模型中不易获得的知识，并用其他主要的常识知识资源进行比较。通过人类评估，我们显示出基于 ATOMIC 2020 训练的知识模型的少数情况下的表现比 GPT-3（175 亿个参数）使用 430 倍少的参数。

    Oct, 2020

  • DiscoSense: 语篇连词带来的常识推理

    通过理解各种语篇连词，我们提出了 DiscoSense，这是一个公共常识推理基准。我们使用条件对抗过滤 (CAF) 生成引人入胜的干扰项，CAF 是对对抗过滤 (AF) 的扩展。我们表明，目前最先进的预训练语言模型在 DiscoSense 上表现良好，这使得该数据集成为评估下一代公共常识推理系统的理想数据集。

    Oct, 2022

  • 符号知识蒸馏：从通用语言模型到常识模型

    研究一个新的框架，基于 Symbolic Knowledge Distillation，使用通用语言模型自动化地从 ATOMIC 资源中筛选高质量因果常识，并创造一种新的常识模型，其大小只有原始模型的 1/100，但功能优于其老师模型。

    Oct, 2021

  • 注意空缺！注入常识知识，用于抽象对话摘要

    本论文提出了一种利用对话共享常识知识的唯一特征来解决总结难题的方法，介绍了 SICK 框架，该框架使用常识推理作为额外上下文，比先前仅依赖于输入对话的工作更具优势，实验证明注入常识知识后，我们的框架生成的总结比现有方法更具信息性和一致性。

    Sep, 2022

  • 通过概念化获取和建模抽象常识知识

    通过使用抽象概念的方法，建立了一个可适用于人类常识推理的抽象通识知识图谱，并通过基于语言特征的启发式规则和神经模型计算与验证其抽象知识的有效性。

    Jun, 2022

  • 带有循环记忆的段落级通识理解 Transformer

    我们提出了一种任务，即基于语篇的通识推理，在保持与叙述其余部分的一致性的同时，在预定义的维度上生成常识推断。使用可用的句级注释，我们有效且自动地构建了一个远程监督语料库，使用该语料库，我们训练了 PARA-COMET，这是一种基于语篇的模型，它捕获关于先前世界知识的语义知识和涉及如何将当前事件与叙述中先前和未来事件相关联的情节知识。我们的结果表明，PARA-COMET 在生成既连贯又新颖的推断方面优于句级基准。

    Oct, 2020

  • 常识知识的整合

    通过对常识知识源进行调查，本文提出了构建通识知识图谱的原则、表示模型，将七个独立的常识知识源整合到了第一版集成的通识知识图谱中，并分析了它在四个问答数据集上的应用统计结果和所得到的经验教训。

    Jun, 2020