EMNLPApr, 2021

对话回复生成中的常识解释探究

PDF
TL;DR该研究旨在通过探究响应生成模型对常识推理的理解程度以诱发适当的响应来缩小当前响应生成模型和人类沟通能力之间的差距，探测 RG 模型的常识推理能力并提出了两个探针设置来评估 RG 模型的常识推理功能。结果表明，模型无法捕获常识解释和响应之间的逻辑关系，领域内数据的微调和增加模型规模并不能带来对 CSR 的理解，这一研究有望激励更多的研究使 RG 模型效仿人类推理过程以实现流畅的人工智能交流。
commonsense reasoningresponse generationprobingdialogue datasetshuman-ai communication
发现论文，激发创造
  • 利用显式推理进行常识增强式对话模型中的推理整合

    通过将常识推理分解为明确步骤，从而更好地生成、选择和整合常识来提高对话交互的自然性、参与度、特定性和整体质量，从而在常识推理增强的响应生成领域取得了最新技术进展。

    Jun, 2024

  • 基于常识的对话生成：一个实证研究

    本研究针对 commonsense 在对话回应生成中的作用进行了实证研究，提出了一种新的对话数据集，并利用 ConceptNet 这个 commonsense 知识库，找到并整合了现有的真实对话数据集。通过使用这些数据集训练响应生成模型，该研究提出的自动评估方法显示出一定合理的评价效果。

    Sep, 2021

  • 解释自己！利用语言模型进行常识推理

    使用自然语言序列和突出的注释收集人类的常识推理解释，形成一个名为 CoS-E 的新数据集。利用 CoS-E 训练语言模型，在 Commonsense Auto-Generated Explanation (CAGE) 框架中生成解释，可用于训练和推理。实验结果表明能够有效利用语言模型进行常识推理。

    Jun, 2019

  • 面向对话 AI 的常识推理：现有技术综述

    本论文调查了最近关于常识推理的谈话人工智能研究，列出了相关的训练数据集，并描述了在谈话人工智能中包含常识的主要方法，讨论了用于评估谈话人工智能中常识的基准，最后对两个最先进的开放对话模型 BlenderBot3 和 LaMDA 的常识能力进行了初步观察，并对自然交互产生了负面影响，进一步激发了关于常识推理在谈话人工智能中的研究。

    Feb, 2023

  • 可微的开放式常识推理

    提出 DrFact 模型作为 OpenCSR 的一种有效途径，在常识推理基准测试中表现良好，突破了多选题限制的限制，实现对无预定义问题的回答。

    Oct, 2020

  • 基于 ConceptNet 的 DialoGPT 在对话响应生成中的通识理解与推理

    为了让对话代理具有常识推理的能力，将外部知识注入预训练的对话模型以建立基本的常识；提出 “双向学习” 方法实现常识知识与语句对之间的双向关系，并利用该集成常识的能力以改进开放域对话响应生成，结果表明 “常识适配器” 融合有助于 DialoGPT 生成一系列常识知识。

    Sep, 2022

  • 反思而非反应：基于推理的共同理解提高对话响应质量

    本文提出通过使用 Reflect 数据集中的共同知识作为引导，可以改进当前的对话模型，从而生成更具质量和多样性的回复。

    Nov, 2022

  • 利用常识知识增强端到端对话系统

    本文研究了将常识知识有效地集成到对话模型中的影响，并在基于检索的情境下提出了 Tri-LSTM 模型，将消息和常识联合起来选择适当的响应，实验证明知识增强模型比无知识模型在自动评估中表现更好。

    Sep, 2017

  • 生成式知识促进常识推理

    通过从语言模型中产生知识并将其作为额外输入用于回答问题，我们开发了一种生成知识提示方法，它不需要针对知识集成的任务特定监督，也不需要访问结构化的知识库，并在四个常识推理任务中提高了大规模、最先进模型的性能。这凸显了大规模语言模型作为提高常识推理的外部知识的灵活来源。

    Oct, 2021

  • 回应前的推理：整合基于常识的因果解释实现共情回应生成

    我们提出了一种基于常识的因果解释方法，通过整合上下文学习和常识知识来增强 ChatGPT 系统在系统角度的推理能力，并将常识因果解释与 ChatGPT 和基于 T5 模型进行整合，实验评估表明我们的方法在自动评估和人工评估上优于其他可比方法。

    Jul, 2023