Nov, 2023

正式证明作为结构化解释：关于可解释自然语言推理提出的若干任务

PDF
TL;DR我们提出利用形式证明来推进几个可解释的自然语言推理（NLI）任务的方法，并利用可靠和高性能的基于逻辑的 NLI 系统生成形式证明。通过利用生成的形式证明中的深度信息，我们展示了如何使用它来定义具有结构化解释的 NLI 任务。所提出的任务可以根据解释的粒度难度进行排序，并且我们认为这些任务在许多方面都比现有的可解释 NLI 任务（或数据集）具有更少缺陷。
formal proofsexplainable natural language inferencelogic-based nli systemstructured explanationsexisting explainable nli tasks
发现论文，激发创造
  • 通过 LLM - 符号定理证明验证和改进自然语言解释

    通过将大型语言模型（LLMs）与定理证明器（TPs）相结合，本文研究了自然语言解释的验证和改进，提出了一个名为 Explanation-Refiner 的神经符号框架，用于生成和形式化解释句子，并为自然语言推理（NLI）提供潜在的推理策略。同时，定理证明器用于提供解释逻辑有效性的形式保证，并针对改进提供反馈。展示了如何共同使用 Explanation-Refiner 来评估最先进的 LLMs 的解释推理、自动形式化和错误纠正机制，以及自动提高不同领域中复杂性不同的人工注释解释的质量。

    May, 2024

  • e-SNLI: 自然语言推理和自然语言解释

    通过扩展自然语言推理数据集并引入人工提供的自然语言解释，我们实现了能够学习人类提供解释的机器学习模型，并将其用于提高模型性能和确定其可靠性的研究。

    Dec, 2018

  • 自动事实验证解释评估框架的探索

    深度神经模型在自然语言处理中变得越来越复杂且难以解释，因此解释它们的必要性也越来越大。本文提出了一个正式框架来支持对解释的系统评估，并提供了适用于不同结构的解释的示例，重点是自动事实验证任务。

    Mar, 2024

  • 自然证明：自然语言数学定理证明

    NaturalProofs 是一个使用自然数学语言编写数学命题和证明的多域语料库，可用于评估系统在数学参考检索和生成任务中确定证明中出现的关键结果的能力，并提供了许多研究理解和创建自然数学语言的挑战性数学任务的新途径。

    Mar, 2021

  • 通过迭代符号细化增强大型语言模型的伦理解释

    本研究探讨如何利用混合神经符号技术来增强大型语言模型在伦理自然语言推理中的逻辑有效性和一致性，通过整合外部的向后求解器，改进逐步自然语言解释的过程，验证解释的正确性，减少不完整性和冗余性，并生成支持模型推理的形式证明，从而提高在多步伦理自然语言推理任务中解释的质量。

    Feb, 2024

  • 利用多任务预训练技术，提升基础自然语言解释能力

    通过应用大规模多任务生成 Transformer 模型的最新进展，我们提出了一种新的 VL-NLE 方法，其提供人类更容易理解的解释，并优于当前技术水平。同时，我们还探讨了高质量 NLE 生成的伦理影响和其他最近 VL-NLE 研究中存在的问题。

    Dec, 2022

  • 基于跨度级别预测的逻辑推理，实现可解释且鲁棒的自然语言推理模型

    通过引入基于逻辑推理的框架，创造出基于逻辑规则的非常透明的模型决策，从而提高自然语言推理模型的可解释性和鲁棒性，并在减少数据的情况下更进一步地改善了模型性能和鲁棒性。

    May, 2022

  • 科学解释与自然语言：用于可解释人工智能的统一认识论 - 语言学视角

    通过系统分析自然语言解释、结合归纳和演绎论证、和哲学科学中的科学解释现代观念，探讨可解释 AI（XAI）中的可解释性，并揭示自然语言解释的本质，功能，抽象维度和科学解释的含义。

    May, 2022

  • 使用生成的事实作为原子的自然语言推理的逻辑推理

    本研究提出了一种模型无关的逻辑框架，以确定每个输入中负责每个模型决策的特定信息并生成可解释的自然语言推理模型，其性能优于当前最先进的神经模型，适用于高度挑战性的 ANLI 数据集。

    May, 2023

  • 自然语言推理的标记级别解释生成

    本文提出一种使用简单 LSTM 架构的零样本句子对标记来生成自然语言推理的 token 级解释的方法，并使用 SNLI 数据集进行了实验，与黑盒方法相比，白盒方法的匹配精度较低。

    Apr, 2019