EMNLPNov, 2022

将逻辑解释网络扩展到文本分类

PDF
TL;DR该研究提出了一种名为 LENp 的模型，通过扰动输入单词来改进文本分类中的本地解释，其提供的逻辑解释在灵敏度和忠实度方面比 LIME 更好，并且在人员调查中被证明逻辑解释比 LIME 提供的特征评分更有用和用户友好。
logic explained networkslenpexplainable-by-designtext classificationlocal explanations
发现论文，激发创造
  • 可解释的恶意软件检测：基于定制化逻辑的解释网络

    使用 Logic Explained Networks (LENs) 方法在复杂领域的恶意软件检测中，提供了解释模型决策的 First-Order Logic (FOL) 规则，并在实验结果中展示了其与传统可解释方法和黑盒模型相媲美的鲁棒性。

    May, 2024

  • 基于熵的神经网络逻辑解释

    该论文提出了一种基于熵的标准及一种新的端到端可微分的方法，用于从概念神经网络中提取逻辑解释，该方法使用一阶逻辑的形式化定义，并考虑了四个案例研究来证明这种熵基准能够从临床数据到计算机视觉中，在安全关键领域中提取简洁的逻辑解释。

    Jun, 2021

  • MaNtLE：无需模型的自然语言解释器

    本文介绍了 MaNtLE，一个模型无关的自然语言解释器，在结构化分类任务中分析多个分类器预测，并生成忠实的自然语言解释器，模拟的用户研究表明，MaNtLE 生成的解释器平均比 LIME 和 Anchors 解释器忠实度高至少 11％。

    May, 2023

  • 针对 NLP 模型的最优健壮性解释保证

    本文提出了基于绑架式解释的机器学习方法，为自然语言处理中的神经网络模型计算局部解释。根据用户定义的代价函数，例如解释长度，优化词汇子集以满足两个主要特征。同时在嵌入空间中确保预测不变性，该方法通过内隐命中集和最大通用子集两种解法得出结果，并可以配置不同的扰动集来检测预测结果的偏见，提高 NLP 解释框架的效果。最后，文章在 SST、Twitter 和 IMDB 数据集上对三种常用情感分析任务进行了评估，并展示了该框架的有效性。

    May, 2021

  • LIREx：使用相关解释增强语言推理

    本文提出了一种新的框架 LIREx，该框架包含一个基于原因的解释生成器和一个实例选择器，用于选择只与 NLI 模型相关的合理 NLEs。该框架在 SNLI 数据集上达到了 91.87％的准确度，并在多领域数据集上实现了显著提高的性能。

    Dec, 2020

  • 通过迭代符号细化增强大型语言模型的伦理解释

    本研究探讨如何利用混合神经符号技术来增强大型语言模型在伦理自然语言推理中的逻辑有效性和一致性，通过整合外部的向后求解器，改进逐步自然语言解释的过程，验证解释的正确性，减少不完整性和冗余性，并生成支持模型推理的形式证明，从而提高在多步伦理自然语言推理任务中解释的质量。

    Feb, 2024

  • 上下文解释网络

    提出使用 CEN（contextual explanation networks）架构进行预测，生成中间简化的概率模型作为解释，为每个预测生成有效的、实例特定的解释，并可用于决策支持。CEN 架构不仅和现有的最先进方法相竞争，且在决策支持方面提供了有价值的额外细节。

    May, 2017

  • LioNets: 通过次最终层解码对神经网络进行本地解释

    通过考虑神经网络的架构，在局部范围内主动构建实例邻域的过程中，提供用于神经网络决策的解释的方法。

    Jun, 2019

  • 神经逻辑归纳学习：高效解释技能的学习

    本研究提出了一种名为 “神经逻辑归纳学习” 的可微分归纳逻辑编程框架，通过学习可以解释数据模式的一阶逻辑规则，与现有的方法相比，具有更高的效率和可扩展性。

    Oct, 2019

  • 通过学习的概念逻辑组合来实现 GNN 的全球可解释性

    GLGExplainer 是一种全局解释器，它能够生成作为图形概念逻辑公式的本地解释的任意布尔组合，从而提供准确和人类可解释的全局解释，这使得 GLGExplainer 成为有前途的用于学习 GNN 的诊断工具。

    Oct, 2022