Nov, 2023

自然度模式形成的解释和评估框架：自信自然度解释

PDF
TL;DR本研究提出了一种名为 “自信自然性解释（CNE）框架” 的新型框架，结合了可解释的机器学习和不确定性量化来评估和解释自然性。通过引入一种新的定量指标来描述模式对自然性概念的自信贡献，并为每个输入样本生成了一个不确定性感知的分割蒙版，突出了模型缺乏知识的区域，并通过两个开源卫星数据集在芬诺斯卡地区的研究站点进行了验证。
protected natural areasmachine learningexplainable machine learninguncertainty quantificationnaturalness
发现论文，激发创造
  • 上下文解释网络

    提出使用 CEN（contextual explanation networks）架构进行预测，生成中间简化的概率模型作为解释，为每个预测生成有效的、实例特定的解释，并可用于决策支持。CEN 架构不仅和现有的最先进方法相竞争，且在决策支持方面提供了有价值的额外细节。

    May, 2017

  • 少即是多：发现简明网络解释

    提出一种新的方法，通过生成人可理解的视觉解释来增强深度神经图像分类器的可解释性，并且该方法通过同时优化三个标准：解释应该少、多样化和可理解，以自动找出区分类别的关键视觉解释。

    May, 2024

  • 基于知识的自我合理化：通过抽取和自然语言解释

    介绍了一种自我合理化的框架 RExC，旨在提供两种互补类型的解释（NLE 和提取合理），并将其与背景知识结合起来，从而达到了任务最新水平的性能，并大幅度领先于现有模型，同时进行干扰分析表明，解释与预测之间存在高度的关联性。

    Jun, 2021

  • 基于熵的神经网络逻辑解释

    该论文提出了一种基于熵的标准及一种新的端到端可微分的方法，用于从概念神经网络中提取逻辑解释，该方法使用一阶逻辑的形式化定义，并考虑了四个案例研究来证明这种熵基准能够从临床数据到计算机视觉中，在安全关键领域中提取简洁的逻辑解释。

    Jun, 2021

  • 结构化数据的模型无关对比解释

    提出了一种模型无关对比解释方法（MACEM），旨在对任何分类模型生成对比解释，该方法处理实际和分类特征，提出了计算相应正例和反例的新方法，并通过 5 个公共数据集的定量和定性验证来证明该方法的有效性。

    May, 2019

  • S3C: 基于自严格学习的半监督 VQA 自然语言解释

    通过自评奖励来改善回答和理由之间的逻辑一致性，我们提出了一种新的基于自举学习的半监督 VQA 自然语言解释模型 (S3C)，克服了 VQA 自然语言解释过程中逻辑不一致性和人工标注解释困难的挑战，获得了最新的最优表现。

    Sep, 2023

  • 利用解释作为潜在变量实现可解释的自然语言理解

    本文提出了一种可解释自然语言理解的框架，使用一小部分人类注释的解释进行训练，并采用变分 EM 方法进行优化，同时提出了基于解释的自训练方法，在两个自然语言理解任务上进行实验，证明了该框架不仅可以在监督和半监督设置下进行有效的预测，还可以生成良好的自然语言解释。

    Oct, 2020

  • 面向可解释性自然语言处理：文本分类的生成式解释框架

    本文提出了一个新的生成式解释框架，学习同时进行分类决策和生成细粒度解释，实验证明该方法可以生成简明的解释，超过所有基线系统。

    Nov, 2018

  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024

  • 探索关系抽取中的自动扰动自然语言解释

    本文研究了自然语言解释在提高模型的泛化能力和数据效率方面的有效性，并发现即使是完全被破坏的解释，也仍有助于提供额外的上下文空间，从而取得与标注解释相当的结果，但计算效率显著提高了 20-30 倍。

    May, 2023