Oct, 2022

情感分析解释的可信度和真实度评估

PDF
TL;DR本文介绍了一种评估模型可解释性的方法，特别是在 NLP 领域中，提出了不同的评估指标和技巧来评估 SA 模型的可解释性。该方法被证明是可行的，同时发现了各种评估方法之间的差异，为设计更易于解释的 NLP 模型和评估其相对优势和鲁棒性提供了基础。
explainable ainlpevaluation metricsrationalestransformers
发现论文，激发创造
  • 定量评估显著性方法：实验研究

    本文基于对解释人工智能（XAI）的准确定义和公正衡量标准缺失的讨论，提出了一种广泛的实验研究，重点关注解释方法的忠实度、本地化、假阳性、敏感度检查和稳定性。实验结果表明，在当前所有方法中，梯度加权类激活映射（Grad-CAM）和随机输入抽样解释（RISE）在大多数指标上表现良好。另外，本文还提出了一种筛选指标的方法，以诊断模型分类基础，并探讨了当前指标所忽略的测量因素。

    Dec, 2020

  • 可解释性方法评估的实验研究

    本文比较了 14 个不同的评估指标在 9 种最先进的 XAI 方法和 3 种用作参考的虚拟方法（如随机显著性图）上的应用结果，结果表明其中一些指标会产生高度相关的结果，还展示了基准超参数变化对评估指标值的显著影响，最后使用虚拟方法评估指标的可靠性及其排名方面的限制。

    May, 2023

  • 解析 AI 归因方法的精确基准测试

    我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

    Aug, 2023

  • 关于 AI 解决方案的可解释性：跨领域调查

    该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

    Oct, 2022

  • 从个人经验到量化评估方法：评估可解释 AI 的系统综述

    文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了 12 个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量 XAI 评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的 XAI 方法。

    Jan, 2022

  • 您能相信您的解释吗？特征归因方法的健壮性测试

    评估对非敌对扰动的稳健性并分析神经网络和表格数据集上应用的可解释 AI 方法的稳健性，展示如何利用流形假设和集成方法对稳健性进行深入分析。

    Jun, 2024

  • 挑战功能归因解释中的常见可解释性假设

    通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

    Dec, 2020

  • 探索使用人类理由的文本分类器的模型性能和解释可信度之间的权衡

    我们提出了一种方法，将人类决策的解释性文本注释引入文本分类模型，从而提高模型解释的可信度，并通过多目标优化算法在性能和可信度之间达到平衡，从而显著提高模型解释的质量。

    Apr, 2024

  • 基于知识的自我合理化：通过抽取和自然语言解释

    介绍了一种自我合理化的框架 RExC，旨在提供两种互补类型的解释（NLE 和提取合理），并将其与背景知识结合起来，从而达到了任务最新水平的性能，并大幅度领先于现有模型，同时进行干扰分析表明，解释与预测之间存在高度的关联性。

    Jun, 2021

  • 用于评估 XAI 方法的数据代表真实解释

    本文介绍了使用规范方程代表解释的方法，以解决可解释的人工智能和可解释的机器学习方法面临的挑战，并提出使用合成数据来评估模型准确性的方法。

    Nov, 2020