Feb, 2024

弱学习器解释的组合以提高随机森林的解释和鲁棒性

PDF
TL;DR通过组合弱学习者解释的鉴别平均值，可以提高集成方法中解释的鲁棒性。该方法利用后续的 SHAP 方法和随机森林集成进行实施和测试，并取得了成功的结果。通过定量测量获得的改进，并提供了一些关于集成方法中可解释性鲁棒性的见解。
robustnessxaiexplanationensemble methodsshap
发现论文，激发创造
  • 您能相信您的解释吗？特征归因方法的健壮性测试

    评估对非敌对扰动的稳健性并分析神经网络和表格数据集上应用的可解释 AI 方法的稳健性，展示如何利用流形假设和集成方法对稳健性进行深入分析。

    Jun, 2024

  • 机器学习模型中的统一解释：一种扰动方法

    面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

    May, 2024

  • 反事实解释器集成

    通过自编码器的包装方法，我们提出了一个包含多个可解释性对抗性分析器的集合，通过利用多样性导向的选择函数，将这些弱分析器的结果结合起来，从而实现了针对可解释性具有各种重要属性的强大方法。

    Aug, 2023

  • NLP 模型的解释方法稳健性

    本文研究了关于文本模态下解释方法的鲁棒性及针对文本解释方法的对抗攻击，结果表明，输入语句及其语义的微小改变可以在很大程度上扰乱解释方法，达到 86% 的成功率。

    Jun, 2022

  • 从鲁棒性到可解释性，再回到鲁棒性

    这篇论文提出了一种新的算法，通过回答一些鲁棒性问题来计算正式解释，从而消除了正式解释的可扩展性限制，并通过推理某些目标鲁棒度的术语来推广正式解释的定义。

    Jun, 2023

  • 学习算法与反事实解释生成算法之间的弱健壮兼容性

    通过引入 PAC 学习理论的概念，为弱稳健性建立了 Oracle 不等式，给出了 PAC 弱稳健逼近性的充分条件。

    May, 2024

  • NormEnsembleXAI: 揭示 XAI 集成技术的优势与劣势

    本文提供了一项对可解释人工智能（XAI）集成方法的综合比较分析。我们的研究做出了三个重要贡献：首先，我们引入了一种新的集成方法 NormEnsembleXAI，通过与正规化技术结合利用最小值、最大值和平均值函数来增强可解释性；其次，我们深入探讨了 XAI 集成方法的优点和局限性；最后，我们提供了一个库，方便实现 XAI 集成，从而促进透明和可解释的深度学习模型的采用。

    Jan, 2024

  • 稳健性分析解释的评估和方法

    本文提出一种基于鲁棒性分析的特征解释新的评估标准，通过针对我们提出的评估标准进行优化，获得了松散且必要的解释和可以将当前预测移动到目标类的特征集。我们通过多领域实验和用户研究验证了我们评估标准和解释的有用性。

    May, 2020

  • 深度神经网络的鲁棒解释

    本研究提出了一种理论框架和三种不同技术来提高对解释的稳健性。通过训练方法，激活函数的平滑以及网络 Hessian 的最小化，实现了对提高模型的抗干扰能力。实验结果证实了这些方法的有效性。

    Dec, 2020

  • SAFARI: 用于鲁棒性和可解释性的多功能高效评估

    本文提出两种黑盒评价方法来评估深度学习模型的可解释性的鲁棒性，使用 GA 和 SS 算法来解决实际中的机器学习难题，介绍了两种度量标准，成功地提高了准确性、敏感性和效率，并应用于 XAI 方法的排序和选择训练方案以提高分类和解释鲁棒性。

    Aug, 2022