Mar, 2024

由一组解释器产生的反事实集合中选择解释的多标准方法

PDF
TL;DR基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明，该方法能够生成具有吸引力的多种质量度量的可操作对策。
发现论文，激发创造
  • 多目标反事实解释

    该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

    Apr, 2020

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 通过多样性促进反事实鲁棒性

    通过报告多个反事实，可以提供一些有意义的鲁棒性保证，这篇论文提出了一种近似算法来选择最相关的解释，并在实验中证明了其在生成鲁棒性解释方面的改进。

    Dec, 2023

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 通过不同的反事实解释解释机器学习分类器

    本文提出了一种基于决定点过程的生成和评估多样性反事实解释的框架，旨在优化反事实行为的可行性和多样性，并提供了可比较的度量标准来评估反事实方法。通过实验，验证了该框架能生成多样性的反事实，并且能有效地近似本地决策边界。

    May, 2019

  • 针对预测多样性的反事实解释

    本文研究了如何以更低的成本生成对于多个分类器表现相等情况下对于分类结果的对抗讲解，在理论和实证研究中，对于解释成本与解释鲁棒性进行了概念的阐述，发现基于数据支持的方法相较于仅仅基于稀疏方法更加鲁棒，但是它们在成本方面会有所提高。因此，缘由推荐为稀疏方法在多分类器表现差异大的情况下不宜一概而论。

    Jun, 2020

  • 一种高效的多实例反事实解释的两阶段算法

    该研究论文提出了一个灵活的两阶段算法，用于找到实例组以及具有成本效益的多实例反事实解释方法，以解决在黑盒系统中找到满足多个实例的单一反事实的问题。

    Mar, 2024

  • 反事实编辑器的反事实分析：一种基于回译的方法

    通过提出一个新的反向翻译的评估方法，我们针对自然语言处理模型和任务的解释方法的一致性问题进行了调查和分析，并提出了一种新的测量指标来评估不同特征的反事实生成方法的一致性。

    May, 2023

  • 贝叶斯分层模型用于反事实估计

    本文提出一个新的概率模型，用于计算模型的多个对抗性解释。该模型可以共享群体分组的信息，并保留领域特定的约束条件，同时评估不确定性，并得出合理、稀疏、多样和可行的结果。

    Jan, 2023

  • GLANCE: 全球行动简述的反事实可解释性

    提供全局反事实解释问题的简洁表述并建立了比较解决方案的原则标准，使用聚类和决策树作为关键组件的创新算法解决全局反事实问题，并通过与其他方法的综合实验评估验证了算法的能力。

    May, 2024