Jun, 2024

通过自动化和模型无关的规则提取实现区域可解释性

PDF
TL;DR在可解释人工智能（Explainable AI）中，我们提出了一种模型无关的方法，用于从特定的数据子组中提取规则。该方法通过自动生成数字特征规则，增强了机器学习模型的区域可解释性，并在高维空间中降低了计算成本。在各种数据集和模型的实验中，我们的方法表现出了很好的效果。
explainable airule extractionimbalanced datamodel-agnostic approachregional explainability
发现论文，激发创造
  • MAGIX: 模型无关的全局可解释解释

    该研究提出一种通过学习 if-then 规则来全局解释黑盒机器学习模型行为的方法，并通过公开数据集和数字营销数据集的黑盒模型进行实证验证。

    Jun, 2017

  • 基于布尔规则解释的用户驱动模型调整

    本文提出了一种交互式叠加方法，该方法利用机器学习模型的预测能力，同时允许用户指定决策边界的修改，从而实现在不需要重新训练模型的情况下对决策系统进行实时修改，并展示了用户反馈规则可以与机器学习预测结合以支持更少数据的学习。

    Mar, 2022

  • 学习分类器系统中的规则发现和全局解决方案组合分离

    本文针对数字代理支持关键决策的应用难以获得信任这一难题，提出了基于规则学习的系统并设计透明易懂的模型，其中规则条件和问题解决方案的组成是分开演化的，允许用户特别定制模型以适应可解释性的要求。

    Feb, 2022

  • 构建医学领域可解释的 AI 系统需要什么？

    本篇论文介绍了医学领域中解释性人工智能的研究，强调让人们能够透明地理解和信任 AI/ML 技术的重要性，主要关注于图像、* 组学数据和文本三个方面。

    Dec, 2017

  • 模型提取实现可解释性

    这篇论文提出一种名为模型抽取的方法，通过构建一个可解释程度更高的模型来近似黑箱模型，从而理解和调试机器学习模型在各种数据集上训练的结果，并在经典强化学习问题中学习控制策略。

    Jun, 2017

  • 对文本数据进行特征重要性和规则提取的可解释性比较

    本文研究机器学习算法中普遍存在的可解释性方法，通过不同的解释方法应用到简单的模型中，发现不同之处并提出一种新的方法来比较不同解释间的差异。

    Jul, 2022

  • 本地通用基于规则的解释

    本研究提出了一种基于规则的 Local Universal Explainer（LUX）模型，可以生成事实、反事实和视觉解释，通过修改决策树算法实现倾斜分割和与 SHAP 或 LIME 等特征重要性 XAI 方法的集成。该方法通过选择对解释模型的决策边界形成具有最高影响力的真实数据的高密度聚类的局部概念，而不使用数据生成，测试表明它在简单性、全局保真度和代表性等方面优于当前现有的 LORE、EXPLAN 和 Anchor 等基于规则的解释方法。

    Oct, 2023

  • 从数据中学习不变的规则，用于可解释的异常检测

    该论文提出了一种利用机器学习和数据挖掘技术自动学习不变规则的新框架，可以提供明确的异常检测结果解释并在实际应用决策中发挥重要作用。实验评估表明，该方法在多个应用领域的公共基准数据集上的性能优于先前的异常检测模型。

    Nov, 2022

  • ESC-Rules：可解释的、语义约束的规则集

    本文提出了一种基于学习模糊加权规则的可解释连续变量预测新方法，采用符号和非符号混合方法和领域知识约束来实现透明可解释性，并在预测吸烟戒断行为干预结果研究中展示出比其他可解释方法更好的性能。

    Aug, 2022

  • 通过决策规则进行模型比较的动态可解释性

    提出了一种模型无关方法 DeltaXplainer，用于生成基于规则的解释，描述二进制分类器之间的差异，以实现对机器学习模型的理解和选择。通过在合成和真实数据集上进行实验，涵盖不同类型的概念漂移，验证了 DeltaXplainer 的有效性。

    Sep, 2023