Oct, 2023

解释决策树的符号语言

PDF
TL;DR我们的研究提出了解释决策树的符号化语言 ExplainDT，它基于我们称之为 StratiFOILed 的一阶逻辑构建的精心构造的片段。StratiFOILed 在表达能力和评估复杂度上保持平衡，能够计算许多事后解释，包括局部解释（例如归纳和对比解释）和全局解释（例如特征相关性），同时仍处于布尔 NP 层次结构之上。此外，StratiFOILed 查询可以写成 NP 问题的布尔组合，因此我们可以通过调用一次 SAT 求解器对其进行实际评估。在理论方面，我们的主要贡献是对 StratiFOILed 的表达能力和评估复杂度进行深入分析；在实践方面，我们提供了一种对 StratiFOILed 查询进行编码的优化实现，并对其效率进行了实验研究。
formal explainable aidecision treesinterpretability languagesexplaindtstratifoiled
发现论文，激发创造
  • 符号语言基础：模型解释性

    本研究基于 FOIL 逻辑构建了声明式语言用于自然特定不同解释性查询，并且研究了 FOIL 查询的计算复杂度，为解释可解释的 ML 模型提供了可行的路径。

    Oct, 2021

  • 解释决策树

    该研究提出了一种计算 DT 的极小解释集 PI-explanations 的新模型，该模型可在多项式时间内计算一个 PI-explanation，并将枚举 PI-explanations 减少到枚举最小击中集的数量。实验结果表明，在大多数情况下，DT 的路径是 PI-explanations 的子集。

    Oct, 2020

  • 处理决策树中的解释冗余问题

    本文证明了决策树并不总是能够提供简明易懂的解释，因为存在着解释冗余的路径。文章提出了一种理论严谨的路径解释方法，并提供了多项实验结果来支持这一结论。文章还提出了一种消除路径解释冗余的算法，可以实现简约而不失理解性的解释。

    May, 2022

  • 决策树的证明精确、简洁和高效解释

    本篇论文研究用于决策树的最小的 delta 相关集的计算方法，提出两种用于计算决策树最小的 delta 相关集的逻辑编码并设计一个多项式时间复杂度的算法，并且实验结果表明这些计算方法是实用的。

    May, 2022

  • 计算决策树概率解释

    论文解决了决策树上计算 δ 足够原因的计算复杂度，发现在包含方式和大小方面都不具有多项式时间算法，但在确定性情况下具有易于计算的特点。

    Jun, 2022

  • 使用局部对比树的对比解释

    通过利用人们提出 “为什么这个输出（事实），而不是那个输出（替代品）？” 这个问题的倾向，使用本方法利用局部训练的决策树来识别导致树将数据点分类为替代品而不是事实的不相交规则集，从而减少要素数量。

    Jun, 2018

  • 一种可解释的神经符号推理框架，用于任务导向的对话生成

    本文旨在研究任务驱动对话系统的可解释性，提出了一种采用前后明确逻辑推理的神经符号学方法，并设计了一种由假设生成器和推理器构成的两阶段方法来克服多跳推理带来的错误传播问题，实验结果证明该方法不仅获得了更好的效果，而且具有可解释性决策过程。

    Mar, 2022

  • 运用表达性布尔公式的可解释人工智能

    本研究提出并实现了一种基于表达式布尔公式的可解释人工智能分类模型，适用于信用评分和医学诊断等领域，该分类器使用原生本地优化技术进行训练。

    Jun, 2023

  • 模糊概率决策树辅助临床实践

    本文提出了一种基于概率树和模糊逻辑的全面可解释的诊断辅助方法 FPT (MedFP)，并将其作为一个概念验证应用于甲状腺结节分型和慢性肾脏疾病进展风险预测中，在提供较少错诊的同时提供意外事件及诊断不确定性的判断。实验结果表明，使用模糊变量的概率模型可以提供更多细节，并且 FPT 和其预测在医疗实践中具有直观的辅助作用，并配备专门为此目的设计的用户界面。

    Apr, 2023

  • 布朗运算分类器的计算智能性

    本文研究了布尔分类器的计算可懂性，证明了在解释查询和验证查询方面，决策树与其他分类器存在明显的可懂性差距。

    Apr, 2021