树集成中的最优反事实解释
为了解决机器学习模型的可解释性问题,本研究提出了一种基于梯度优化和概率模型逼近的反事实解释方法,可以适用于不可微模型如树模型,并且该方法得出的反事实案例要优于其他针对树模型的反事实方法。
Nov, 2019
本文利用 RobX 策略生成树模型集合的鲁棒性反事实解释,并使用 Counterfactual Stability 度量方法评估这些解释的稳健性。结果表明,与现有的最先进的方法相比,我们的策略生成的反事实解释显著更加鲁棒和真实。
Jul, 2022
本篇论文提出了使用混合整数规划来进行反事实解释的新型搜索算法,在处理具有连续范围或离散状态集的复杂数据时,使用了一组新颖的约束条件,称为混合多面体,可以有效地找到连贯的反事实解释。同时,本文还探讨了多样性解释的问题,并展示了如何在我们的框架内生成多样性解释。
Jan, 2019
基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明,该方法能够生成具有吸引力的多种质量度量的可操作对策。
Mar, 2024
利用数学优化模型,通过集体反事实解释为给定组内各实例提供一个反事实解释,以使扰动实例的总成本在一定约束下最小化,从而检测对整个数据集都至关重要的特征,验证了该方法的实用性。
Oct, 2023
本文旨在在战略环境下寻找最优的政策和对策解释,包括 NP 难的问题,非降性和子模性,用标准贪心算法获得近似保证。最后,我们表明通过将拟阵约束加入问题的制定中,我们可以提高对策解释的最优集合的多样性,并激励整个人口谱上的个体自我改进。
Feb, 2020
本文提出一种简单且有效的方法,将寻找分类或回归森林的反事实解释所需的最优化问题限制在由实际数据点填充的森林定义的输入空间区域,并使用某个数据集上的某个距离的最近邻搜索来解决问题。这种解决方式有两个优点:能够快速找到解决方案,并且更有可能是现实的,因为它是引导向输入空间的高密度区域的。
Mar, 2023
本文提出一个新的概率模型,用于计算模型的多个对抗性解释。该模型可以共享群体分组的信息,并保留领域特定的约束条件,同时评估不确定性,并得出合理、稀疏、多样和可行的结果。
Jan, 2023
本文以分类树为基础模型,探讨了对于分类模型,如何通过微调特征使其对某个目标分类,进而提供可行的建议来推翻决策,并提供了解决方案,对金融、医疗或法律等领域具有重要意义。
Mar, 2021
该研究提出了一种基于形式验证的算法,使用逻辑公式表示距离函数(目标)和预测模型(约束),解决满足性问题生成最接近的反事实解释,能够生成可行的多样化反事实解释来满足 100% 的覆盖率。
May, 2019