一种高效的多实例反事实解释的两阶段算法
本研究提出了一种新颖的 “群组反事实” 算法,用于以集体方式解释类似实例的群体,通过控制的用户研究发现,相较于传统方式,此算法可以在一定程度上提高人们对人工智能系统的理解,可能对反事实方法和可解释性人工智能产生重要影响。
Mar, 2023
利用数学优化模型,通过集体反事实解释为给定组内各实例提供一个反事实解释,以使扰动实例的总成本在一定约束下最小化,从而检测对整个数据集都至关重要的特征,验证了该方法的实用性。
Oct, 2023
基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明,该方法能够生成具有吸引力的多种质量度量的可操作对策。
Mar, 2024
该研究提出了一种多目标反事实解释方法(MOC),将反事实搜索转化为多目标优化问题,通过对特征空间的多样性维护,返回一组不同权衡的反事实,并在实际案例中展示了 MOC 的有用性和与现有方法的对比。
Apr, 2020
机器学习模型日益广泛应用,因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法,并提出了文献中尚未考虑的模型方法。
Nov, 2019
提供全局反事实解释问题的简洁表述并建立了比较解决方案的原则标准,使用聚类和决策树作为关键组件的创新算法解决全局反事实问题,并通过与其他方法的综合实验评估验证了算法的能力。
May, 2024
在本文中,我们考虑了一组实例的生成对照解释的问题,其中采用一对多分配规则,其中一种解释被分配给实例的一个子组。我们首次解决了最小化解释所需数量的问题,同时考虑了稀疏性,通过限制每个解释中允许同时更改的特征数量。我们开发了一种新颖的列生成框架来高效搜索解释。我们的框架可以应用于任何黑盒分类器,如神经网络。与从文献简单地融合整数规划公式的简单适应相比,列生成框架在可扩展性、计算性能和解决方案质量方面优越。
Feb, 2024
该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架,可适用于不同模态的数据,并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。
Jan, 2021