整合先前知识的事后解释

Apr, 2022

Integrating Prior Knowledge in Post-hoc Explanations

Adulam Jeyasothy, Thibault Laugel, Marie-Jeanne Lesot, Christophe Marsala, Marcin Detyniecki

TL;DR本文提出了一种新的解释性方法框架，它在拟合先验知识与解释可解释性目标之间增加了兼容性项，并在反事实解释上实例化了提出的形式化方法，称为知识整合反事实解释（KICE）。

Abstract

In the field of explainable artificial intelligence (XAI), post-hoc interpretability methods aim at explaining to a user the predictions of a trained decision model. Integrating prior knowledge into such interpretability methods aims at improving the explanation understandability and a

explainable artificial intelligence post-hoc interpretability methods prior knowledge integration optimization problem counterfactual explanations

发现论文，激发创造

事后 XAI 方法中的可预测性与可理解性：用户中心分析

评估 LIME 和 SHAP 两种常用工具的用户可理解性和可预测性，发现 SHAP 对于接近模型决策边界的样本提供的解释可理解性显著降低。此外，发现反事实解释和错误分类可以显著增加用户对机器学习模型决策的理解。根据研究结果，提出为未来的事后解释方法提供增加可理解性和可预测性的设计建议。

Sep, 2023

消除不可能，剩下的必然是真实的

研究使用背景知识使得可解释的人工智能更简洁易懂，并使用现有的规则归纳技术从数据集中提取背景信息来做出预测并报告使用的背景信息，帮助人类检查解释的正确性。

Jun, 2022

神经网络自然语言处理的事后可解释性：一项综述

本文主要讨论了近期后续方法如何向人类传达模型解释的分类，深入讨论了每种方法及其验证过程。

Aug, 2021

解释性知识追踪调查

通过对可解释的知识追踪进行细致全面的分析，本文提供了人工智能和知识追踪领域的研究者一些基础和启发，旨在实现算法高准确性和用户对决策的可理解性、可靠性的提升。

Mar, 2024

即使解释：正式基础、优先级和复杂性

对于可解释人工智能的半事实即使思考的局部事后解释性查询进行了研究，比较了不同类别的模型的计算复杂度，发现线性模型和基于树的模型比神经网络更具可解释性。然后引入了一种基于偏好的框架，使用户能够根据其偏好进行个性化解释，无论是在半事实还是对事实进行优化，增强了可解释性和用户中心性。最后，探索了所提出的基于偏好的框架中几个可解释性问题的复杂性，并提供了多项式情况下的算法。

Jan, 2024

后验解释在对抗场景下无法达到其目的

本研究探讨了机器学习算法透明化的法律、哲学和技术方面，指出后评估阶段的解释算法在对抗情况下无法实现透明化目标，并呼吁更多关于透明化机制的讨论。

Jan, 2022

人类中心的可解释人工智能（XAI）的未来不在于事后解释

该论文呼吁从事人类中心的可解释人工智能研究，探究人类对于深度学习系统的理解和信任的关键作用，并提出设计可解释的神经网络体系结构的方案，以实现实时、准确、可操作、易于解释和一致的需求。

Jul, 2023

推进事后基于案例的解释与特征突出

提出了两种通用算法（潜在和超像素基础），可以从测试图像中分离出多个清晰的特征部分，并将其与训练数据中的解释性案例联系起来，通过精心设计的用户研究验证了其有效性，结果表明所提出的方法可以适当调整用户对 ImageNet 数据集中模糊分类的正确性感觉，而仅显示解释而不突出特征时无法实现该效果。

Nov, 2023

如何选择一个解释器？一个基于应用的后续解释评估

提出了一种名为 XAI Test 的应用基准评估方法，旨在评估不同水平的信息提供对最终决策的影响，针对现实世界的欺诈检测任务进行了实验，并使用多种统计方法分析了三种热门解释器的影响。

Jan, 2021

后因解释的危险性：不合理的反事实解释

通过研究局部邻域，探究人工构建的反事实解释是否为实际数据知识，发现存在较高风险，多数最前沿方法不能区分有解释性的反事实实例和不合理实例。

Jul, 2019