一个解释并不能适用于所有情况：交互式解释对于机器学习透明度的承诺

Jan, 2020

一个解释并不能适用于所有情况：交互式解释对于机器学习透明度的承诺

One Explanation Does Not Fit All: The Promise of Interactive Explanations for Machine Learning Transparency

Kacper Sokol, Peter Flach

TL;DR通过交互式机器学习，将对比解释应用于黑盒机器学习系统，个性化调整其条件语句并通过提问 “What if？” 的方式提取更多解释，从而提高系统的透明度。

Abstract

The need for transparency of predictive systems based on machine learning algorithms arises as a consequence of their ever-increasing proliferation in the industry. Whenever black-box algorithmic predictions infl

transparency machine learning interpretability explanation interactive

发现论文，激发创造

机器学习透明性的什么和怎样：使用可互操作算法组件构建定制可解释性工具

介绍了通过解释性表现组合、数据采样和解释生成构建和评估定制模块化替代解释器的过程的手册，以帮助了解人工智能和机器学习算法的可解释性技术。

Sep, 2022

AI 解释的解释

该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

Nov, 2018

对解释的人类可解释性评估

研究探讨了通过对模拟响应、验证建议响应、确定建议响应的正确性并观察其输入变化等三项特定任务，来解释可解释的 AI 的互动可能。结果表明，特定的正则化可以用于优化可解释性，而一些共同点和设计原则也可能存在于解释的系统之间。我们的结果表明，认知块比变量重复更影响表现，并且这些趋势在任务和领域中保持一致。

Jan, 2019

可解释人工智能在数据驱动系统中的隐私影响

机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。

Jun, 2024

重新审视可解释性：从实践者的角度看对话式解释

研究如何让领域专家能够有效地与机器学习模型进行互动和问责，通过自然语言对话的形式提供交互式的解释。

Feb, 2022

解释解释：机器学习的可解释性概述

有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

May, 2018

机器学习中的可解释性：与解释性、预测性能和模型的相互作用

最近，解释性已经引起了机器学习领域的关注，因为在关键决策或故障排除时至关重要。本文阐述了解释性的关系，即与机器学习中的重要概念（如可解释性，预测性能和机器学习模型）的关系，以澄清对解释性存在的一些误解。