Apr, 2024

统计与可解释性：一个有成效的联盟

PDF
TL;DR本研究提出使用标准统计工具来解决说明性文献中普遍存在的问题，通过利用统计估计器来定义解释，从而实现理论保证和评估指标的制定，以定量评估解释的质量。此方法避免了目前文献中普遍存在的主观人为评估。此外，我们认为不确定性量化对于提供稳健可信的解释至关重要，并且可以通过诸如自助法等经典统计方法在这个框架中实现。然而，需要注意的是，虽然统计学提供了宝贵的贡献，但它并不能解决所有问题。未来的研究方向可以聚焦于一些开放性问题，如为解释定义目的或建立适用于对策或对抗场景的统计框架。
explainability literaturestatistical toolsevaluation metricsuncertainty quantificationopen problems
发现论文，激发创造
  • 无解释的统计学：理性看待可解释的机器学习

    解释算法通常存在解释复杂但不明确的问题，相关研究应明确输出解释解释算法应如何解读，以及可以回答哪些问题和不能回答哪些问题，建立统计和解释之间的区别。

    Feb, 2024

  • 概念解释估计应该具备不确定性意识

    用可理解的人类概念来解释模型的全局解释的不稳定性问题以及提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。

    Dec, 2023

  • 数学优化中数据驱动的可解释性框架

    通过引入解方案的可解释性作为另一个评估标准，我们可以在目标值和可解释性之间找到权衡解决方案，从而提高数学规划在实践中的易用性。

    Aug, 2023

  • 可靠的事后解释：解释性中的不确定性建模

    本文提出了基于贝叶斯框架的黑盒模型解释方法，能够生成可靠的局部解释和其关联的不确定性，并且具有稳定性和高度一致性，可以快速地解决几个重要问题。通过实证研究，证明了该方法的有效性，并提高了解释的可靠性。

    Aug, 2020

  • 可解释性的代价

    本文提出一个基于数学框架的方法，构建以逐步可解释的模型。我们演示了应用于实际和合成数据集的实用算法，并定量化了 “可解释性” 的 “价格” 与预测准确性的权衡。

    Jul, 2019

  • 事后反事实解释的问题：一次讨论

    本文探讨了后设反事实解释方法对数据和分类器的基本假设导致其在很多情况下的不可靠性，并提出了近似性、连通性和稳定性三种量化方法和途径。另外，本文还证明了后设反事实方法不满足这些属性的风险。

    Jun, 2019

  • 可解释性作为统计推论

    通过统计推断方法构建了一种概率模型，通过学习模型参数和使用神经网络选择器来实现解释性预测，并利用新数据集进行了实验验证，证明了使用多重插补提供了更合理的解释。

    Dec, 2022

  • 评估解释的统一框架

    评估可解释性模型的统一框架是该论文的重点，它介绍了各个研究群体对解释性评估的重叠和语义错位，并提出了解释的可行性和可理解性的评估标准，以及基于可解释神经网络的学习行为预测的案例。

    May, 2024

  • 有关模型可解释性的定量方面

    本文针对机器学习中可解释性的问题进行了研究，提出了一组度量用于评估不同的可解释性方法，进而解决了目前仅仅依靠定性分析和用户研究来评估不同解释性方法的缺陷。在实验中，通过对不同的基准任务进行验证，并展示如何使用这些度量指导实践者选择最合适的方法，进一步阐述了基准任务、特征提取器和解释性方法之间的概念关系。

    Jul, 2020

  • 解释性之路的通行需面对偏见：衡量解释的公平性

    本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

    May, 2022