Feb, 2024
通过黑盒概率认证的解释的可信区域
Trust Regions for Explanations via Black-Box Probabilistic Certification
Amit Dhurandhar, Swagatam Haldar, Dennis Wei, Karthikeyan Natesan Ramamurthy
TL;DR在这篇论文中，我们介绍了一个名为黑盒（概率）解释认证的新问题。我们通过给出一个黑盒模型、一个示例的解释以及一个质量度量（如逼真度和稳定性），问能否找到一个最大的超立方体（即以该示例为中心的 L∞球），使得当解释应用于超立方体内的所有示例时，能够以很高的概率满足质量准则（如逼真度大于某个值）。我们的贡献包括形式化这个问题、提出解决方案、提供可计算的这些解决方案的理论保证，并在合成和真实数据上进行实验以证明它们的有效性。