May, 2019
无限制置换强制外推:变量重要性需要至少一个更多的模型,或者不存在自由变量重要性
Unrestricted Permutation forces Extrapolation: Variable Importance Requires at least One More Model, or There Is No Free Variable Importance
Giles Hooker, Lucas Mentch, Siyu Zhou
TL;DR本文研究回顾并反对使用 Permuate-and-predict 方法来解释黑盒函数,特别是在特征之间存在强依赖性时,常用的变量重要性度量、局部依赖图和个体条件期望图具有误导性,我们提出了使用额外建模来替代这些指标的建议,并描述了如何在保持数据特征独立性的情况下测量模型性能变化。