Oct, 2023
组特征的准确归因：部分总和模型
Sum-of-Parts Models: Faithful Attributions for Groups of Features
Weiqiu You, Helen Qu, Marco Gatti, Bhuvnesh Jain, Eric Wong
TL;DR通过解释机器学习模型的决策过程来提供准确反映的解释被认为是 “忠实的”。本研究开发了一种名为 SOP 的模型类，其预测结果附带了忠实的分组特征归因。该模型将预测分解为可解释的得分总和，其中每个得分直接归因于一组稀疏特征。我们通过标准解释性度量和一个案例研究对 SOP 进行评估，并使用 SOP 提供的忠实解释帮助天体物理学家发现有关星系形成的新知识。