May, 2024
超越黑盒子：更复杂的模型是否提供更优秀的可解释性 AI 解释？
Beyond the Black Box: Do More Complex Models Provide Superior XAI Explanations?
Mateusz Cedro, Marcin Chlebus
TL;DR人工智能模型的不断复杂化对解释能力构成挑战，特别是在医疗领域。本研究使用四种 ResNet 架构（ResNet-18、34、50、101）对 4,369 张肺部 X 光影像进行了方法性实验，评估了模型的分类性能以及与地面真实疾病掩模相关的可解释人工智能（XAI）解释的相关性。结果表明，模型复杂性的增加与分类准确性和 AUC-ROC 分数的降低相关（ResNet-18：98.4％，0.997；ResNet-101：95.9％，0.988）。值得注意的是，在进行的十二项统计测试中，对于经过训练的模型，XAI 定量指标 - 相关性排序准确度和提出的正向归因比率 - 之间没有发生统计学上显著差异。这些结果表明，模型复杂性的增加并不一定导致性能更高或者解释对模型决策过程的相关性更强。