Jun, 2019
解释可以被操纵,几何学应为罪魁祸首
Explanations can be manipulated and geometry is to blame
Ann-Kathrin Dombrowski, Maximilian Alber, Christopher J. Anders, Marcel Ackermann, Klaus-Robert Müller...
TL;DR在这篇论文中,我们研究了解释方法的隐患,表明在输入数据上的无用微扰可以任意操纵神经网络的解释结果,同时提出了增强解释鲁棒性的有效机制。