Despite its success and popularity, machine learning is now recognized as
vulnerable to evasion attacks, i.e., carefully crafted perturbations of test
inputs designed to force prediction errors. In this paper we
本研究提出针对树集合算法的两种新型分类器干扰算法，第一种算法使用 Mixed Integer Linear Program 求解器寻找在一定约束条件下的最优干扰实例，第二种算法通过基于符号预测的快速有限差分方法在速度和准确性之间进行权衡。在数字识别任务中，该研究证明了提升树和随机森林算法极易受到干扰，并通过增加干扰实例的训练集来提高提升树的鲁棒性，不会对其分类准确性造成影响。