Lorenzo Cascioli, Laurens Devos, Ondřej Kuželka, Jesse Davis
TL;DR构建树集成模型中对抗样本的计算挑战和特征扰动的快速识别方法。
Abstract
tree ensembles are one of the most widely used model classes. However, these
models are susceptible to adversarial examples, i.e., slightly perturbed
examples that elicit a misprediction. There has been significa
本研究提出针对树集合算法的两种新型分类器干扰算法，第一种算法使用 Mixed Integer Linear Program 求解器寻找在一定约束条件下的最优干扰实例，第二种算法通过基于符号预测的快速有限差分方法在速度和准确性之间进行权衡。在数字识别任务中，该研究证明了提升树和随机森林算法极易受到干扰，并通过增加干扰实例的训练集来提高提升树的鲁棒性，不会对其分类准确性造成影响。