树集成分类器的躲避和加固

ICMLSep, 2015

Evasion and Hardening of Tree Ensemble Classifiers

Alex Kantchelian, J. D. Tygar, Anthony D. Joseph

TL;DR本研究提出针对树集合算法的两种新型分类器干扰算法，第一种算法使用 Mixed Integer Linear Program 求解器寻找在一定约束条件下的最优干扰实例，第二种算法通过基于符号预测的快速有限差分方法在速度和准确性之间进行权衡。在数字识别任务中，该研究证明了提升树和随机森林算法极易受到干扰，并通过增加干扰实例的训练集来提高提升树的鲁棒性，不会对其分类准确性造成影响。

Abstract

classifier evasion consists in finding for a given instance $x$ the nearest instance $x'$ such that the classifier predictions of $x$ and $x'$ are different. We present two novel algorithms for systematically computing evasions for →

classifier evasion tree ensembles mixed integer linear program solver symbolic prediction adversarial boosting

发现论文，激发创造

树集合中更快的重复规避攻击

构建树集成模型中对抗样本的计算挑战和特征扰动的快速识别方法。

Feb, 2024

Treant: 训练逃避感知的决策树

本文提出一种基于威胁模型的决策树学习算法 Treant，通过采用坚固分裂和攻击鲁棒性等两种技术手段，使得学习过程更为完整、高效，有效提高抗攻击性能。

Jul, 2019

测试时针对机器学习的逃避攻击

本文研究了机器学习在安全敏感应用中的应用，提出了一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对 PDF 文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。

Aug, 2017

在暗中变形躲避分类器

研究黑盒条件下使用得分机制的攻击方法 EvadeHC，该方法在两种 PDF 恶意软件检测器上实现了百分百攻击，大于已知的分类器攻击技术。

May, 2017

对抗规避攻击的攻击树分析

该研究提出了一种使用攻击树分析逃避攻击风险的量化评估方法，通过引入深度学习和传统攻击节点来表示逃避攻击的各种特征，并提出了构建攻击树的系统性构建过程，最后通过实验验证了该方法的多功能性和有效性。

Dec, 2023

回避凸诱导分类器的查询策略

本研究探讨了如何利用查询算法使得恶意行为能够在尽可能少的修改成本下规避分类器的检测，同时还研究了凸诱导分类器家族中的近似最小代价问题。我们发现，该家族可实现近乎最优的规避，同时还可以处理不同的 lp 成本。

Jul, 2010

凸诱导分类器的近最优躲避

研究如何有效查询分类器来获取信息，从而使对手以几乎最小的代价躲避检测，并使用多项式查询算法构建几乎最小成本的未检测实例，而无需反向工程决策边界。

Mar, 2010

机器学习逃避攻击的解释引导诊断

本文介绍了一个新的框架，利用可解释的机器学习方法来指导高保真度评估机器学习逃避攻击，使用恶意软件和图像分类器进行综合评估，揭示了对抗样本与其上的对应扰动之间的关联差距，并展示了该方法对于评估机器学习模型鲁棒性的广泛使用。

Jun, 2021

对抗样本下的强健决策树

本文研究了树模型中对抗样本和模型稳健性的问题，并提出了一种优化决策树构建过程的算法，通过在最坏情况下的输入特征扰动下优化性能，可以显著提高树模型对抗样本的稳健性。

Feb, 2019

可验证的增强树集合

可验证学习通过训练机器学习模型实现高效的安全验证，该研究从基本集成方法扩展到高级增强树集成，证明了多项式时间内对某些攻击者的强健性验证是可实现的，但对于其他基于范数的攻击者仍然是 NP - 难的。

Feb, 2024