特征选择是否安全抵御针对训练数据的攻击？

Apr, 2018

特征选择是否安全抵御针对训练数据的攻击？

Is feature selection secure against training data poisoning?

Huang Xiao, Battista Biggio, Gavin Brown, Giorgio Fumera, Claudia Eckert...

TL;DR本文研究对抗性环境下的机器学习，特别是针对恶意攻击者注入有害数据时，特征选择会否带来益处或副作用的问题，并提供了一种框架来研究流行的特征选择方法的鲁棒性，结果表明特征选择方法在受到攻击下会受到较大影响，强调了需要特定的应对措施。

Abstract

Learning in adversarial settings is becoming an important task for application domains where attackers may inject malicious data into the training set to subvert normal operation of data-driven technologies. feature sel

adversarial settings feature selection machine learning malware detection countermeasures

发现论文，激发创造

对抗性特征选择抵御逃避攻击

该研究探讨了特征选择在对抗性环境下的安全性问题，并提出了一种面向对抗攻击的特征选择模型，以提高分类器的安全性。实验结果表明，该模型在垃圾邮件和恶意软件检测等应用场景具有较好的效果。

May, 2020

可靠的特征选择对抗性鲁棒性网络攻击检测

通过选择与网络攻击检测最相关的特征，在网络流量分析中训练机器学习模型所使用的高质量数据，可以提高模型的鲁棒性和计算效率。通过改进数据集、选择与时间相关的特征和更具体的特征集，以及进行对抗训练，机器学习模型在不损害正常流量传输的情况下显著提高了其抗对抗攻击的泛化能力，从而在企业计算机网络中可可靠地检测可疑活动和扰动流量。

Apr, 2024

预训练特征提取器的不可区分数据毒化攻击

在这篇论文中，我们研究了预训练特征提取器应用于后续任务时的数据污染攻击，主要包括输入空间攻击和特征目标攻击两种类型，实验结果表明后者对迁移学习更具威胁性。

Feb, 2024

通过异常检测在污染攻击中检测对抗训练样例

本文提出一种防御机制来弥补机器学习中数据毒化的影响，该机制基于离群值检测来检测所谓的最优攻击策略生成的对抗样本与真实样本之间的差异。

Feb, 2018

机器学习操作：回归学习的毒化攻击和对策

该论文系统研究了线性回归模型中的污染攻击和其对策，提出了一个特定于线性回归的理论优化框架，并设计了一种面对污染攻击高度抗干扰的新型防御方法。

Apr, 2018

野外模式再載：機器學習對抗訓練數據毒化安全綜述

本文对过去 15 年来关于机器学习中中毒攻击和防御的 100 多篇论文进行了全面的系统化概括和批判性点评，主要关注于视觉应用程序，并讨论了当前的限制和开放性的研究问题。

May, 2022

探索数据选择对后门攻击中的毒性效果的影响

本研究重点改进了从样本选择角度提高后门攻击的注入效率，并提出了一种名为改进过滤和更新策略（FUS++）的选择策略，实验证明该策略的攻击性能显著高于随机选择的攻击性能。

Oct, 2023

基于随机选择的认证防御数据污染攻击的框架

该论文提出了一种基于随机选择的认证防御体系抵御数据毒化攻击，能通过平均从训练集中抽样的子数据集的分类器预测来实现认证的鲁棒性，该体系允许用户利用训练集和毒化模型的先前知识提高认证准确性，实验表明该方法优于现有技术水平。

Sep, 2020

人工智能中的毒化攻击与防御：一项调研

本文综述了机器学习分类器训练中的数据污染攻击的安全漏洞，并介绍了几种可行的检测和缓解机制，比较了不同方法的性能以及固有属性，如可靠性、隐私和可解释性。同时，提供了未来研究方向的参考。

Feb, 2022

数据毒化攻击的认证防御

对使用用户提供数据训练的机器学习系统进行的数据毒化攻击问题进行了探讨，构建了数据异常移除后采用经验风险最小化的防御方法下的攻击损失上限并给出了攻击方法，检验了在 MNIST-1-7，Dogfish 数据集上其防御能力较强，而在 IMDB 情感数据集上加入 3% 的毒化数据可将测试误差从 12% 提升至 23%。

Jun, 2017