利用 k-means 进行图像分类的对抗鲁棒性

Dec, 2023

利用 k-means 进行图像分类的对抗鲁棒性

Adversarial Robustness on Image Classification with $k$-means

Rollin Omari, Junae Kim, Paul Montague

TL;DR本研究探讨了增强 $k$-means 聚类算法对抗性操纵的挑战和策略，评估了聚类算法对抗性攻击的易受攻击性，强调了相关的安全风险，并研究了攻击强度对训练的影响，引入了有监督和无监督模型之间的可传递性概念，并突出了无监督模型对样本分布的敏感性。此外，我们还引入和评估了一种对抗性训练方法，该方法提高了在对抗情景下的测试性能，并强调了所提出训练方法中的各种参数的重要性，如连续学习、质心初始化和对抗步数。

Abstract

In this paper we explore the challenges and strategies for enhancing the robustness of $k$-means clustering algorithms against adversarial manipulations. We evaluate the vulnerability of clustering algorithms to adversa

robustness k-means clustering algorithms adversarial attacks transferability adversarial training method

发现论文，激发创造

深度聚类模型的鲁棒性：对抗攻击与防御

本文介绍了一种基于生成对抗网络的黑盒攻击，旨在分析和提高当前最先进的深度聚类模型的鲁棒性。经过实验验证，本篇研究发现传统无监督防御方法无法有效抵御这种攻击方式，从而呼吁开发更为鲁棒的深度聚类模型。

Oct, 2022

对聚类算法的无疑惑对抗性攻击

本研究提出了一种黑盒对于线性可分聚类模型的对抗攻击方法，在不知道真实度量的情况下生成溢出性对抗样本，攻击强度高且难以被检测，被证明能够成功攻击多种数据集与聚类算法。

Nov, 2019

无监督机器学习中对抗鲁棒性：一项系统综述

本文通过系统的文献综述，收集了 86 篇相关文献。结果表明，大多数的研究都集中在隐私攻击上，虽然有有效的防御手段，但是很多攻击缺乏有效和普适的防御措施。基于这些结果，我们提出了针对无监督学习攻击的模型，为未来的研究提供了一个可供使用的模型。

Jun, 2023

污染聚类的黑盒对抗攻击

本文提出了一种针对聚类算法鲁棒性的黑盒对抗攻击算法，该算法可以通过一个黑盒聚类算法生成对抗性样本，并对其鲁棒性进行测试，实验结果表明该算法可以有效测试不同类型的聚类算法的鲁棒性。

Sep, 2020

评估语义分割模型的对抗鲁棒性

该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

Jun, 2023

对抗性环境下数据聚类是否安全？

本论文介绍了攻击聚类算法的潜在风险以及如何评估攻击的影响，提出了一般性框架，重点研究了单链接分层聚类。

Nov, 2018

具有最优性保证的对抗鲁棒聚类

本文提供了一种新的算法，针对子高斯混合数据，能够在存在异常值的情况下，获得最佳错误率的相对较强聚类结果。

Jun, 2023

评估文档图像分类的对抗鲁棒性

本文探讨了针对文档和自然数据的对抗攻击方法，并通过对 ResNet50 和 EfficientNetB0 模型架构的对抗训练、JPEG input 压缩和灰度输入变换等方法的研究，对文件图像分类任务中这些攻击的影响进行了评估。

Apr, 2023

图像分类器的鲁棒性和不变性属性

本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

Aug, 2022

分析最近邻居对于对抗样本的鲁棒性

本文针对分类器的测试攻击问题，引入了一种理论框架，类似于偏差 - 方差理论，并使用该框架对一种典型的非参数分类器 - k 最近邻分类器的鲁棒性进行了分析，并提出了一种新的修改的 1 最近邻分类器，其在大样本极限下具有良好的鲁棒性。

Jun, 2017