通过模型对齐提高对抗性迁移能力

Nov, 2023

通过模型对齐提高对抗性迁移能力

Improving Adversarial Transferability via Model Alignment

Avery Ma, Amir-massoud Farahmand, Yangchen Pan, Philip Torr, Jindong Gu

TL;DR该研究介绍了一种新的模型对齐技术，旨在改善给定源模型生成可转移对抗干扰的能力。通过减小对齐损失来微调源模型的参数，该损失量化了源模型和另一个独立训练的模型（称为观察模型）之间的预测差异。在 ImageNet 数据集上进行的实验表明，与原始源模型相比，从对齐源模型生成的干扰具有明显更高的可转移性。

Abstract

neural networks are susceptible to adversarial perturbations that are transferable across different models. In this paper, we introduce a novel model alignment technique aimed at improving a given source model's

neural networks adversarial perturbations model alignment transferability loss landscape

发现论文，激发创造

理解和提升对抗样本的可迁移性

本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

Feb, 2018

非对抗式无监督单词翻译

本文介绍了一种基于迭代匹配方法的无监督单词翻译方法，该方法在欧洲和非欧洲语言单词翻译任务中表现优于最新的深度对抗方法，并且具有可解释性。

Jan, 2018

深度神经网络中对抗性样本的可迁移性调查

深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

Oct, 2023

如何选择可转移攻击的最佳盟友？