利用对抗对比学习提高目标检测器对常见干扰的鲁棒性

Nov, 2023

利用对抗对比学习提高目标检测器对常见干扰的鲁棒性

Towards Improving Robustness Against Common Corruptions in Object Detectors Using Adversarial Contrastive Learning

Shashank Kotyan, Danilo Vasconcellos Vargas

TL;DR该研究提出了一种创新的对抗对比学习框架，通过生成实例级对抗样本和优化对比损失，增强了神经网络对抗攻击和常见扭曲的鲁棒性，同时通过对比学习增强了干净样本与对抗样本之间的相似性，从而使得表示具有对抗攻击和常见扭曲的抵抗力。通过改善对抗和实际应用条件下的性能，该方法旨在增强神经网络在安全关键应用中的鲁棒性，如自主车辆在不可预测的天气条件下行驶。我们预计这个框架将有助于提高神经网络在具有挑战性环境中的可靠性，促进其在任务关键场景中的广泛应用。

Abstract

neural networks have revolutionized various domains, exhibiting remarkable accuracy in tasks like natural language processing and computer vision. However, their vulnerability to slight alterations in input samples poses challenges, particularly in safety-critical applications like aut

neural networks adversarial contrastive learning robustness adversarial attacks common distortions

发现论文，激发创造

对比对抗训练中通过认知失调缓解实现健壮性

本文介绍了一种新的神经网络训练框架，通过将对比学习与对抗训练相结合，增强了模型对对抗攻击的鲁棒性，同时保持高干净度的准确性。作者发现对比学习有助于提高对抗性鲁棒性，并使用 CIFAR-10 数据集验证了他们的方法，发现其优于其他监督和自监督方法。

Mar, 2022

自监督方法提高对抗性鲁棒性

本文首次提出了一种自我监督的对抗训练机制，在输入空间中防御对抗性攻击，并提供极大的鲁棒性，可以作为即插即用的解决方案来保护各种视觉系统，包括分类、分割和检测，同时极大降低了未知攻击的成功率。

Jun, 2020

优化针对常见扰动的稳健性：基于类别专家混合模型的研究

通过引入一种称为 Mixture of Class-Specific Expert Architecture 的新范式，该研究旨在增强神经网络在现实场景中的可适应性和性能，通过为每个类别训练专用的网络段并聚合它们的输出来减轻常见神经网络结构所带来的漏洞。研究还强调全面评估方法论的重要性，倡导引入常见损坏基准，以提供关于神经网络的脆弱性和对未知扭曲的泛化能力及鲁棒性的细致洞察。该研究旨在促进对神经网络局限性的深入理解，并提出一种增强它们在不断变化和不可预测条件下韧性的实用方法。

Nov, 2023

对抗性鲁棒性和普通扰动鲁棒性是否独立属性？

本文探讨了神经网络在面对平移、对比度下降等常见扰动时的稳健性与面临恶意输入时的对抗性之间的联系，提供了一个基准测试作为评价神经网络对常见扰动的稳健性，证明了提高神经网络对特定常见扰动的稳健性可以提高它们对未见过的常见扰动的稳健性，同时还说明了对抗对抗性和常见扰动稳健性是相互独立的。

Sep, 2019

对抗智能意识强鲁棒性目标检测器

本文介绍了一种基于对抗神经网络（Adversarial Neural Network）的 Robust Detector，采用了 Adversarial Image Discriminator 和 Consistent Features with Reconstruction 等方法，大大提高了在 PASCAL VOC 和 MS-COCO 数据集上物体检测模型在对抗干扰下的鲁棒性。

Jul, 2022

对抗样本是噪声下测试误差的自然结果

该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

Jan, 2019

认证鲁棒神经网络：泛化和抗污染性

通过提出综合强健的（HR）训练程序，理论和实验证明了其在对抗错误损失方面具有 SOTA 性能，并克服了在敌对训练中普遍存在的过度拟合问题。

Mar, 2023

使神经网络对多种图像污染具有鲁棒性的简单方法

该研究论文证明，通过对图像识别模型进行简单但适当的高斯噪声和斑点噪声训练，可以使其具有更好的泛化能力和对不同类型损坏更强的鲁棒性，并结合敌对训练方法进一步提高性能。

Jan, 2020

准确性和鲁棒性是否相关？

通过利用深度卷积神经网络生成对抗性样本，然后比较不同的生成技术在产生图像质量和测试机器学习模型鲁棒性方面的差异，最后在跨模型对抗迁移上进行了大规模实验，研究结果表明对抗性样本在相似的网络拓扑间是可传递的，并且更好的机器学习模型更不容易受到对抗性样本的攻击。

Oct, 2016

建立稳健模型的简单结构

通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略，我们建议了一个简单的架构来构建具有一定鲁棒性的模型，该模型能够适应许多不同的对抗攻击，并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。

Apr, 2022