Dec, 2020

非对抗性样本：为稳健视觉设计物体

PDF
TL;DR在现实的计算机视觉应用中，我们可以优化识别对象的设计，并开发了一个框架来利用这种优化来显著提高视觉模型的性能和鲁棒性，通过利用现代机器学习算法对输入扰动的敏感性来设计 “鲁棒对象”，即明确优化为可信检测或分类的对象。我们展示了这一框架在各种基于视觉的任务上的有效性，涵盖了从标准基准测试，到（模拟中的）机器人，再到真实世界实验。
computer visionobject recognitionmachine learningperformanceoptimization
发现论文，激发创造
  • 通过构件设计的对抗鲁棒性

    在交通标志识别领域中，我们提出了一种改进对抗鲁棒性的新方法，通过重新定义标准并进行微小的变化来抵御对抗样本。与最先进的方法相比，我们的方法在两种攻击类型下，以及对于良性输入，显著提高了鲁棒准确率，达到高达 25.18％的提升。

    Feb, 2024

  • 合成鲁棒性对抗性样本

    研究发现标准的神经网络产生对抗样本的方法在面临视角改变、噪声和其他自然变换的情况下无法在物理世界中持续地欺骗神经网络分类器，但此研究成功演示了存在强韧性的三维对抗性目标，提出了第一个能在所选择的转换分布中产生对抗性示例的算法，制造了首批物理对抗物体。

    Jul, 2017

  • 朝向对抗鲁棒目标检测

    本研究从模型鲁棒性的角度出发，对目标检测模型和对抗攻击进行了系统分析，提出了一种多任务学习的视角和不对称的任务损失，并进一步开发了一种基于多种攻击源提高检测模型鲁棒性的对抗训练方法，实验证明了其有效性。

    Jul, 2019

  • 对抗鲁棒学习理论基础

    本文提出了一种学习算法，旨在解决对抗性示例对机器学习模型的攻击，并尝试通过设计新的算法和理论分析来提高其鲁棒性和性能。

    Jun, 2023

  • 建立稳健模型的简单结构

    通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略，我们建议了一个简单的架构来构建具有一定鲁棒性的模型，该模型能够适应许多不同的对抗攻击，并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。

    Apr, 2022

  • 计算机视觉深度学习方法的非对抗性鲁棒性

    本论文简要概述了提高计算机视觉模型稳健性的最新技术，以及用于评估模型性能的常用鲁棒性基准数据集，并审视了所审查方法的优点和局限性，鉴别了深度学习稳健性改进的一般趋势。

    May, 2023

  • 无限制的对抗样本

    本研究引入了一个两人对弈的竞赛，用于评估机器学习系统的安全性和鲁棒性，针对非范数约束的对手进行研究。 防御方提交机器学习模型，试图在非对手数据上实现高准确性和覆盖率，并在对抗性输入上没有自信错误。 攻击者试图通过寻找任意的明确输入，在其高置信度下将错误标签分配给模型来破坏防御。 我们提出了一个简单的明确数据集（“鸟或自行车”）作为本竞赛的一部分。 我们希望这个竞赛能够帮助更全面地评估机器学习模型的最坏对抗风险。

    Sep, 2018

  • 对抗智能意识强鲁棒性目标检测器

    本文介绍了一种基于对抗神经网络（Adversarial Neural Network）的 Robust Detector，采用了 Adversarial Image Discriminator 和 Consistent Features with Reconstruction 等方法，大大提高了在 PASCAL VOC 和 MS-COCO 数据集上物体检测模型在对抗干扰下的鲁棒性。

    Jul, 2022

  • FROD: 强健的免费物体检测

    本研究旨在利用对抗训练的分类模型作为目标检测的骨干，在不增加计算开销的情况下提高目标检测的鲁棒性，通过引入仿真损失和延迟对抗训练两个轻量级组件进一步增强鲁棒性。在 MS-COCO 和 Pascal VOC 数据集上进行了大量实验证明了我们提出方法的有效性。

    Aug, 2023

  • 简单透明对抗样本

    通过引入秘密嵌入和透明对抗性示例作为一种更简单的评估鲁棒性的方法，本文在实际部署的 Google Cloud Vision API 和 Microsoft Azure 的 Computer Vision API 等场景下评估其恶意攻击的成功率，结果表明这种方法非常容易使人产生视觉上的欺骗，并能成功逃避现有的最先进 API，为当前研究提供一种补充的鲁棒性评估方法。

    May, 2021