May, 2019

图像问题：可扩展的攻击性和不合规内容 / 产品图片中的商标检测

PDF
TL;DR本文介绍了一种计算机视觉的非法和非合规图像检测系统，解决了真实世界产品图像数据应用深度学习所面临的挑战，该系统结合了最先进的图像分类和目标检测技术，并采用定额众包的方法进行开发。
发现论文，激发创造
  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019

  • 预防性图像稳健处理以保护用户免受中间人攻击

    本论文提出了一种新颖的双层优化算法，该算法可以在自然图像环境下找到对抗扰动鲁棒的点，有效提高图像识别的鲁棒性。

    Dec, 2021

  • 可转移的学习图像压缩抗扰动

    对利用学习型图像压缩器作为预处理模块的图像分类模型进行了具有增强传递性的对抗攻击方法的探索与实验。

    Jan, 2024

  • 语义对抗样本

    本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

    Mar, 2018

  • 揭示生成图像检测数据集中的常见偏差：伪造还是 JPEG？

    该研究讨论了使用生成图像模型检测人工内容的紧迫性，并指出当前的数据集中存在与 JPEG 压缩和图像大小相关的偏差。研究还展示了去除这些偏差对 JPEG 压缩的鲁棒性和评估检测器的不同生成器间性能的显著影响，其中 ResNet50 和 Swin-T 检测器在 GenImage 数据集上的不同生成器间性能提高了超过 11 个百分点，达到了最先进的结果。

    Mar, 2024

  • 保护和疫苗接种深度学习：利用 JPEG 压缩防御入侵者

    使用 JPEG 压缩作为分类管道中的预处理步骤，可以在对抗性攻击中起到作用，通过移除高频信号成分从而消除加性扰动。我们还提出了一种基于集合的技术，该技术可以快速构建一个性能良好的 DNN 集成，通过利用 JPEG 压缩来保护模型免受多种类型的对抗性攻击，而不需要了解模型。

    May, 2017

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022

  • 现实有多真实？一种无限制对抗样本的人类评估框架

    通过对图像领域的方法进行调查，我们注意到对所提议的图像修改进行人类评估的需求。基于现有的图像生成质量人类评估框架，我们提出了 SCOOTER - 一种用于无限制图像攻击的评估框架。它为研究人员提供了进行具有统计意义的人类实验的指南，标准化问题以及可直接使用的实现。我们提出了一种框架，允许研究人员分析他们的无限制攻击是否真正不可察觉。

    Apr, 2024

  • 深度学习中 JPEG 压缩缺陷的分析和缓解

    本文研究了 JPEG 压缩对常见计算机视觉任务和数据集的影响，发现高度压缩会显著损害图像识别性能，进而尝试采取几种方法来缓解该损害，其中包括一种不需标签训练的基于伪影校正的新方法。

    Nov, 2020

  • 评估文档图像分类的对抗鲁棒性

    本文探讨了针对文档和自然数据的对抗攻击方法，并通过对 ResNet50 和 EfficientNetB0 模型架构的对抗训练、JPEG input 压缩和灰度输入变换等方法的研究， 对文件图像分类任务中这些攻击的影响进行了评估。

    Apr, 2023