对抗机器学习研究中的合成数据集生成

Jul, 2022

对抗机器学习研究中的合成数据集生成

Synthetic Dataset Generation for Adversarial Machine Learning Research

Xiruo Liu, Shibani Singh, Cory Cornelius, Colin Busho, Mike Tan...

TL;DR本研究使用 CARLA 模拟器生成综合数据集，使其具有逼真的对抗性示例攻击，并使用处理和转换效果与真实世界图像相同的模拟攻击来说明其与现实的相关性。

Abstract

Existing adversarial example research focuses on digitally inserted perturbations on top of existing natural image datasets. This construction of adversarial examples is not realistic because it may be difficult, or even impossible, for an attacker to deploy such an attack in the real-

adversarial examples cyber-physical systems synthetic dataset carla simulator realistic attacks

发现论文，激发创造

提高机器学习合成数据的逼真度研究

本研究着眼于深入评估和比较对于机器学习的通用合成数据的对抗训练效果，并旨在使用未标记的真实数据条件下的合成 - 真实生成模型将合成图像转化为更真实的风格，并通过定性和定量指标进行广泛的性能评估和比较。

Apr, 2023

人脸识别模型的模拟对抗测试

通过模拟器进行对抗测试，寻找机器学习模型的弱点并提供一种方法来发现这些弱点。该方法应用于人脸识别模型中，显示在常规的验证数据集之外，可以发现真实数据集训练的模型存在的弱点，包括对抗性合成人脸等。

Jun, 2021

生成自然对抗样本

本文提出了一种使用生成敌对网络在语义空间中搜索自然和易读的对抗性样本的框架，以验证黑盒子分类器的鲁棒性，并证明该方法可在图像分类，文本蕴含和机器翻译等广泛应用中有效。

Oct, 2017

合成鲁棒性对抗性样本

研究发现标准的神经网络产生对抗样本的方法在面临视角改变、噪声和其他自然变换的情况下无法在物理世界中持续地欺骗神经网络分类器，但此研究成功演示了存在强韧性的三维对抗性目标，提出了第一个能在所选择的转换分布中产生对抗性示例的算法，制造了首批物理对抗物体。

Jul, 2017

使用合成数据增广消除数据集偏差

本文探讨使用有针对性的合成数据增强 - 结合游戏引擎模拟和 sim2real 风格转移技术 - 填补视觉任务的真实数据集中的空缺。在三种不同的计算机视觉任务中（停车位检测，车道检测和单 ocular 深度估计），实证研究一致表明，将合成数据与真实数据混合训练能够显著提高交叉数据集的泛化性能。

Apr, 2020

生成（非软件）错误以愚弄分类器

本文提出了生成自然对抗样本的系统化方法，通过一些自然变化来模仿某种对象或信号，结果表明可以在图像分类模型和语音分类模型中成功生成对抗样本。

Nov, 2019

在 Carla 模拟器中对车辆检测器实施物理对抗攻击

本文提出了一种针对野外目标检测器的物理对抗样本生成方法，采用扩大重复和离散搜索两种技术，通过生成具有马赛克效果的对抗物体纹理，使其在视觉模拟器中不被检测器识别，实验结果证明了该方法的有效性。

Jul, 2020

探索在驾驶数据合成中的生成式人工智能应用

通过三种不同的生成式人工智能方法应用驾驶模拟器中的语义标签图作为创建真实数据集的桥梁，本文比较分析了这些方法的图像质量和感知能力，产生了包括驾驶图像和自动生成的高质量注释的新合成数据集，证明了扩散式方法可以提供改进的稳定性和解决 Sim2Real 挑战的替代方法。

Apr, 2024

生成对抗扰动

该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

Dec, 2017

PhysGAN：为自主驾驶生成物理世界鲁棒的对抗样本

通过 PhysGAN 产生物理世界中鲁棒性的对抗性样本，有效欺骗自动驾驶系统并在数字仿真和现实世界中进行评估，比其他基线方法表现更好，为攻击常规自动驾驶场景生成逼真和具有物理世界鲁棒性的对抗性样本的首个技术。

Jul, 2019